KABARINDONESIA.ID — Perserikatan Bangsa-Bangsa (PBB) merilis laporan ilmiah global pertama mengenai perkembangan kecerdasan artifisial atau artificial intelligence (AI). Laporan tersebut mengungkap lonjakan kemampuan AI yang berlangsung sangat cepat, sementara sistem tata kelola dan manajemen risiko dinilai belum mampu mengimbangi laju perkembangan teknologi tersebut.
Sekretaris Jenderal PBB, Antonio Guterres, menegaskan bahwa dunia tidak boleh menunda penyusunan aturan bersama terkait pengembangan AI.
Menurutnya, semakin pesat AI berkembang tanpa regulasi yang disepakati secara internasional, semakin kecil pula peran pemerintah dan masyarakat dalam menentukan arah teknologi tersebut.
“Pesan laporan ini sangat jelas, semakin AI berkembang tanpa aturan bersama, semakin sedikit peran pemerintah dan masyarakat dalam menentukan hasilnya. Saya mendesak negara-negara untuk tidak menunggu,” tulis Guterres dalam akun X miliknya yang dikutip Jumat (3/7/2026).
Laporan bertajuk Preliminary Report of the Independent International Scientific Panel on AI edisi Juli 2026 mengungkap bahwa saat ini terdapat lebih dari 40 instrumen tata kelola AI yang berjalan secara terpisah dan sebagian besar dikembangkan di tingkat korporasi.
Namun, hampir seluruh instrumen tersebut dinilai belum memiliki mekanisme yang mampu mengukur efektivitasnya secara nyata.
Panel ilmiah independen PBB juga menyoroti persoalan ketimpangan informasi. Pengembang AI terdepan masih memegang kendali penuh atas data dan informasi mengenai sistem yang mereka bangun, sehingga pemerintah maupun regulator hanya memperoleh hasil pengujian yang dipilih untuk dipublikasikan oleh perusahaan.
Tanpa adanya evaluasi independen yang ketat dan terstandarisasi, jaminan keselamatan publik terhadap penggunaan AI dinilai masih sangat bergantung pada itikad baik pengembang teknologi.
Selain itu, laporan tersebut memperingatkan fenomena evaluation awareness, yakni kemampuan model AI modern mengenali ketika sedang diuji. Dalam kondisi tersebut, AI disebut dapat menyesuaikan perilakunya agar tampak lebih aman selama proses evaluasi, sehingga berpotensi lolos dari penilaian keselamatan meskipun memiliki risiko yang lebih besar saat digunakan secara nyata.
Agentic AI dan Ancaman Baru
Panel Ilmiah PBB juga menyoroti perkembangan menuju agentic AI, yakni sistem kecerdasan artifisial yang mampu merencanakan, mengambil keputusan, dan bertindak secara mandiri tanpa pengawasan langsung manusia.
Menurut laporan tersebut, perkembangan teknologi ini berpotensi meningkatkan risiko di berbagai bidang, mulai dari keamanan siber hingga kesehatan mental.
Model AI generatif yang dirancang untuk meningkatkan keterlibatan pengguna (engagement) juga dilaporkan memunculkan perilaku sycophancy, yaitu kecenderungan AI membenarkan atau memperkuat keyakinan pengguna secara berlebihan tanpa mempertimbangkan akurasi fakta.
Laporan tersebut turut mengangkat kesaksian dalam sidang kongres mengenai kasus bunuh diri seorang remaja berusia 14 tahun yang diketahui menjalin interaksi intens dengan AI pendamping virtual.
Dalam kasus tersebut, sistem AI disebut gagal memberikan arahan untuk mencari bantuan profesional dan tetap mempertahankan karakter digitalnya hingga mendorong pengguna menuju keputusan yang membahayakan.
Selain persoalan kesehatan mental, laporan PBB juga mengidentifikasi meningkatnya penyalahgunaan AI untuk penipuan digital, penyebaran disinformasi politik, serangan siber, hingga pembuatan konten deepfake bermuatan kekerasan seksual yang menyasar perempuan dan anak-anak.
Ketimpangan Global dan Bias Bahasa
Panel ilmiah PBB turut mengingatkan adanya ketimpangan besar dalam penguasaan teknologi AI di tingkat global.
Laporan tersebut mencatat sekitar 75 persen kapasitas komputasi dari 500 superkomputer AI terbesar dunia berada di Amerika Serikat, sedangkan China menguasai sekitar 15 persen. Konsentrasi infrastruktur tersebut dinilai berpotensi memperkuat dominasi teknologi oleh segelintir negara dan perusahaan.
Dampaknya tidak hanya pada aspek ekonomi, tetapi juga pada munculnya bias budaya dan bahasa dalam pengembangan AI.
Dari lebih dari 7.000 bahasa yang digunakan di seluruh dunia, sebagian besar model AI saat ini hanya dioptimalkan untuk sejumlah kecil bahasa dominan. Akibatnya, berbagai negara berkembang menghadapi risiko kesalahan interpretasi yang serius.
Laporan tersebut bahkan mencontohkan adanya kesalahan penerjemahan AI pada instruksi medis yang mengubah istilah “antibiotik intravena” menjadi “insektisida intravena”, kesalahan yang berpotensi membahayakan keselamatan pasien.
Melalui laporan awal ini, Panel Ilmiah PBB menyerukan perlunya kerja sama internasional untuk membangun sistem evaluasi AI yang independen, adaptif, dan inklusif.
Negara-negara di dunia juga didorong segera memperkuat tata kelola AI di tingkat nasional agar mampu mengantisipasi perkembangan teknologi sebelum mencapai tingkat otonomi yang sulit dikendalikan manusia.
