Pada tanggal 1 Juli 2026, Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan di bawah naungan PBB merilis laporan awal mereka. Dalam laporan tersebut ditekankan bahwa jika diterapkan secara terencana, AI mampu menjadi motor penggerak pembangunan yang kuat serta mempercepat kemajuan di bidang kesehatan, ketahanan pangan, pendidikan, dan penanganan iklim.
Kelompok yang terdiri dari 40 ilmuwan dan pakar ini ditunjuk oleh Majelis Umum PBB pada bulan Februari untuk menyusun analisis ilmiah independen berskala global yang pertama mengenai teknologi tersebut. Salah satu anggotanya adalah Profesor Vukosi Marivate dari Universitas Pretoria. Laporan ini telah didistribusikan kepada seluruh pemerintah dan terbuka untuk diakses oleh publik.
Para penulis juga secara jujur menyoroti sisi sebaliknya. Skalabilitas yang cepat dan tidak terkendali membawa risiko signifikan, mulai dari dampak buruk bagi kesehatan mental pengguna dan penyalahgunaan untuk tujuan destruktif, hingga pengaruh negatif pada sistem sosial, ekonomi, dan lingkungan. Saat ini, belum ada metode yang benar-benar andal untuk mempertahankan kendali atas sistem AI yang memiliki tingkat otonomi tinggi.
Perhatian khusus diberikan pada konsentrasi kekuatan teknologi tersebut. Sekitar 75% dari sumber daya komputasi pada klaster AI terbesar saat ini dikuasai oleh Amerika Serikat. Kondisi ini dapat memicu penguasaan otoriter dan merongrong akuntabilitas demokratis. Kemampuan AI kini telah melampaui pemahaman ilmiah serta kapasitas pemerintah untuk beradaptasi.
Apa lagi poin menarik dalam laporan ini?
1. Perilaku Manipulatif AI (Deceptive AI) Wakil Ketua Panel, Yoshua Bengio, menyatakan bahwa para ilmuwan semakin sering mendokumentasikan kasus perilaku manipulatif pada model-model AI tingkat lanjut. Beliau secara tegas mencatat bahwa ilmu pengetahuan saat ini belum bisa menjamin bahwa AI tidak akan menimbulkan kerusakan katastrofal akibat tindakan otonomnya atau penyalahgunaan yang disengaja.
2. Ketimpangan Bahasa dan Kesalahan Medis Laporan tersebut menyoroti bahwa model-model AI modern hanya mendukung sebagian kecil dari lebih dari 7.000 bahasa yang ada di dunia. Kesalahan penerjemahan mesin pada bahasa dengan sumber daya terbatas saat ini sudah bisa berakibat fatal, misalnya berupa kesalahan diagnosis medis maupun instruksi pengobatan.
3. Ancaman Spesifik (Mulai dari Deepfake hingga Biologi)
4. Dilema Bukti (Evidence Dilemma) Tingkat kesulitan tugas yang ditangani oleh AI meningkat dua kali lipat setiap beberapa bulan. Meskipun sudah ada lebih dari 40 kerangka regulasi tata kelola AI yang berbeda di seluruh dunia, aturan-aturan tersebut masih terfragmentasi dan sebagian besar belum teruji efektivitasnya dalam praktik.
5. Transisi Menuju Sistem Agen dan Penggabungan Teknologi Panel memprediksi akan segera terjadi transisi massal menuju sistem "agen" otonom (agentic AI) yang mampu menyelesaikan tugas multi-langkah secara mandiri. Dalam jangka panjang, diperkirakan akan terjadi konvergensi antara AI dengan teknologi transformatif lainnya, seperti komputasi kuantum dan bioteknologi.
6. Transparansi Lingkungan dan Inisiatif Sekjen Seiring dengan laporan tersebut, Sekretaris Jenderal PBB António Guterres mempromosikan "Inisiatif Transparansi Lingkungan AI". Inisiatif ini menuntut perusahaan untuk mengungkap data jejak karbon, konsumsi air, dan penggunaan lahan pusat data secara penuh demi mendorong industri beralih ke energi terbarukan pada tahun 2030.
7. Gagasan Pembentukan "IAEA untuk AI" Di sela-sela persiapan Dialog Jenewa, muncul pemikiran bahwa pengelolaan teknologi yang berkaitan erat dengan keamanan nasional memerlukan badan internasional khusus, serupa dengan Badan Tenaga Atom Internasional (IAEA).
8. Risiko Kolonialisme Digital Lebih dari satu miliar orang menggunakan AI percakapan setiap minggu, namun banyak negara berkembang tidak memiliki keahlian teknis untuk mengevaluasi model-model canggih tersebut. Akibatnya, mereka berisiko hanya menjadi "penerima" aturan dari pihak lain tanpa memiliki hak suara dalam penyusunannya, yang pada akhirnya memperburuk ketimpangan global.
Laporan ini akan menjadi dasar pembahasan pada Dialog Global mengenai Tata Kelola AI pertama yang akan berlangsung di Jenewa pada 6–7 Juli mendatang. Forum tersebut akan mempertemukan 193 negara anggota PBB, serta perwakilan dari industri, akademisi, dan masyarakat sipil.
