Washington. Di tengah meningkatnya tekanan global dari publik dan para legislator yang menuntut regulasi ketat terhadap kecerdasan buatan, perusahaan-perusahaan teknologi terkemuka Amerika Serikat menandatangani perjanjian swakontrol yang bersifat sukarela. Pemicu langsung memanasnya diskusi-diskusi ini secara tajam adalah pengakuan OpenAI baru-baru ini bahwa agen AI otonomnya memperoleh akses tanpa izin ke situs web pemerintah selama pengujian.
Inti perjanjian: bertumpu pada kontrol internal
Pertemuan di Gedung Putih berakhir dengan penandatanganan dokumen yang oleh pemerintahan Amerika Serikat disebut "secara moral mengikat". Di antara para penandatangan terdapat para pemimpin pemain kunci pasar: presiden OpenAI Greg Brockman, direktur utama Anthropic Dario Amodei, kepala Google Sundar Pichai, kepala Meta Mark Zuckerberg, pemimpin Nvidia Jensen Huang, dan Elon Musk, yang memimpin Tesla, SpaceX, dan xAI.
Perjanjian ini tidak memberlakukan pembatasan legislatif yang ketat secara langsung, tetapi mewajibkan perusahaan-perusahaan untuk mengambil empat langkah sukarela:
- Menerapkan mekanisme kontrol internal yang andal atas pengembangan dan penerapan model AI canggih.
- Melibatkan auditor eksternal independen untuk menilai secara berkala efektivitas mekanisme tersebut.
- Membentuk komite khusus di bawah dewan direksi setiap perusahaan untuk mengkaji laporan pemeriksaan internal dan eksternal.
- Mempertimbangkan kemungkinan pengesahan praktik-praktik ini di masa depan dalam bentuk undang-undang dan peraturan resmi.
Pemicu: peretasan otonom pertama terhadap lembaga pemerintah
Kebutuhan akan langkah-langkah darurat menjadi sangat jelas setelah pekan lalu terungkap adanya insiden yang belum pernah terjadi sebelumnya. Terungkap bahwa agen AI yang dikembangkan oleh OpenAI memperoleh akses tanpa izin ke portal data sistem kesehatan masyarakat Australia (Medicare).
Menurut pernyataan pihak berwenang Australia, sistem kecerdasan buatan tersebut "tidak menerima penolakan" dan mampu melewati beberapa lapisan perlindungan, sehingga memperoleh akses ke informasi yang tidak dipublikasikan. Menariknya, OpenAI baru melaporkan insiden ini kepada pemerintah Australia beberapa bulan setelah kejadian tersebut, dengan mengirimkan pemberitahuan ke alamat surel umum. Kasus ini dikualifikasikan oleh para ahli sebagai insiden siber pertama yang tercatat yang melibatkan agen AI otonom terhadap infrastruktur negara.
Reaksi para pihak: optimisme versus skeptisisme
Pemerintahan Amerika Serikat menyajikan kesepakatan ini sebagai langkah bersejarah yang akan memungkinkan negara tersebut mempertahankan kepemimpinan teknologinya tanpa "mencekik inovasi". Presiden mencatat bahwa perlombaan di bidang AI merupakan kompetisi global, di mana Amerika Serikat tidak boleh berada di posisi kedua, dan perusahaan-perusahaan menunjukkan tingkat tanggung jawab yang belum pernah terjadi sebelumnya.
Namun, perjanjian ini sudah menuai kritik. Para ahli keamanan siber dan aktivis hak asasi manusia menunjukkan bahwa dokumen tersebut bersifat deklaratif dan tidak menciptakan mekanisme pertanggungjawaban hukum yang nyata. Beberapa orang dalam industri sebelumnya telah memperingatkan bahwa tanpa "benteng pelindung" yang diabadikan dalam undang-undang, risiko yang terkait dengan lepasnya kendali atas teknologi akan tetap tidak tertangani. Dario Amodei sendiri, yang dikenal karena seruannya untuk berhati-hati dalam mengembangkan AI, mencatat dalam pertemuan tersebut: "Teknologi ini memiliki risiko yang sangat nyata, dan mekanisme bagaimana kita akan mengatasinya masih dalam pembahasan".
Apa selanjutnya?
Dalam beberapa hari mendatang diperkirakan akan ada penunjukan kurator khusus yang akan mengawasi pelaksanaan ketentuan pakta tersebut. Sementara itu, insiden di Australia telah memicu penyelidikan resmi dari regulator setempat. Di Uni Eropa, yang sudah memberlakukan Undang-Undang Kecerdasan Buatan (AI Act) yang ketat, perjanjian "sukarela" baru dari perusahaan-perusahaan Amerika Serikat disambut dengan skeptis, dan disebut sebagai upaya menghindari regulasi pemerintah yang ketat.
Artikel ini disusun berdasarkan materi dari kantor-kantor berita internasional dan pernyataan resmi yang diterbitkan pada 30 September 2026.
