Kecerdasan buatan berkembang begitu cepat sehingga alarm tidak lagi hanya dibunyikan oleh para kritikusnya, tetapi juga oleh orang-orang yang pernah berdiri di titik awal industri AI modern.
Dan yang penting untuk ditegaskan: sebagian besar dari mereka tidak menentang AI secara umum. Mereka berbicara tentang hal lain — bahwa perlombaan menuju model yang semakin kuat berlangsung lebih cepat daripada munculnya aturan yang jelas tentang keamanan, pengendalian, dan tanggung jawab.
Salah satu suara yang paling dikenal adalah Geoffrey Hinton, salah satu "bapak baptis" AI modern. Setelah meninggalkan Google, ia menjadi jauh lebih terbuka dalam berbicara tentang risiko: dari penggusuran besar-besaran manusia dari pasar kerja hingga kemunculan sistem yang suatu hari nanti bisa menjadi lebih sulit dikendalikan daripada yang kita duga.
Tokoh kunci lainnya adalah Yoshua Bengio, juga salah satu perintis pembelajaran mendalam. Dalam beberapa tahun terakhir, ia semakin aktif menangani persoalan keamanan AI dan menyerukan agar negara-negara tidak menunggu terjadinya insiden besar, melainkan sejak awal membentuk pengawasan independen dan pembatasan bagi sistem-sistem yang paling kuat.
Pada 2023, Bengio mendukung surat terbuka yang menyerukan setidaknya selama setengah tahun menghentikan pelatihan sistem yang lebih kuat daripada GPT-4.
Di antara para penandatangan juga ada Elon Musk. Ia mendukung gagasan jeda dalam perlombaan model-model AI terbesar, agar selama waktu itu muncul aturan yang lebih andal, standar keamanan, dan cara pengendalian.
Seruan yang sama juga diikuti oleh salah satu pendiri Apple, Steve Wozniak. Belakangan ia secara khusus berbicara bahwa para pengembang harus lebih transparan dan bertanggung jawab atas kerugian yang dapat ditimbulkan oleh teknologi tersebut.
Di antara para intelektual paling terkenal adalah sejarawan dan penulis Yuval Noah Harari. Ia telah lama memperingatkan bahwa bahaya khusus AI tidak hanya terletak pada "mesin pintar", tetapi juga pada kemampuan algoritma untuk menghasilkan teks, gambar, dan konten yang meyakinkan secara massal. Menurutnya, hal ini dapat mengubah secara serius lingkungan informasi dan cara-cara orang mengambil keputusan.
Salah satu kritikus paling konsisten terhadap perlombaan tanpa kendali adalah profesor dari Universitas California di Berkeley Stuart Russell, salah satu penulis bersama salah satu buku teks paling terkenal tentang kecerdasan buatan.
Posisinya cukup sederhana: masalah muncul jika kita menciptakan sistem yang mampu mencapai tujuan lebih efisien daripada manusia, tetapi pada saat yang sama kita tidak dapat menjamin bahwa tujuan mereka benar-benar sejalan dengan tujuan kita.
Dan yang sangat mencolok, bahkan para pemimpin perusahaan AI terbesar pun mulai berbicara dengan lebih hati-hati.
Kepala Anthropic Dario Amodei Secara terbuka menyerukan pengembangan model-model tercanggih yang lebih lambat dan terkendali, agar metode keamanan dapat mengikuti kemampuan mereka. Ia mendukung pemeriksaan independen, standar bersama, dan kerja sama internasional.
Bahkan Sam Altman, kepala OpenAI, berulang kali berbicara tentang perlunya regulasi bagi sistem-sistem yang paling kuat dan bahwa perkembangan AI tidak boleh berubah menjadi perlombaan yang menempatkan kecepatan lebih penting daripada keamanan.
Gagasan serupa juga disampaikan oleh kepala Google DeepMind Demis Hassabis. Perusahaan-perusahaan AI terbesar semakin sering membahas pendekatan bersama untuk mengendalikan risiko-risiko yang paling serius.
Pada akhirnya, terbentuklah gambaran yang cukup paradoks.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman, dan lain-lain bisa sangat berbeda pendapat dalam menilai skala ancaman dan seberapa besar perkembangan perlu diperlambat. Namun mereka sepakat dalam satu hal: membiarkan AI yang sangat kuat sama sekali tanpa aturan adalah ide yang buruk.
Pada saat yang sama, ada juga para skeptis yang serius.
Sebagian ahli menganggap pembicaraan tentang «akhir umat manusia» sangat berlebihan dan mengingatkan bahwa sistem-sistem saat ini masih memiliki banyak keterbatasan.
Yang lain menduga bahwa perusahaan-perusahaan AI besar diuntungkan dengan mendukung pembicaraan tentang regulasi yang ketat, karena hal itu dapat mempersulit kehidupan para pesaing kecil.
Oleh karena itu, seputar topik ini berlangsung perdebatan yang sangat serius, dan tidak ada kesepakatan tunggal di kalangan komunitas ilmiah.
Namun faktanya sendiri patut dicatat: beberapa tahun lalu, pertanyaannya berbunyi seperti:
«Apa yang mampu dilakukan AI?»
Kini semakin sering orang mengajukan pertanyaan lain:
«Dan apakah kita masih sempat belajar mengendalikannya sebelum ia menjadi terlalu kuat?»
