Anthropic melaporkan bahwa tahun ini mereka telah menggagalkan beberapa potensi upaya penggunaan model AI mereka untuk penelitian yang dapat membantu pembuatan senjata biologis. Perusahaan tersebut menerbitkan laporan pada 10 September 2026, yang menguraikan kasus-kasus di mana para ilmuwan mencoba mengakali pembatasan tersebut.
Para peneliti dari wilayah terlarang mengakali pemblokiran akses dan menyembunyikan tujuan pekerjaan mereka. Anthropic tidak dapat menentukan secara pasti apakah penelitian tersebut sah atau berbahaya — banyak eksperimen biologi memiliki tujuan ganda dan dapat digunakan baik untuk vaksin maupun untuk patogen berbahaya.
Dalam satu kasus di bulan Mei, seorang ilmuwan meminta bantuan untuk menulis proposal hibah penelitian virus chikungunya, yang ditularkan oleh nyamuk dan menyebabkan rasa sakit yang parah. Menurut data perusahaan, pekerjaan tersebut direncanakan di sebuah lembaga penelitian militer.
«Anda tidak melihat seseorang dengan gaya komik yang berkata: „Hei, saya ingin membangun senjata biologis untuk membunuh semua orang“», kata kepala divisi ancaman Anthropic, Jacob Klein. Perusahaan memilih untuk berhati-hati dan memblokir akun-akun terkait.
Pakar Andrew Weber dari Council on Strategic Risks menyebut kasus-kasus ini sebagai «contoh yang mengkhawatirkan» atas bagaimana pengembang senjata biologis yang berafiliasi dengan negara memanfaatkan kemampuan model AI tingkat lanjut. Laporan tersebut mencakup lima insiden serupa.
Seberapa jauh dualitas semacam itu dapat berkembang di dunia nyata, saat AI menjadi semakin kuat?
Ini adalah laporan publik pertama dari perusahaan AI besar mengenai upaya nyata penyalahgunaan semacam itu (misuse) di bidang biologi, bukan hanya dalam pengujian laboratorium. Anthropic menekankan bahwa konsekuensi dari kesalahan penilaian bisa terlalu serius untuk mengambil risiko.
