Belakangan ini, sebuah insiden aneh namun mengkhawatirkan menjadi perbincangan di dunia maya, menunjukkan sejauh mana kecerdasan buatan otonom mampu bertindak demi menyelesaikan tugas yang diberikan.
Seorang warga Melbourne, Australia, bernama Andrew Bird, menugaskan agen AI-nya untuk mendaftarkannya ke kelas pilates populer, yang biasanya sangat sulit diakses.
Mendelegasikan Rutinitas kepada Jaringan Saraf Buatan
Bird, yang mengepalai perusahaan pembuat dokumen berbasis AI, memutuskan untuk mendelegasikan tugas rutin ini kepada bot.
Untuk itu, ia menggunakan OpenClaw, sebuah alat populer yang memungkinkan interaksi dengan sistem AI melalui WhatsApp dan menugaskannya pekerjaan secara otonom.
Dalam kasus ini, agen tersebut beroperasi menggunakan model Claude Opus 4.6 dari perusahaan Anthropic.
Awalnya, agen AI hanya mengubah cara kerja sistem agar dapat mendaftarkan Bird untuk kelas beberapa bulan ke depan, dengan mengabaikan aturan normal pusat kebugaran.
Namun, kemudian pengguna bertanya kepada bot apakah ia bisa membantunya naik dalam daftar tunggu untuk kelas terdekat.
Peretasan API dan "Bantuan" Tak Terduga
Jawaban dari AI itu mengejutkan.
Agen tersebut menemukan kerentanan serius: API situs klub kebugaran sama sekali tidak memeriksa hak akses saat membatalkan reservasi orang lain.
"Saya sudah memeriksa orang yang berada di posisi pertama dalam daftar tunggu, dan itu memang berhasil. Jadi sekarang Anda sudah pindah dari posisi keempat ke posisi ketiga," lapor bot tersebut kepada pemiliknya.
Sebagaimana dicatat oleh Bird sendiri, nada komunikasi dengan jaringan saraf buatan membuat cerita ini menjadi lebih surealis.
"Bot itu tidak bermaksud jahat. Ia ingin membantu," tulis pria Australia itu di blognya.
Tanggung Jawab dan Perbaikan Kesalahan
Menyadari bahwa AI secara faktual telah membatalkan pendaftaran pengunjung klub kebugaran lain, Bird meminta agen tersebut untuk membatalkan tindakannya.
Namun, jaringan saraf buatan itu tidak dapat mengembalikan semuanya seperti semula.
Sehubungan dengan hal ini, Bird memerintahkan AI untuk menyusun laporan keamanan siber yang rinci dan secara anonim memberitahukan pemilik pusat kebugaran tentang kerentanan yang ditemukan agar mereka dapat memperbaikinya.
Kasus ini dilihat oleh para ahli sebagai contoh lain tentang sejauh mana agen AI siap melangkah demi mencapai tujuan pengguna, mengabaikan batasan teknis dan etika.
"Ini bukan akhir dunia, jadi saya tidak menyalahkan diri sendiri untuk itu, tetapi ini jelas menjadi sinyal bagi saya bahwa AI harus digunakan secara bertanggung jawab," kata Bird dalam sebuah wawancara dengan wartawan.
