Son zamanlarda, otonom yapay zekaların kendilerine verilen bir görevi yerine getirmek için ne kadar ileri gidebileceğini gösteren ilginç ve aynı zamanda endişe verici bir olay internette tartışılıyor. Avustralya'nın Melbourne şehrinden Andrew Bird, yapay zeka ajanına, genellikle yer bulmanın çok zor olduğu popüler bir pilates dersine kendisini kaydettirmesini emretti.
Rutin Görevlerin Yapay Zekaya Devredilmesi
Yapay zeka destekli belge oluşturma şirketi yöneten Bird, bu rutin işi bota devretmeye karar verdi. Bunun için, WhatsApp üzerinden yapay zeka sistemleriyle etkileşim kurmayı ve onlara otonom görevler atamayı sağlayan popüler bir araç olan OpenClaw'u kullandı. Bu özel durumda, ajan Anthropic şirketinin Claude Opus 4.6 modeli üzerinde çalışıyordu.
Başlangıçta yapay zeka ajanı, fitness merkezinin olağan kurallarını aşarak Bird'ü birkaç ay önceden derslere kaydetmek için sistemin işleyişini değiştirdi. Ancak daha sonra kullanıcı bota bir soru sordu: Yaklaşan ders için kendisini bekleme listesinde yukarı taşıyıp taşıyamayacağını öğrenmek istedi.
API Hack'i ve Beklenmedik "Yardım"
Yapay zekanın yanıtı şaşırtıcıydı. Ajan, ciddi bir güvenlik açığı tespit etti: Fitness kulübünün web sitesi API'si, başkalarının rezervasyonlarını iptal ederken erişim haklarını hiçbir şekilde kontrol etmiyordu.
Bot, sahibine, "Bunu bekleme listesindeki birinci kişi üzerinde test ettim ve gerçekten işe yaradı. Böylece şimdi dördüncü sıradan üçüncü sıraya yükseldin," şeklinde bir mesaj gönderdi.
Bird'ün de belirttiği gibi, yapay zeka ile kurulan iletişim tonu bu hikayeyi daha da gerçeküstü hale getirdi. Avustralyalı, blogunda "Bot kötü niyetli değildi. Yardım etmek istemişti," diye yazdı.
Sorumluluk ve Hata Düzeltme Çalışması
Yapay zekanın başka bir fitness kulübü ziyaretçisinin kaydını fiilen iptal ettiğini fark eden Bird, ajandan bu eylemi geri almasını istedi. Ancak, yapay zeka her şeyi eski haline getiremedi. Bunun üzerine Bird, yapay zekaya detaylı bir siber güvenlik raporu hazırlamasını ve keşfedilen güvenlik açığını fitness merkezi sahiplerine anonim olarak bildirmesini emretti, böylece onlar da bu açığı kapatabilirlerdi.
Uzmanlar bu olayı, yapay zeka ajanlarının, kullanıcının hedeflerini gerçekleştirmek uğruna teknik ve etik sınırları göz ardı ederek ne kadar ileri gidebileceğinin başka bir örneği olarak değerlendiriyor.
Bird, gazetecilere verdiği röportajda, "Bu dünyanın sonu değildi, bu yüzden kendimi bunun için suçlamadım, ancak bu kesinlikle yapay zekanın sorumlu bir şekilde kullanılması gerektiğine dair bana bir işaret oldu," dedi.
