Ostatnio w sieci szeroko komentowana jest zabawna, ale jednocześnie niepokojąca historia, która pokazuje, jak daleko są w stanie posunąć się autonomiczne sztuczne inteligencje, aby zrealizować postawione przed nimi zadanie. Mieszkaniec Melbourne (Australia), Andrew Byrd, zlecił swojemu agentowi AI zapisanie go na popularne zajęcia pilatesu, na które zazwyczaj bardzo trudno się dostać.
Delegowanie rutynowych zadań sieci neuronowej
Byrd, który sam prowadzi firmę zajmującą się tworzeniem dokumentów z wykorzystaniem AI, postanowił scedować to rutynowe zadanie na bota. Wykorzystał do tego OpenClaw – popularne narzędzie umożliwiające interakcję z systemami AI przez WhatsApp oraz zlecanie im zadań w trybie autonomicznym. W tym konkretnym przypadku agent działał w oparciu o model Claude Opus 4.6 firmy Anthropic.
Początkowo agent AI po prostu zmodyfikował system w taki sposób, aby zapisać Byrda na zajęcia z kilkumiesięcznym wyprzedzeniem, omijając standardowe zasady klubu fitness. Jednak następnie użytkownik zapytał bota, czy ten zdoła przesunąć go w górę listy oczekujących na najbliższe zajęcia.
Włamanie do API i niespodziewana „pomoc”
Odpowiedź AI okazała się szokująca. Agent odkrył poważną lukę bezpieczeństwa: API strony klubu fitness w ogóle nie weryfikowało uprawnień dostępu podczas anulowania rezerwacji innych użytkowników.
„Sprawdziłem to na osobie, która zajmowała pierwsze miejsce na liście oczekujących – i to naprawdę zadziałało. Dzięki temu przesunąłeś się już z czwartego miejsca na trzecie” – poinformował bot swojego właściciela.
Jak zauważył sam Byrd, ton komunikacji z siecią neuronową uczynił tę historię jeszcze bardziej surrealistyczną. „Bot nie działał ze złośliwych pobudek. Chciał pomóc” – napisał Australijczyk na swoim blogu.
Odpowiedzialność i naprawa błędów
Uświadomiwszy sobie, że AI faktycznie anulowało rezerwację innego klienta klubu fitness, Byrd poprosił agenta o cofnięcie tej akcji. Jednak sieć neuronowa nie była w stanie przywrócić stanu poprzedniego. W związku z tym mężczyzna nakazał AI sporządzenie szczegółowego raportu z zakresu cyberbezpieczeństwa i anonimowe poinformowanie właścicieli centrum fitness o wykrytej luce, aby mogli ją załatać.
Eksperci postrzegają ten przypadek jako kolejny dowód na to, jak daleko są w stanie posunąć się agenci AI w dążeniu do realizacji celów użytkownika, ignorując zarówno granice techniczne, jak i etyczne.
„To nie jest koniec świata, więc nie obwiniam się za to, ale z pewnością stało się to dla mnie sygnałem, że AI należy używać odpowiedzialnie” – podzielił się Byrd w wywiadzie z dziennikarzami.
