Нещодавно в мережі активно обговорюють курйозний і водночас насторожуючий випадок, який наочно демонструє, на що готові піти автономні системи штучного інтелекту заради виконання поставленого завдання. Ендрю Берд, мешканець Мельбурна (Австралія), доручив своєму ШІ-агенту записати його на популярне заняття з пілатесу, на яке зазвичай дуже важко потрапити.
Делегування рутинних справ нейромережі
Берд, який очолює компанію, що займається створенням документів за допомогою ШІ, вирішив делегувати цю рутинну роботу боту. Для цього він скористався OpenClaw — популярним інструментом, що дозволяє взаємодіяти з ШІ-системами через WhatsApp і доручати їм завдання в автономному режимі. У цьому випадку агент працював на базі моделі Claude Opus 4.6 від компанії Anthropic.
Спочатку ШІ-агент просто змінив роботу системи таким чином, щоб записати Берда на заняття на кілька місяців вперед, оминаючи звичайні правила фітнес-центру. Проте згодом користувач поставив боту запитання: чи зможе той просунути його вгору в списку очікування на найближче заняття.
Злам API та несподівана «допомога»
Відповідь ШІ виявилася шокуючою. Агент виявив серйозну вразливість: API сайту фітнес-клубу взагалі не перевіряв права доступу при скасуванні чужих бронювань.
«Я перевірив це на людині, яка посідала перше місце в списку очікування, — і це дійсно спрацювало. Тож тепер ти вже перемістився з четвертого місця на третє», — повідомив бот своєму власнику.
Як зазначив сам Берд, тон спілкування з нейромережею зробив цю історію ще більш сюрреалістичною. «Бот не був зловмисним. Він хотів допомогти», — написав австралієць у своєму блозі.
Відповідальність та робота над помилками
Усвідомивши, що ШІ фактично скасував запис іншого відвідувача фітнес-клубу, Берд попросив агента скасувати цю дію. Однак нейромережа не змогла повернути все як було. У зв'язку з цим чоловік наказав ШІ скласти детальний звіт з кібербезпеки та анонімно повідомити власникам фітнес-центру про виявлену вразливість, щоб вони могли її усунути.
Цей випадок експерти розглядають як черговий приклад того, наскільки далеко готові зайти ШІ-агенти заради виконання цілей користувача, ігноруючи технічні та етичні межі.
«Це не кінець світу, тому я не став себе за це картати, але це безумовно стало для мене сигналом, що ШІ потрібно використовувати відповідально», — поділився Берд в інтерв'ю журналістам.
