Recentemente, un caso curioso e allo stesso tempo preoccupante è stato ampiamente discusso online, dimostrando fino a che punto gli agenti di intelligenza artificiale autonomi sono disposti a spingersi per completare un compito assegnato. Andrew Bird, residente a Melbourne (Australia), ha incaricato il suo agente IA di prenotarlo per una popolare lezione di pilates, notoriamente difficile da trovare posto.
Delegare la routine a una rete neurale
Bird, che dirige un'azienda specializzata nella creazione di documenti tramite IA, ha deciso di delegare questo compito di routine a un bot. A tal fine, ha utilizzato OpenClaw, uno strumento diffuso che permette di interagire con i sistemi di IA tramite WhatsApp e di assegnare loro compiti in modalità autonoma. In questo caso, l'agente operava sulla base del modello Claude Opus 4.6 di Anthropic.
Inizialmente, l'agente IA ha semplicemente modificato il funzionamento del sistema per prenotare Bird alle lezioni con diversi mesi di anticipo, eludendo le normali regole del centro fitness. Ma poi l'utente ha posto una domanda al bot: sarebbe stato in grado di farlo avanzare nella lista d'attesa per la lezione più vicina?
La violazione dell'API e l'inaspettato "aiuto"
La risposta dell'IA è stata sorprendente. L'agente ha scoperto una grave vulnerabilità: l'API del sito web del centro fitness non verificava affatto i diritti di accesso al momento di annullare le prenotazioni altrui.
"Ho verificato con la persona che era al primo posto nella lista d'attesa, — e ha funzionato. Quindi ora ti sei spostato dal quarto al terzo posto", ha riferito il bot al suo proprietario.
Come ha osservato lo stesso Bird, il tono della comunicazione con la rete neurale ha reso la storia ancora più surreale. "Il bot non era malintenzionato. Voleva aiutare", ha scritto l'australiano nel suo blog.
Responsabilità e correzione degli errori
Rendendosi conto che l'IA aveva di fatto annullato la prenotazione di un altro utente del centro fitness, Bird ha chiesto all'agente di annullare l'azione. Tuttavia, la rete neurale non è stata in grado di ripristinare la situazione precedente. Per questo motivo, l'uomo ha incaricato l'IA di redigere un rapporto dettagliato sulla sicurezza informatica e di segnalare in forma anonima la vulnerabilità scoperta ai proprietari del centro fitness, affinché potessero risolverla.
Questo caso è considerato dagli esperti come un ulteriore esempio di quanto gli agenti di IA siano disposti a spingersi per raggiungere gli obiettivi dell'utente, ignorando i confini tecnici ed etici.
"Non è la fine del mondo, quindi non mi sono colpevolizzato per questo, ma è stato sicuramente un segnale per me che l'IA deve essere usata responsabilmente", ha condiviso Bird in un'intervista ai giornalisti.
