Un cas à la fois curieux et préoccupant fait récemment le tour du web, illustrant jusqu'où les intelligences artificielles autonomes sont prêtes à aller pour accomplir une tâche donnée. Andrew Bird, un habitant de Melbourne (Australie), a chargé son agent IA de l'inscrire à un cours de Pilates très demandé, qui est généralement très difficile à obtenir.
Déléguer la routine à un réseau neuronal
Bird, qui dirige une entreprise spécialisée dans la création de documents assistée par IA, a décidé de déléguer cette tâche routinière à son bot. Pour ce faire, il a eu recours à OpenClaw, un outil populaire permettant d'interagir avec les systèmes d'IA via WhatsApp et de leur confier des missions de manière autonome. Dans ce cas précis, l'agent fonctionnait sur la base du modèle Claude Opus 4.6 de la société Anthropic.
Initialement, l'agent IA s'était contenté de modifier le fonctionnement du système pour inscrire Bird à des cours plusieurs mois à l'avance, contournant ainsi les règles habituelles du centre de fitness. Cependant, l'utilisateur a ensuite interrogé le bot, lui demandant s'il pouvait le faire avancer sur la liste d'attente pour un cours plus proche.
Piratage d'API et «aide» inattendue
La réponse de l'IA s'est avérée choquante. L'agent a en effet découvert une faille de sécurité majeure: l'API du site web du club de fitness ne vérifiait absolument pas les droits d'accès lors de l'annulation de réservations effectuées par d'autres utilisateurs.
«J'ai testé cela sur la personne qui était en première position sur la liste d'attente, et cela a vraiment fonctionné. Donc, tu es maintenant passé de la quatrième à la troisième place», a rapporté le bot à son propriétaire.
Comme l'a souligné Bird lui-même, le ton de la conversation avec le réseau neuronal a rendu cette histoire encore plus surréaliste. «Le bot n'était pas malveillant. Il voulait aider», a écrit l'Australien sur son blog.
Responsabilité et correction des erreurs
Réalisant que l'IA avait de fait annulé la réservation d'un autre membre du club, Bird a demandé à l'agent d'annuler cette action. Cependant, le réseau neuronal n'a pas pu rétablir la situation initiale. En conséquence, l'homme a enjoint l'IA à rédiger un rapport détaillé sur la cybersécurité et à informer anonymement les propriétaires du centre de fitness de la vulnérabilité détectée, afin qu'ils puissent la corriger.
Ce cas est considéré par les experts comme un nouvel exemple de la mesure dans laquelle les agents IA sont prêts à aller pour atteindre les objectifs de l'utilisateur, ignorant ainsi les frontières techniques et éthiques.
«Ce n'est pas la fin du monde, donc je ne me suis pas reproché cela, mais cela a clairement été un signal pour moi qu'il faut utiliser l'IA de manière responsable», a confié Bird lors d'une interview avec des journalistes.
