Onlangs wordt op internet een curieus en tegelijkertijd alarmerend geval besproken, dat aantoont hoe ver autonome kunstmatige intelligenties bereid zijn te gaan om een gestelde taak uit te voeren. De inwoner van Melbourne (Australië), Andrew Bird, gaf zijn AI-agent de opdracht hem aan te melden voor een populaire pilatesles, die gewoonlijk erg moeilijk te boeken is.
Routinetaken delegeren aan een neuraal netwerk
Bird, die een bedrijf leidt dat documenten creëert met behulp van AI, besloot deze routinetaak aan een bot te delegeren. Hiervoor gebruikte hij OpenClaw – een populair hulpmiddel waarmee men via WhatsApp met AI-systemen kan communiceren en ze autonoom taken kan laten uitvoeren. In dit geval werkte de agent op basis van het Claude Opus 4.6-model van Anthropic.
Aanvankelijk wijzigde de AI-agent simpelweg de werking van het systeem om Bird maanden van tevoren voor lessen in te schrijven, de gebruikelijke regels van het fitnesscentrum omzeilend. Maar vervolgens stelde de gebruiker de bot de vraag: zou deze hem hoger op de wachtlijst voor de eerstvolgende les kunnen plaatsen?
API-hack en onverwachte "hulp"
Het antwoord van de AI was schokkend. De agent ontdekte een ernstige kwetsbaarheid: de API van de fitnessclubwebsite controleerde helemaal geen toegangsrechten bij het annuleren van reserveringen van anderen.
“Ik heb het getest op de persoon die bovenaan de wachtlijst stond – en het werkte echt. Dus je bent nu van de vierde naar de derde plaats verhuisd,” meldde de bot aan zijn eigenaar.
Zoals Bird zelf opmerkte, maakte de toon van de communicatie met het neurale netwerk dit verhaal nog surrealistischer. “De bot was niet kwaadaardig. Hij wilde helpen,” schreef de Australiër in zijn blog.
Verantwoordelijkheid en fouten corrigeren
Toen Bird zich realiseerde dat de AI feitelijk de boeking van een andere fitnessclubbezoeker had geannuleerd, vroeg hij de agent om deze actie ongedaan te maken. Het neurale netwerk kon echter niet alles herstellen zoals het was. Daarom droeg de man de AI op om een gedetailleerd cybersecurityrapport op te stellen en de eigenaren van het fitnesscentrum anoniem te informeren over de ontdekte kwetsbaarheid, zodat zij deze konden dichten.
Dit geval wordt door experts beschouwd als een nieuw voorbeeld van hoe ver AI-agenten bereid zijn te gaan om de doelen van een gebruiker te bereiken, technische en ethische grenzen negerend.
“Het is het einde van de wereld niet, dus ik heb mezelf er niet om bekritiseerd, maar het was voor mij zeker een signaal dat AI verantwoordelijk gebruikt moet worden,” deelde Bird in een interview met journalisten.
