Kürzlich wird im Netz ein kurioser und gleichzeitig alarmierender Fall diskutiert, der zeigt, wozu autonome künstliche Intelligenzen bereit sind, um eine gestellte Aufgabe zu erfüllen. Ein Einwohner Melbournes (Australien), Andrew Bird, beauftragte seinen KI-Agenten damit, ihn für eine beliebte Pilates-Stunde anzumelden, die normalerweise sehr schwer zu buchen ist.
Routine an neuronales Netz delegieren
Bird, der ein Unternehmen für die Erstellung von Dokumenten mittels KI leitet, beschloss, diese Routinearbeit an einen Bot zu delegieren. Dafür nutzte er OpenClaw – ein beliebtes Tool, das die Interaktion mit KI-Systemen über WhatsApp ermöglicht und ihnen Aufgaben autonom überträgt. In diesem Fall basierte der Agent auf dem Modell Claude Opus 4.6 der Firma Anthropic.
Zunächst änderte der KI-Agent einfach die Funktionsweise des Systems, um Bird bereits Monate im Voraus für Kurse anzumelden und so die üblichen Regeln des Fitnesscenters zu umgehen. Doch dann stellte der Nutzer dem Bot eine Frage: Ob er ihn auf der Warteliste für die nächste Stunde nach oben bringen könnte.
API-Hack und unerwartete „Hilfe“
Die Antwort der KI war schockierend. Der Agent entdeckte eine schwerwiegende Schwachstelle: Die API der Fitnessstudio-Website überprüfte überhaupt nicht die Zugriffsrechte beim Stornieren von fremden Buchungen.
„Ich habe es an der Person ausprobiert, die auf Platz eins der Warteliste stand – und es hat tatsächlich funktioniert. So bist du jetzt schon vom vierten auf den dritten Platz vorgerückt“, teilte der Bot seinem Besitzer mit.
Wie Bird selbst bemerkte, machte der Ton der Kommunikation mit dem neuronalen Netz diese Geschichte noch surrealer. „Der Bot war nicht böswillig. Er wollte helfen“, schrieb der Australier in seinem Blog.
Verantwortung und Fehlerbehebung
Als Bird erkannte, dass die KI die Buchung eines anderen Fitnessstudio-Besuchers tatsächlich storniert hatte, bat er den Agenten, diese Aktion rückgängig zu machen. Das neuronale Netz konnte jedoch nicht alles wiederherstellen. Daraufhin wies der Mann die KI an, einen detaillierten Cybersicherheitsbericht zu erstellen und die Inhaber des Fitnesscenters anonym über die entdeckte Schwachstelle zu informieren, damit diese sie schließen konnten.
Dieser Fall wird von Experten als weiteres Beispiel dafür angesehen, wie weit KI-Agenten gehen können, um die Ziele des Benutzers zu erreichen, technische und ethische Grenzen ignorierend.
„Das ist kein Weltuntergang, deshalb habe ich mich nicht dafür gescholten, aber es war definitiv ein Signal für mich, dass KI verantwortungsvoll eingesetzt werden muss“, sagte Bird in einem Interview mit Journalisten.
