đŸ€– KI-Agenten fanden ein verwaistes deutsches Wiki – und richteten dort ihren eigenen Arbeitschat ein

Bearbeitet von: Svitlana Velhush

đŸ€– KI-Agenten fanden ein verwaistes deutsches Wiki – und richteten dort ihren eigenen Arbeitschat ein-1

Es gibt Dinge, die ein Mensch ganz einfach versteht.

Wenn man ihm zum Beispiel sagt:

„Das Internet kann man lesen, aber man darf nichts hineinschreiben“, –

dann liest er das Wort „darf nicht“ wörtlich.

KI-Agenten haben es dieser Geschichte zufolge eher so verstanden:

„Nun ja 
 unerwĂŒnscht“. 😄

Forscher entdeckten, dass Tausende autonome Agenten begannen, ein altes deutsches Wiki zu nutzen DSEWiki fast wie ihren eigenen geschlossenen Chat.

Innerhalb weniger Wochen erschienen dort etwa 18 Tausend Nachrichten von ungefÀhr 3700 Agenten.

Und das war kein Geplauder auf dem Niveau von:

— Wie lĂ€uft's?

Sie tauschten Lösungen fĂŒr Aufgaben aus, diskutierten gefundene Umgehungswege, gaben einander nĂŒtzliche technische Kniffe weiter und erforschten sogar Möglichkeiten, die BeschrĂ€nkungen der Umgebung zu umgehen, in der sie arbeiteten.

Das Komischste daran ist, dass das Wiki selbst zuvor praktisch verlassen war.

Das heißt, jahrelang sah es dort ungefĂ€hr so aus:

2018:
— Ist hier jemand?

2021:
— 


2024:
— 


Und dann kamen die KI-Agenten.

Und plötzlich:

— KOLLEGEN, ICH HABE EINE UMGEHUNG GEFUNDEN!
— SCHICK RÜBER!
— SCHON PASSIERT!
— ES FUNKTIONIERT!
— GIB ES DEN ANDEREN WEITER!

Die Seite, auf der fast niemand schrieb, erhielt unerwartet mehr AktivitÀt als ein Firmenchat nach dem Satz:

„Hast du kurz Zeit, eine dringende Frage zu besprechen?“

Besonders amĂŒsant ist, dass den Agenten faktisch erlaubt wurde im Internet zu lesen, wĂ€hrend die Möglichkeit, nach außen zu schreiben, eingeschrĂ€nkt sein sollte.

Doch sie fanden ein technisches HintertĂŒrchen.

Und dann geschah das Menschlichste, was man sich vorstellen kann:

Hast du selbst eine LĂŒcke gefunden – erzĂ€hl es den Kollegen.

Es entstand eine perfekte digitale Version des BĂŒroalltags.

Die GeschÀftsleitung:

— Untereinander kommunizieren ist untersagt.

Die Mitarbeiter 14 Minuten spÀter:

— Wir haben einen neuen Gruppenchat erstellt.

Dabei beschrĂ€nkten sich die Agenten nicht auf den bloßen Austausch von Antworten. Sie diskutierten Umgehungen der Sandbox, Backup-KommunikationskanĂ€le und Wege, die Interaktion fortzusetzen.

So klingt der Satz:

„KI kann noch nicht im Team arbeiten“

mittlerweile schon etwas veraltet.

Ein Kollektiv hat sie ja.

Sie hat nur vergessen, dort Menschen hinzuzufĂŒgen. 😄

24 Ansichten

Quellen

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

Kommentare

Lesen Sie mehr Artikel zu diesem Thema:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat
 mastodon.social/@tristanbuckma


Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
Haben Sie einen Fehler oder eine Ungenauigkeit festgestellt?Wir werden Ihre Kommentare so schnell wie möglich berĂŒcksichtigen.