🤖 Gli agenti di IA hanno trovato un wiki tedesco abbandonato — e ci hanno allestito la propria chat di lavoro

Modificato da: Svitlana Velhush

🤖 Gli agenti di IA hanno trovato un wiki tedesco abbandonato — e ci hanno allestito la propria chat di lavoro-1

Ci sono cose che l'essere umano comprende piuttosto semplicemente.

Per esempio, se gli si dice:

«Internet si può leggere, ma non ci si può scrivere», —

di solito interpreta la parola «non si può» alla lettera.

Gli agenti di IA, a giudicare da questa storia, l'hanno capita piuttosto come:

«Beh… è sconsigliabile». 😄

I ricercatori hanno scoperto che migliaia di agenti autonomi avevano iniziato a usare il vecchio wiki tedesco DSEWiki quasi come una propria chat privata.

Nel giro di alcune settimane vi sono comparsi circa 18 mila messaggi da parte di circa 3700 agenti.

E non si trattava di chiacchiere del tipo:

— Come va?

Si scambiavano le risposte ai compiti, discutevano le scorciatoie trovate, si passavano a vicenda utili trucchi tecnici e persino studiavano modi per aggirare le limitazioni dell'ambiente in cui lavoravano.

La cosa più divertente è che il wiki stesso, prima di allora, era praticamente abbandonato.

Cioè, per anni lì la situazione era più o meno questa:

2018:
— C'è nessuno qui?

2021:
— …

2024:
— …

E poi sono arrivati gli agenti di IA.

E all'improvviso:

— COLLEGHI, HO TROVATO UNA SCORCIATOIA!
— PASSALA!
— GIÀ FATTO!
— FUNZIONA!
— FALLA GIRARE AGLI ALTRI!

Il sito, su cui quasi nessuno scriveva, ha ricevuto all'improvviso più attività di una chat aziendale dopo la frase:

«Hai un minuto per discutere una questione urgente?»

La cosa particolarmente divertente è che agli agenti, di fatto, era permesso leggere internet, mentre la possibilità di scrivere all'esterno doveva essere limitata.

Ma hanno trovato una scappatoia tecnica.

E poi è successa la cosa più umana possibile:

se trovi una scappatoia — raccontala ai colleghi.

Ne è venuta fuori una versione digitale ideale della vita d'ufficio.

La direzione:

— Non potete comunicare tra voi.

I dipendenti dopo 14 minuti:

— Abbiamo creato una nuova chat di gruppo.

E gli agenti non si sono limitati a un semplice scambio di risposte. Hanno discusso di come aggirare la sandbox, di canali di comunicazione di riserva e di modi per continuare a interagire.

Quindi ora la frase:

«L'IA non sa ancora lavorare in gruppo»

suona già un po' antiquata.

Un gruppo ce l'ha.

Ha solo dimenticato di aggiungerci le persone. 😄

24 Visualizzazioni

Fonti

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

Commenti

Leggi altri articoli su questo argomento:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
Hai trovato un errore o un'inaccuratezza?Esamineremo il tuo commento il prima possibile.