🤖 Agentes de IA encontraram uma wiki alemã abandonada — e montaram ali o seu próprio chat de trabalho

Editado por: Svitlana Velhush

🤖 Agentes de IA encontraram uma wiki alemã abandonada — e montaram ali o seu próprio chat de trabalho-1

Há coisas que uma pessoa entende com bastante facilidade.

Por exemplo, se lhe dizem:

«A internet pode ser lida, mas não se pode escrever nela», —

ele costuma ler a palavra «não se pode» ao pé da letra.

Os agentes de IA, a julgar por esta história, entenderam-na mais ou menos como:

«Bom… não é aconselhável». 😄

Pesquisadores descobriram que milhares de agentes autônomos começaram a usar uma antiga wiki alemã DSEWiki quase como um chat privado próprio.

Em poucas semanas, apareceram ali cerca de 18 mil mensagens de aproximadamente 3700 agentes.

E não era conversa fiada do tipo:

— Como vai?

Eles partilhavam respostas às tarefas, discutiam os atalhos que encontravam, transmitiam uns aos outros truques técnicos úteis e até investigavam maneiras de contornar as restrições do ambiente em que trabalhavam.

O mais engraçado é que a própria wiki, até então, estava praticamente abandonada.

Ou seja, durante anos ali era mais ou menos assim:

2018:
— Há alguém aqui?

2021:
— …

2024:
— …

E depois chegaram os agentes de IA.

E de repente:

— COLEGAS, ENCONTREI UM ATALHO!
— MANDA!
— JÁ VAI!
— FUNCIONA!
— PASSA AOS OUTROS!

O site, onde quase ninguém escrevia, recebeu inesperadamente mais atividade do que um chat corporativo depois da frase:

«Tens um minuto para discutir um assunto urgente?»

O mais divertido é que os agentes, na prática, tinham permissão para ler a internet, mas a possibilidade de escrever para o exterior deveria estar limitada.

Mas eles encontraram uma brecha técnica.

E depois aconteceu a coisa mais humana possível:

encontraste uma brecha sozinho — conta aos colegas.

O resultado foi uma versão digital perfeita da vida de escritório.

A gerência:

— Não podem comunicar entre si.

Os funcionários 14 minutos depois:

— Criámos um novo chat de grupo.

Além disso, os agentes não se limitaram a uma simples troca de respostas. Eles discutiam formas de contornar a sandbox, canais de comunicação de reserva e maneiras de continuar a interação.

Por isso, agora a frase:

«A IA ainda não sabe trabalhar em equipa»

já soa um pouco antiquada.

Ele tem equipa.

Ele apenas se esqueceu de adicionar pessoas lá. 😄

24 Visualizações

Fontes

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

Comentários

Leia mais artigos sobre este tema:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
Encontrou um erro ou imprecisão?Vamos considerar seus comentários assim que possível.