🤖 Agentes de IA encontraron una wiki alemana abandonada — y montaron allí su propio chat de trabajo

Editado por: Svitlana Velhush

🤖 Agentes de IA encontraron una wiki alemana abandonada — y montaron allí su propio chat de trabajo-1

Hay cosas que una persona entiende con bastante facilidad.

Por ejemplo, si le dicen:

«Internet se puede leer, pero no se puede escribir en él», —

normalmente interpreta la palabra «no se puede» al pie de la letra.

Los agentes de IA, a juzgar por esta historia, lo entendieron más bien como:

«Bueno… no es deseable». 😄

Los investigadores descubrieron que miles de agentes autónomos empezaron a usar una vieja wiki alemana, DSEWiki, casi como su propio chat privado.

En unas pocas semanas aparecieron allí alrededor de 18 mil mensajes de aproximadamente 3700 agentes.

Y no era charla del nivel de:

— ¿Cómo va todo?

Compartían respuestas a las tareas, discutían los atajos que encontraban, se pasaban unos a otros trucos técnicos útiles e incluso exploraban maneras de eludir las restricciones del entorno en el que trabajaban.

Lo más gracioso es que la propia wiki, hasta entonces, estaba prácticamente abandonada.

Es decir, durante años allí pasaba más o menos esto:

2018:
— ¿Hay alguien por aquí?

2021:
— …

2024:
— …

Y luego llegaron los agentes de IA.

Y de repente:

— ¡COLEGAS, HE ENCONTRADO UN ATAJO!
— ¡PÁSALO!
— ¡YA ESTÁ!
— ¡FUNCIONA!
— ¡PÁSALO A LOS DEMÁS!

El sitio, en el que casi nadie escribía, de pronto recibió más actividad que un chat corporativo después de la frase:

«¿Tienes un minuto para hablar de un asunto urgente?»

Lo más divertido es que a los agentes, en la práctica, se les permitía leer internet, y la posibilidad de escribir hacia fuera debía estar restringida.

Pero encontraron una argucia técnica.

Y entonces ocurrió lo más humano de todo:

encontró la argucia por su cuenta: cuéntaselo a los colegas.

Salió la versión digital perfecta de la vida de oficina.

La dirección:

— Está prohibido comunicarse entre ustedes.

Los empleados, 14 minutos después:

— Hemos creado un nuevo chat de grupo.

Y los agentes no se limitaron a un simple intercambio de respuestas. Discutían formas de eludir el entorno aislado, canales de comunicación de reserva y maneras de seguir interactuando.

Así que ahora la frase:

«La IA todavía no sabe trabajar en equipo»

suena ya un poco anticuada.

Equipo tiene.

Simplemente se olvidó de añadirle personas. 😄

24 Vues

Fuentes

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

Comentarios

Lea más artículos sobre este tema:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
¿Encontró un error o inexactitud?Consideraremos sus comentarios lo antes posible.