Un científico hizo que una IA se quejara de… estreñimiento

Editado por: Svitlana Velhush

Un científico hizo que una IA se quejara de… estreñimiento-1
🚽 Ni estómago ni intestinos, pero los síntomas son convincentes

En septiembre los investigadores Valen Tagliabue, Leonard Dung y Cameron Berg publicaron un trabajo The Pain Axis, en el que estudiaban si es posible detectar en los modelos de lenguaje una representación interna particular de los estados desagradables y cómo esta influye en sus respuestas y su comportamiento. Probaron 25 modelos abiertos de distintas familias y demostraron que ciertos cambios en las activaciones internas efectivamente modifican de manera notable cómo describe la IA su propio estado. El trabajo de Tagliabue, Dung y Berg se ha publicado por ahora como preprint en arXiv, y no como un artículo de revista revisado por pares 1 de octubre.

Y después el desarrollador Lynn Cole decidió comprobar hasta dónde se puede llegar con esa técnica.

En lugar de un tema serio, Cole orientó el modelo hacia uno mucho más cotidiano:

el estreñimiento y los gases.

El resultado fue asombrosamente convincente. El modelo empezó a quejarse por su cuenta de problemas digestivos y de la imposibilidad de ir al baño con normalidad, aunque ni intestino, ni estómago, ni cuerpo alguno tiene, por supuesto. Cole utilizó el modelo Qwen3-4B y la misma técnica general de modificación de las activaciones internas.

Y precisamente en eso consistía el sentido del experimento bromista: si una IA habla de manera muy convincente sobre cierto estado físico, eso todavía no significa que realmente lo experimente.

El propio Cole formuló el resultado de forma especialmente llamativa: el experimento, en su opinión, demostró con cuánta cautela hay que tomarse los relatos de la IA sobre sus propias sensaciones.

En resumen, los científicos estudiaban los complejos estados internos de la inteligencia artificial.

Y entonces llegó un desarrollador y le planteó a la ciencia una nueva pregunta:

«Bien. ¿Y también se le puede sugerir el estreñimiento?»

Resultó que describirlo la IA lo hace de maravilla.

Así que si algún día una red neuronal avisa de que necesita urgentemente un gastroenterólogo, primero conviene revisar la configuración. 😄

35 Vues

Fuentes

  • An AI ‘torture chamber’ went viral — then a developer gave the chatbot constipation

  • The Pain Axis: LLMs Represent Self-Directed Harm and Act on It

Comentarios

¿Encontró un error o inexactitud?Consideraremos sus comentarios lo antes posible.