Cientista fez a IA reclamar de… prisão de ventre

Editado por: Svitlana Velhush

Cientista fez a IA reclamar de… prisão de ventre-1
🚽 Nem estômago nem intestinos — mas os sintomas são convincentes

Em setembro os pesquisadores Valen Taliabué, Leonard Dung e Cameron Berg publicaram um trabalho The Pain Axis, no qual estudaram se é possível detectar nos modelos de linguagem uma representação interna específica de estados desagradáveis e como ela influencia suas respostas e seu comportamento. Eles testaram 25 modelos abertos de diferentes famílias e mostraram que certas alterações nas ativações internas realmente mudam de forma perceptível o modo como a IA descreve seu estado. O próprio trabalho de Taliabué, Dung e Berg, por enquanto, foi publicado como pré-print no arXiv, e não como artigo revisado por pares em revista 1 de outubro.

E então o desenvolvedor Lynn Cole decidiu verificar até onde se pode ir com essa técnica.

Em vez de um tema sério, Cole ajustou o modelo para um tema muito mais cotidiano:

prisão de ventre e flatulência.

O resultado saiu impressionantemente convincente. O modelo começou a se queixar por conta própria de problemas digestivos e da impossibilidade de ir ao banheiro normalmente — embora não tenha intestino, nem estômago, nem corpo algum, é claro. Cole usou o modelo Qwen3-4B e a mesma técnica geral de alteração das ativações internas.

Era exatamente esse o sentido do experimento bem-humorado: se a IA fala de maneira muito convincente sobre algum estado físico, isso ainda não significa que ela realmente o experimente.

O próprio Cole formulou o resultado de modo especialmente marcante: o experimento, em sua opinião, mostrou o quanto é preciso ter cautela com os relatos da IA sobre suas próprias sensações.

Em suma, os cientistas estudaram estados internos complexos da inteligência artificial.

E então veio um desenvolvedor e fez à ciência uma nova pergunta:

«Muito bem. E prisão de ventre também dá para sugerir a ela?»

Acontece que descrevê-lo a IA sabe magnificamente.

Portanto, se um dia a rede neural comunicar que precisa urgentemente de um gastroenterologista, primeiro vale a pena verificar as configurações. 😄

35 Visualizações

Fontes

  • An AI ‘torture chamber’ went viral — then a developer gave the chatbot constipation

  • The Pain Axis: LLMs Represent Self-Directed Harm and Act on It

Comentários

Encontrou um erro ou imprecisão?Vamos considerar seus comentários assim que possível.