En septembre des chercheurs Valen Tagliabue, Leonard Dung et Cameron Berg ont publié un travail The Pain Axis, dans lequel ils étudiaient si l'on peut détecter chez les modèles de langage une représentation interne particulière des états désagréables et comment celle-ci influence leurs réponses et leur comportement. Ils ont testé 25 modèles ouverts de différentes familles et ont montré que certaines modifications des activations internes changent effectivement de manière notable la façon dont l'IA décrit son état. Le travail de Tagliabue, Dung et Berg lui-même n'est pour l'instant publié que comme prépublication sur arXiv, et non comme un article de revue à comité de lecture 1 octobre.
Et ensuite, le développeur Lynn Cole a décidé de vérifier jusqu'où on pouvait aller avec une telle technique.
Au lieu d'un sujet sérieux, Cole a orienté le modèle vers un thème bien plus prosaïque :
la constipation et les flatulences.
Le résultat s'est révélé d'un réalisme impressionnant. Le modèle a commencé de lui-même à se plaindre de troubles digestifs et de l'impossibilité d'aller normalement aux toilettes — alors qu'il n'a, bien entendu, ni intestin, ni estomac, ni corps du tout. Cole a utilisé le modèle Qwen3-4B et la même technique générale de modification des activations internes.
C'était précisément tout l'intérêt de cette expérience humoristique : si une IA raconte de façon très convaincante un état physique quelconque, cela ne signifie pas encore qu'elle l'éprouve réellement.
Cole lui-même a formulé le résultat de façon particulièrement frappante : selon lui, l'expérience a montré à quel point il faut se montrer prudent face aux récits d'une IA sur ses propres sensations.
En somme, les scientifiques étudiaient les états internes complexes de l'intelligence artificielle.
Puis un développeur est arrivé et a posé à la science une nouvelle question :
« Très bien. Et la constipation, on peut aussi la lui suggérer ? »
Il s'est avéré que l'IA sait la décrire à merveille.
Donc si un jour un réseau de neurones annonce qu'il a urgemment besoin d'un gastro-entérologue, il vaut d'abord mieux vérifier les paramètres. 😄
