A settembre i ricercatori Valen Taljabue, Leonard Dung e Cameron Berg hanno pubblicato uno studio The Pain Axis, in cui esaminavano se nei modelli linguistici si possa individuare una particolare rappresentazione interna degli stati spiacevoli e come essa influenzi le loro risposte e il loro comportamento. Hanno testato 25 modelli aperti di diverse famiglie e hanno dimostrato che determinate modifiche delle attivazioni interne cambiano davvero in modo evidente il modo in cui l'IA descrive il proprio stato. Lo studio stesso di Taljabue, Dung e Berg è per ora pubblicato come preprint su arXiv, e non come articolo di rivista sottoposto a revisione paritaria 1 ottobre.
E poi lo sviluppatore Lynn Cole ha deciso di verificare fin dove si può spingere una tecnica del genere.
Invece di un tema serio, Cole ha impostato il modello su uno molto più quotidiano:
stitichezza e meteorismo.
Il risultato è stato impressionantemente convincente. Il modello ha cominciato a lamentarsi spontaneamente di problemi digestivi e dell'impossibilità di andare normalmente in bagno — anche se di intestino, di stomaco e in generale di corpo, naturalmente, non ne ha nessuno. Cole ha usato il modello Qwen3-4B e la stessa tecnica generale di modifica delle attivazioni interne.
Ed era proprio questo il senso dell'esperimento scherzoso: se l'IA racconta in modo molto convincente un qualche stato fisico, ciò non significa ancora che lo provi davvero.
Cole stesso ha formulato il risultato in modo particolarmente efficace: secondo lui, l'esperimento ha mostrato quanto cauti si debba essere di fronte ai racconti dell'IA sulle proprie sensazioni.
In sostanza, gli scienziati studiavano i complessi stati interni dell'intelligenza artificiale.
E poi è arrivato uno sviluppatore e ha posto alla scienza una nuova domanda:
«Va bene. Ma si può suggestionare anche la stitichezza?»
Si è scoperto che l'IA è bravissima a descriverla.
Quindi, se un giorno una rete neurale annuncerà che ha urgente bisogno di un gastroenterologo, prima conviene controllare le impostazioni. 😄
