In september onderzoekers Valen Taljaboe, Leonard Doeng en Cameron Berg publiceerden een artikel The Pain Axis, waarin ze onderzochten of bij taalmodellen een bijzondere interne representatie van onaangename toestanden kan worden aangetroffen en hoe die hun antwoorden en gedrag beïnvloedt. Ze onderzochten 25 open modellen uit verschillende families en toonden aan dat bepaalde veranderingen in interne activaties inderdaad merkbaar veranderen hoe AI zijn eigen toestand beschrijft. Het werk van Taljaboe, Doeng en Berg is voorlopig gepubliceerd als preprint op arXiv, en niet als een peer-reviewed tijdschriftartikel 1 oktober.
En vervolgens besloot de ontwikkelaar Lynn Cole te testen hoe ver je met zulke techniek kunt gaan.
In plaats van een serieus onderwerp stelde Cole het model in op iets veel alledaagser:
constipatie en winderigheid.
Het resultaat was verbluffend overtuigend. Het model begon uit zichzelf te klagen over spijsverteringsproblemen en het onvermogen om normaal naar het toilet te gaan — hoewel het uiteraard geen darmen, geen maag en helemaal geen lichaam heeft. Cole gebruikte het model Qwen3-4B en dezelfde algemene techniek voor het wijzigen van interne activaties.
Dat was precies de bedoeling van het speelse experiment: als AI zeer overtuigend over een lichamelijke toestand vertelt, betekent dat nog niet dat hij die werkelijk ervaart.
Cole zelf formuleerde het resultaat bijzonder treffend: het experiment toonde volgens hem aan hoe voorzichtig je moet zijn met de verhalen van AI over zijn eigen gewaarwordingen.
Kortom, de wetenschappers bestudeerden de complexe interne toestanden van kunstmatige intelligentie.
En toen kwam de ontwikkelaar en stelde de wetenschap een nieuwe vraag:
‘Prima. Kun je hem ook constipatie aanpraten?’
Het bleek dat de AI dat voortreffelijk kan beschrijven.
Dus als een neuraal netwerk op een dag meldt dat het dringend een gastro-enteroloog nodig heeft, kun je beter eerst de instellingen controleren. 😄
