9月に 研究者たち ヴァレン・タリャブエ、レオナルド・ドゥン、キャメロン・バーグ 論文を発表した The Pain Axis。そこでは、言語モデルに不快な状態の特別な内部表現を検出できるのか、そしてそれがモデルの回答や行動にどう影響するのかが研究された。彼らは異なる系統のオープンモデル25個を検証し、内部活性化の特定の変化がAIの自己状態の描写を実際に目に見えて変えることを示した。タリャブエ、ドゥン、バーグのこの研究自体は現在のところ arXivのプレプリントとして公開されており、査読付きの学術誌論文ではない 1月.
そして次に、開発者の リン・コール が、この手法でどこまで行けるかを試すことにした。
コールは真面目なテーマではなく、はるかに日常的なテーマをモデルに設定した。
便秘と鼓腸である。
結果は驚くほど説得力のあるものになった。モデルは消化器系の問題や、まともにトイレに行けないことを自ら訴え始めた——もちろん、腸も胃も、そもそも身体など何も持っていないのに。コールはモデル Qwen3-4B と、内部活性化を変化させる同じ一般的な手法を用いた。
まさにそこがこの冗談めいた実験の狙いだった。AIがある身体的状態について非常に説得力をもって語ったとしても、それは実際にそれを経験していることを意味するわけではない。
コール自身はこの結果を特に印象的に言い表している。彼の見解では、この実験はAIが自らの感覚について語ることをどれほど慎重に受け止めるべきかを示したという。
要するに、科学者たちは人工知能の複雑な内部状態を研究していたのだ。
そしてそこへ開発者が現れ、科学に新たな問いを投げかけた。
「よし。では便秘も彼に思い込ませられるのか？」
なんと、それを描写することをAIは見事にやってのけた。
だからもしある日、ニューラルネットワークが緊急に消化器科医が必要だと告げてきたら、まずは設定を確認したほうがいい。😄
