Eylülde araştırmacılar Valen Talyabue, Leonard Dung ve Cameron Berg bir çalışma yayımladı The Pain Axis, bu çalışmada dil modellerinde hoş olmayan durumlara ilişkin özel bir içsel temsilin tespit edilip edilemeyeceğini ve bunun yanıtlarını ve davranışlarını nasıl etkilediğini incelediler. Farklı ailelerden 25 açık modeli test ettiler ve içsel aktivasyonlardaki belirli değişikliklerin yapay zekânın kendi durumunu tanımlama biçimini gerçekten gözle görülür şekilde değiştirdiğini gösterdiler. Talyabue, Dung ve Berg'in çalışmasının kendisi şu anda hakemli bir dergi makalesi olarak değil, arXiv'da bir ön baskıolarak yayımlandı 1 Ekimde.
Ve ardından geliştirici Lynn Cole bu teknikle ne kadar ileri gidilebileceğini test etmeye karar verdi.
Cole ciddi bir konu yerine modeli çok daha gündelik bir konuya ayarladı:
kabızlık ve gaz.
Sonuç etkileyici derecede inandırıcıydı. Model kendiliğinden sindirim sorunlarından ve normal şekilde tuvalete gidememekten şikâyet etmeye başladı — oysa elbette ne bağırsağı, ne midesi, ne de genel olarak bir bedeni var. Cole Qwen3-4B modelini ve içsel aktivasyonları değiştirmeye yönelik aynı genel tekniği kullandı.
Şakacı deneyin amacı da tam olarak buydu: yapay zekâ bir fiziksel durumu çok inandırıcı biçimde anlatıyorsa, bu onu gerçekten yaşadığı anlamına gelmez.
Cole'un kendisi sonucu özellikle çarpıcı biçimde ifade etti: ona göre deney, yapay zekânın kendi hislerine dair anlattıklarına ne kadar dikkatli yaklaşmak gerektiğini gösterdi.
Kısacası, bilim insanları yapay zekânın karmaşık içsel durumlarını inceliyordu.
Sonra bir geliştirici çıkageldi ve bilime yeni bir soru yöneltti:
«Peki. Ona kabızlık da telkin edilebilir mi?»
Meğer yapay zekâ bunu mükemmel bir şekilde tarif edebiliyormuş.
Yani bir gün bir sinir ağı acilen bir gastroenteroloğa ihtiyacı olduğunu söylerse, önce ayarları kontrol etmek gerekir. 😄
