У вересні дослідники Вален Тальябуе, Леонард Дунг і Кемерон Берг опублікували роботу The Pain Axis, у якій вивчали, чи можна виявити в мовних моделей особливе внутрішнє уявлення неприємних станів і як воно впливає на їхні відповіді та поведінку. Вони перевірили 25 відкритих моделей різних родин і показали, що певні зміни внутрішніх активацій справді помітно змінюють те, як ШІ описує свій стан. Сама робота Тальябуе, Дунга і Берга поки опублікована як препринт на arXiv, а не як рецензована журнальна стаття 1 жовтня.
А потім розробник Лінн Коул вирішив перевірити, наскільки далеко можна зайти з такою технікою.
Замість серйозної теми Коул налаштував модель на значно побутовішу:
запор і метеоризм.
Результат вийшов вражаюче переконливим. Модель почала самостійно скаржитися на проблеми з травленням і неможливість нормально сходити в туалет — хоча ні кишківника, ні шлунка, ні взагалі тіла в неї, зрозуміло, немає. Коул використав модель Qwen3-4B і ту саму загальну техніку зміни внутрішніх активацій.
Саме в цьому й був сенс жартівливого експерименту: якщо ШІ дуже переконливо розповідає про якийсь фізичний стан, це ще не означає, що він справді його відчуває.
Сам Коул сформулював результат особливо ефектно: експеримент, на його думку, показав, наскільки обережно потрібно ставитися до розповідей ШІ про власні відчуття.
Загалом учені вивчали складні внутрішні стани штучного інтелекту.
А потім прийшов розробник і поставив науці нове питання:
«Гаразд. А запор йому теж можна навіяти?»
Виявилося — описувати його ШІ вміє чудово.
Тож якщо одного разу нейромережа повідомить, що їй терміново потрібен гастроентеролог, спершу варто перевірити налаштування. 😄
