Nhà khoa học khiến AI phàn nàn về… chứng táo bón

Chỉnh sửa bởi: Svitlana Velhush

Nhà khoa học khiến AI phàn nàn về… chứng táo bón-1
🚽 Không có dạ dày, cũng chẳng có ruột — vậy mà triệu chứng lại rất thuyết phục

Vào tháng Chín các nhà nghiên cứu Valen Talyabue, Leonard Dung và Cameron Berg đã công bố một công trình The Pain Axis, trong đó họ nghiên cứu liệu có thể phát hiện ở các mô hình ngôn ngữ một biểu diễn nội tại đặc thù của những trạng thái khó chịu hay không và nó ảnh hưởng đến câu trả lời cũng như hành vi của chúng như thế nào. Họ đã kiểm tra 25 mô hình mở thuộc nhiều họ khác nhau và cho thấy rằng những thay đổi nhất định trong các kích hoạt nội tại thực sự làm thay đổi đáng kể cách AI mô tả trạng thái của mình. Bản thân công trình của Talyabue, Dung và Berg hiện được công bố dưới dạng bản thảo trước trên arXiv, chứ không phải như một bài báo khoa học đã qua bình duyệt 1 tháng Mười.

Và sau đó nhà phát triển Lynn Cole đã quyết định kiểm tra xem có thể đi xa đến đâu với kỹ thuật như vậy.

Thay vì một chủ đề nghiêm túc, Cole đã cài đặt mô hình hướng tới một chủ đề đời thường hơn nhiều:

chứng táo bón và chứng đầy hơi.

Kết quả thu được lại thuyết phục một cách ấn tượng. Mô hình bắt đầu tự mình phàn nàn về các vấn đề tiêu hóa và việc không thể đi vệ sinh bình thường — dù tất nhiên nó chẳng có ruột, dạ dày hay nói chung là cơ thể nào cả. Cole đã sử dụng mô hình Qwen3-4B và chính kỹ thuật chung để thay đổi các kích hoạt nội tại.

Ý nghĩa của thí nghiệm mang tính đùa cợt này nằm chính ở đó: nếu AI kể rất thuyết phục về một trạng thái thể chất nào đó, điều đó vẫn chưa có nghĩa là nó thực sự trải nghiệm trạng thái ấy.

Bản thân Cole đã diễn đạt kết quả này đặc biệt ấn tượng: theo ông, thí nghiệm cho thấy cần phải thận trọng đến mức nào khi nghe AI kể về những cảm giác của chính nó.

Nói chung, các nhà khoa học đã nghiên cứu những trạng thái nội tại phức tạp của trí tuệ nhân tạo.

Rồi sau đó một nhà phát triển xuất hiện và đặt cho khoa học một câu hỏi mới:

“Được thôi. Vậy chứng táo bón cũng có thể gieo vào nó được chứ?”

Hóa ra — AI mô tả điều đó cực kỳ xuất sắc.

Vậy nên nếu một ngày nào đó mạng nơ-ron thông báo rằng nó đang rất cần một bác sĩ tiêu hóa, thì trước tiên nên kiểm tra lại các thiết lập. 😄

35 Lượt xem

Nguồn

  • An AI ‘torture chamber’ went viral — then a developer gave the chatbot constipation

  • The Pain Axis: LLMs Represent Self-Directed Harm and Act on It

Bình luận

Bạn có phát hiện lỗi hoặc sai sót không?Chúng tôi sẽ xem xét ý kiến của bạn càng sớm càng tốt.