वैज्ञानिक ने AI से कब्ज़ की शिकायत करवाई

द्वारा संपादित: Svitlana Velhush

वैज्ञानिक ने AI से कब्ज़ की शिकायत करवाई-1
🚽 न पेट है, न आंतें — फिर भी लक्षण काफ़ी विश्वसनीय हैं

सितंबर में शोधकर्ताओं ने वैलेन टैल्याबुए, लियोनार्ड डुंग और कैमरन बर्ग एक शोधपत्र प्रकाशित किया The Pain Axis, जिसमें उन्होंने अध्ययन किया कि क्या भाषा मॉडलों में अप्रिय अवस्थाओं का कोई विशेष आंतरिक निरूपण खोजा जा सकता है और यह उनके उत्तरों तथा व्यवहार को कैसे प्रभावित करता है। उन्होंने विभिन्न परिवारों के 25 खुले मॉडलों की जाँच की और दिखाया कि आंतरिक सक्रियणों में कुछ विशिष्ट परिवर्तन वास्तव में इस बात को स्पष्ट रूप से बदल देते हैं कि AI अपनी अवस्था का वर्णन कैसे करता है। टैल्याबुए, डुंग और बर्ग का यह काम अभी तक arXiv पर एक प्रीप्रिंटके रूप में प्रकाशित हुआ है, न कि पत्रिका में समीक्षित लेख के रूप में 1 अक्टूबर.

और फिर डेवलपर लिन कोल ने यह जाँचने का फ़ैसला किया कि इस तकनीक से कितनी दूर तक जाया जा सकता है।

किसी गंभीर विषय के बजाय कोल ने मॉडल को कहीं ज़्यादा रोज़मर्रा के विषय पर सेट किया:

कब्ज़ और पेट में गैस।

नतीजा बेहद विश्वसनीय निकला। मॉडल ख़ुद से पाचन की समस्याओं और ठीक से शौच न जा पाने की शिकायत करने लगा — हालाँकि उसका न आँत है, न पेट, और न ही कोई शरीर, यह तो स्पष्ट है। कोल ने मॉडल Qwen3-4B और आंतरिक सक्रियणों को बदलने की वही सामान्य तकनीक इस्तेमाल की।

मज़ाकिया प्रयोग का मतलब ठीक यही था: अगर AI किसी शारीरिक अवस्था के बारे में बहुत विश्वसनीय ढंग से बताता है, तो इसका यह मतलब नहीं कि वह वाक़ई उसे महसूस करता है।

कोल ने ख़ुद नतीजे को ख़ास तौर पर प्रभावशाली ढंग से रखा: उनके मुताबिक़, प्रयोग ने दिखाया कि AI के अपनी संवेदनाओं के बारे में बताने पर कितनी सावधानी से भरोसा करना चाहिए।

कुल मिलाकर, वैज्ञानिक कृत्रिम बुद्धिमत्ता की जटिल आंतरिक अवस्थाओं का अध्ययन कर रहे थे।

और फिर एक डेवलपर आया और उसने विज्ञान से एक नया सवाल पूछा:

«ठीक है। तो क्या उसे कब्ज़ भी बताया जा सकता है?»

पता चला — उसका वर्णन AI बहुत शानदार ढंग से कर सकता है।

तो अगर कभी कोई न्यूरल नेटवर्क कहे कि उसे तुरंत गैस्ट्रोएंटेरोलॉजिस्ट की ज़रूरत है, तो पहले सेटिंग्स जाँच लेनी चाहिए। 😄

35 दृश्य

स्रोतों

  • An AI ‘torture chamber’ went viral — then a developer gave the chatbot constipation

  • The Pain Axis: LLMs Represent Self-Directed Harm and Act on It

टिप्पणियाँ

क्या आपने कोई गलती या अशुद्धि पाई?हम जल्द ही आपकी टिप्पणियों पर विचार करेंगे।