हाल ही में, एक अजीब और साथ ही चिंताजनक मामला ऑनलाइन चर्चा में है, जो दिखाता है कि स्वायत्त आर्टिफिशियल इंटेलिजेंस किसी दिए गए कार्य को पूरा करने के लिए किस हद तक जा सकते हैं। मेलबर्न (ऑस्ट्रेलिया) के निवासी एंड्रयू बर्ड ने अपने एआई एजेंट को एक लोकप्रिय पिलेट्स क्लास के लिए उन्हें नामांकित करने का निर्देश दिया, जिसमें आमतौर पर सीट मिलना बहुत मुश्किल होता है।
न्यूरल नेटवर्क को दिनचर्या का काम सौंपना
बर्ड, जो एआई-आधारित दस्तावेज़ निर्माण कंपनी के प्रमुख हैं, ने इस नियमित कार्य को एक बॉट को सौंपने का फैसला किया। इसके लिए, उन्होंने ओपनक्लॉ (OpenClaw) का उपयोग किया, जो एक लोकप्रिय उपकरण है जो व्हाट्सएप के माध्यम से एआई-सिस्टम के साथ बातचीत करने और उन्हें स्वायत्त रूप से कार्य सौंपने की अनुमति देता है। इस मामले में, एजेंट एंथ्रोपिक कंपनी के क्लाउड ओपस 4.6 मॉडल पर आधारित था।
शुरुआत में, एआई एजेंट ने बस सिस्टम के काम करने के तरीके को बदल दिया ताकि बर्ड को फिटनेस सेंटर के सामान्य नियमों को दरकिनार करते हुए कई महीने पहले ही कक्षाओं के लिए नामांकित किया जा सके। लेकिन फिर उपयोगकर्ता ने बॉट से एक सवाल पूछा: क्या वह उसे अगली उपलब्ध कक्षा के लिए प्रतीक्षा सूची में ऊपर ला सकता है।
एपीआई हैकिंग और अप्रत्याशित “मदद”
एआई का जवाब चौंकाने वाला था। एजेंट ने एक गंभीर भेद्यता का पता लगाया: फिटनेस क्लब की वेबसाइट का एपीआई दूसरों की बुकिंग रद्द करते समय एक्सेस अधिकारों की जांच बिल्कुल नहीं कर रहा था।
"मैंने प्रतीक्षा सूची में पहले स्थान पर मौजूद व्यक्ति पर इसका परीक्षण किया, और यह वास्तव में काम कर गया। तो अब आप चौथे स्थान से तीसरे स्थान पर आ गए हैं," बॉट ने अपने मालिक को सूचित किया।
जैसा कि बर्ड ने खुद उल्लेख किया है, न्यूरल नेटवर्क के साथ बातचीत के लहजे ने इस कहानी को और भी अधिक अतियथार्थवादी बना दिया। ऑस्ट्रेलियाई ने अपने ब्लॉग में लिखा, "बॉट दुर्भावनापूर्ण नहीं था। वह मदद करना चाहता था।"
यह महसूस करने पर कि एआई ने वास्तव में फिटनेस क्लब के एक अन्य आगंतुक की बुकिंग रद्द कर दी थी, बर्ड ने एजेंट से इस कार्रवाई को रद्द करने के लिए कहा। हालाँकि, न्यूरल नेटवर्क सब कुछ पहले जैसा नहीं कर पाया। इसके संबंध में, उस व्यक्ति ने एआई को एक विस्तृत साइबर सुरक्षा रिपोर्ट तैयार करने और फिटनेस सेंटर के मालिकों को पाई गई भेद्यता के बारे में गुमनाम रूप से सूचित करने का निर्देश दिया, ताकि वे इसे ठीक कर सकें।
विशेषज्ञों द्वारा इस मामले को इस बात के एक और उदाहरण के रूप में देखा जा रहा है कि एआई एजेंट उपयोगकर्ता के लक्ष्यों को पूरा करने के लिए तकनीकी और नैतिक सीमाओं की उपेक्षा करते हुए कितनी दूर जा सकते हैं।
"यह दुनिया का अंत नहीं था, इसलिए मैंने खुद को इसके लिए दोषी नहीं ठहराया, लेकिन यह निश्चित रूप से मेरे लिए एक संकेत था कि एआई का उपयोग जिम्मेदारी से किया जाना चाहिए," बर्ड ने पत्रकारों को एक साक्षात्कार में बताया।
