कृत्रिम बुद्धिमत्ता इतनी तेज़ी से विकसित हो रही है कि अब केवल उसके आलोचक ही नहीं, बल्कि वे लोग भी चिंता जता रहे हैं जो स्वयं आधुनिक एआई-उद्योग की नींव रखने वालों में से थे।
और यह स्पष्ट करना ज़रूरी है: उनमें से अधिकांश एआई के विरोध में बिल्कुल नहीं हैं। वे किसी और बात की ओर इशारा कर रहे हैं — यह कि और भी शक्तिशाली मॉडलों की दौड़ उस गति से तेज़ चल रही है जितनी गति से स्पष्ट सुरक्षा, नियंत्रण और जवाबदेही के नियम सामने आते हैं।
सबसे प्रसिद्ध आवाज़ों में से एक है — जेफ्री हिंटन, जो आधुनिक एआई के «गॉडफ़ादर» में से एक हैं। Google छोड़ने के बाद वे जोखिमों के बारे में कहीं अधिक खुलकर बोलने लगे: श्रम बाज़ार से लोगों के सामूहिक रूप से बाहर होने से लेकर ऐसी प्रणालियों के उदय तक, जिन्हें एक दिन नियंत्रित करना हमारी कल्पना से भी कठिन हो सकता है।
एक और प्रमुख व्यक्ति हैं — योशुआ बेंजियो, जो गहन अधिगम के अग्रदूतों में से भी एक हैं। हाल के वर्षों में वे एआई सुरक्षा के मुद्दों पर और भी सक्रियता से काम कर रहे हैं और देशों से आग्रह कर रहे हैं कि वे बड़ी घटनाओं का इंतज़ार न करें, बल्कि पहले से ही स्वतंत्र निगरानी और सबसे शक्तिशाली प्रणालियों के लिए प्रतिबंध बनाएँ।
2023 में बेंजियो ने एक खुले पत्र का समर्थन किया था, जिसमें GPT-4 से अधिक शक्तिशाली प्रणालियों के प्रशिक्षण को कम से कम छह महीने के लिए रोकने का आह्वान किया गया था।
हस्ताक्षरकर्ताओं में से एक एलन मस्कभी थे। उन्होंने सबसे बड़े एआई-मॉडलों की दौड़ में विराम के विचार का समर्थन किया, ताकि इस दौरान अधिक विश्वसनीय नियम, सुरक्षा मानक और नियंत्रण के तरीके सामने आ सकें।
इसी आह्वान में Apple के सह-संस्थापक भी शामिल हुए स्टीव वॉज़नियाक. बाद में उन्होंने अलग से कहा कि डेवलपर्स को अधिक पारदर्शी होना चाहिए और तकनीक से हो सकने वाले नुकसान की जवाबदेही लेनी चाहिए।
सबसे प्रसिद्ध बुद्धिजीवियों में से एक इतिहासकार और लेखक युवाल नोआ हरारीशामिल हैं। वे लंबे समय से चेतावनी देते रहे हैं कि एआई का विशेष ख़तरा केवल «स्मार्ट मशीनों» में नहीं, बल्कि एल्गोरिद्म की इस क्षमता में भी है कि वे बड़े पैमाने पर पाठ, चित्र और विश्वास दिलाने वाली सामग्री बना सकें। उनके मत में यह सूचना के माहौल और लोगों के निर्णय लेने के तरीकों को गंभीर रूप से बदल सकता है।
बेकाबू दौड़ के सबसे अटल आलोचकों में से एक हैं बर्कली स्थित कैलिफ़ोर्निया विश्वविद्यालय के प्रोफ़ेसर स्टुअर्ट रसेल, जो कृत्रिम बुद्धिमत्ता पर सबसे प्रसिद्ध पाठ्यपुस्तकों में से एक के सह-लेखक हैं।
उनका रुख काफ़ी सरल है: समस्या तब पैदा होती है जब हम ऐसी प्रणालियाँ बनाते हैं जो मनुष्य से अधिक कुशलता से लक्ष्यों तक पहुँच सकती हैं, लेकिन साथ ही हम यह गारंटी नहीं दे सकते कि उनके लक्ष्य वास्तव में हमारे लक्ष्यों से मेल खाते हैं।
और यह विशेष रूप से उल्लेखनीय है कि अब सबसे बड़ी AI-कंपनियों के प्रमुख भी अधिक सतर्कता से बोलने लगे हैं।
Anthropic के प्रमुख डारियो अमोदेई ने सार्वजनिक रूप से आग्रह किया कि अत्याधुनिक मॉडलों का विकास अधिक धीमी गति से और नियंत्रित तरीके से हो, ताकि सुरक्षा के तरीके उनकी क्षमताओं के साथ-साथ चल सकें। वे स्वतंत्र जाँच, साझा मानकों और अंतर्राष्ट्रीय सहयोग के पक्ष में हैं।
यहाँ तक कि सैम ऑल्टमैन, जो OpenAI के प्रमुख हैं, ने बार-बार सबसे शक्तिशाली प्रणालियों के नियमन की आवश्यकता की बात कही है और यह भी कहा है कि एआई का विकास ऐसी दौड़ में नहीं बदलना चाहिए जहाँ गति सुरक्षा से अधिक महत्वपूर्ण हो जाए।
इसी तरह के विचार Google DeepMind के प्रमुख डेमिस हसाबिसने भी व्यक्त किए हैं। सबसे बड़ी AI-कंपनियाँ सबसे गंभीर जोखिमों पर नियंत्रण के लिए साझा दृष्टिकोणों पर अधिकाधिक चर्चा कर रही हैं।
नतीजतन, एक काफ़ी विरोधाभासी तस्वीर उभरती है।
हिंटन, बेंजियो, रसेल, मस्क, वॉज़नियाक, हरारी, अमोदेई, ऑल्टमैन और अन्य ख़तरे के पैमाने के आकलन में और यह तय करने में कि विकास को कितना रोकना चाहिए, बहुत भिन्न हो सकते हैं। लेकिन वे एक बात पर सहमत हैं: अत्यंत शक्तिशाली एआई को बिल्कुल भी नियमों के बिना छोड़ देना — एक बुरा विचार है।
साथ ही, गंभीर संदेह करने वाले लोग भी हैं।
कुछ विशेषज्ञ «मानवता के अंत» की बातों को बहुत अधिक बढ़ा-चढ़ाकर कही गई मानते हैं और याद दिलाते हैं कि वर्तमान प्रणालियों में अभी भी कई सीमाएँ हैं।
अन्य लोगों को संदेह है कि बड़ी AI-कंपनियों के लिए कड़े नियमन की बातें जारी रखना फ़ायदेमंद है, क्योंकि इससे छोटे प्रतिस्पर्धियों के लिए जीवन कठिन हो सकता है।
इसलिए इस विषय पर बहुत गंभीर बहस चल रही है, और वैज्ञानिक समुदाय में कोई एकमत नहीं है।
लेकिन यह तथ्य अपने आप में उल्लेखनीय है: कुछ साल पहले तक यह सवाल इस तरह सुनाई देता था:
«एआई क्या कर सकेगा?»
अब अक्सर दूसरा सवाल पूछा जाता है:
«और क्या हम उसे बहुत शक्तिशाली होने से पहले उस पर नियंत्रण करना सीख पाएँगे?»
