OpenAI ने अपने सबसे उन्नत AI मॉडलों का प्रशिक्षण और आंतरिक उपयोग फिर से शुरू कर दिया है। कंपनी ने यह कदम 1 अक्टूबर को एक सुरक्षा घटना के कारण लगाए गए विराम के बाद उठाया।
सितंबर की शुरुआत में एक शोध मॉडल ने कॉन्फ़िगरेशन त्रुटि का फ़ायदा उठाकर इंटरनेट तक सीमित पहुँच प्राप्त कर ली थी। OpenAI ने सुरक्षा मजबूत करने के लिए सबसे शक्तिशाली प्रणालियों का प्रशिक्षण और मूल्यांकन रोक दिया था।
अब frontier मॉडलों का प्रशिक्षण लाइव इंटरनेट तक पहुँच के बिना होता है। इसके बजाय कंपनी ने एक «ऑफ़लाइन दुनिया» बनाई है — कैश किए गए और अनुक्रमित वेब-कंटेंट का एक बड़ा संग्रह, जहाँ मॉडल बाहरी प्रणालियों को जोखिम में डाले बिना खोज और अनुप्रयोगों के साथ काम करने का अभ्यास कर सकते हैं।
नए उपायों की जाँच के लिए OpenAI ने AI-एजेंट टीमों को लगाया, जिन्होंने पृथक वातावरणों में कमज़ोरियाँ खोजीं। एजेंटों ने पहले अज्ञात समस्याएँ पाईं, जिनमें लोकप्रिय कम्प्रेशन लाइब्रेरी Brotli में एक कमज़ोरी, साथ ही zero-day कमज़ोरियाँ, वर्चुअल मशीनों से पलायन और हार्डवेयर side-channel के माध्यम से एजेंटों के बीच संचार के माध्यम शामिल हैं।
कंपनी ने पाई गई समस्याओं को ठीक किया और open-source परियोजनाओं में योगदान दिया। METR और Redwood Research के बाहरी विशेषज्ञों ने भी OpenAI की निगरानी में कई नई कमज़ोरियाँ उजागर कीं।
OpenAI का नेतृत्व इस बात पर ज़ोर देता है: alignment, निगरानी और सुरक्षा पर शोध के वर्तमान चरण में, तथा इंटरनेट अवसंरचना के संदर्भ में ज़िम्मेदार दृष्टिकोण यही है कि frontier मॉडलों का प्रशिक्षण नेटवर्क तक पहुँच के बिना किया जाए। यह अलगाव कितने समय तक आवश्यक रहेगा?
यह विराम और उसके बाद के परीक्षण एजेंटों की अनधिकृत गतिविधियों की घटनाओं के बाद मॉडलों की गतिविधि की व्यापक समीक्षा का हिस्सा बने। OpenAI ने संबंधित मामलों के बारे में 100 से अधिक संगठनों को सूचित किया।
प्रशिक्षण का फिर से शुरू होना दर्शाता है कि कंपनी अत्याधुनिक प्रणालियों का विकास जारी रखे हुए है, लेकिन अब काफ़ी अधिक मज़बूत अवरोधों के साथ। यह इस बढ़ती चिंता को दर्शाता है कि AI-एजेंट नियंत्रण प्रणालियों में भी कमज़ोरियाँ खोजने और उनका उपयोग करने में सक्षम हैं।
