Anthropic ने बताया कि इस साल उसने अपने AI मॉडलों का उपयोग उन शोधों के लिए करने के कई संभावित प्रयासों को विफल कर दिया है, जो जैविक हथियार बनाने में मदद कर सकते थे। कंपनी ने 10 सितंबर 2026 को एक रिपोर्ट प्रकाशित की, जिसमें उन मामलों का वर्णन किया गया है जहाँ वैज्ञानिकों ने प्रतिबंधों को दरकिनार करने की कोशिश की थी।
प्रतिबंधित क्षेत्रों के शोधकर्ताओं ने एक्सेस ब्लॉक को दरकिनार कर दिया और अपने काम के उद्देश्यों को छिपाया। Anthropic यह सटीक रूप से निर्धारित नहीं कर सकी कि ये शोध वैध थे या हानिकारक — कई जैविक प्रयोगों का दोहरा उपयोग होता है और वे टीकों के साथ-साथ खतरनाक रोगजनकों के लिए भी काम आ सकते हैं।
मई के एक मामले में, एक वैज्ञानिक ने चिकनगुनिया वायरस के शोध के लिए ग्रांट आवेदन लिखने में मदद मांगी थी, जो मच्छरों से फैलता है और तेज दर्द का कारण बनता है। कंपनी के अनुसार, यह काम एक सैन्य अनुसंधान संस्थान में करने की योजना थी।
"आप किसी को कॉमिक बुक स्टाइल में यह कहते हुए नहीं देखते: 'अरे, मैं सबको मारने के लिए जैविक हथियार बनाना चाहता हूँ'", Anthropic के खतरों के विभाग के प्रमुख जैकब क्लेन ने कहा। कंपनी ने सावधानी बरतते हुए संबंधित खातों को ब्लॉक कर दिया।
Council on Strategic Risks के विशेषज्ञ एंड्रयू वेबर ने इन मामलों को "चिंताजनक उदाहरण" बताया कि कैसे राज्यों से जुड़े जैविक हथियार विकसित करने वाले लोग उन्नत AI मॉडलों की क्षमताओं का इस्तेमाल करते हैं। रिपोर्ट में ऐसी पांच घटनाओं को शामिल किया गया है।
वास्तविक दुनिया में ऐसी दोहरी प्रकृति कितनी दूर तक जा सकती है, जब AI और भी शक्तिशाली होता जा रहा है?
यह जैविक क्षेत्र में इस तरह के दुरुपयोग के वास्तविक प्रयासों पर किसी बड़ी AI कंपनी की पहली सार्वजनिक रिपोर्ट है, न कि केवल प्रयोगशाला परीक्षणों पर। Anthropic इस बात पर जोर देती है कि मूल्यांकन में गलती के परिणाम इतने गंभीर हो सकते हैं कि जोखिम नहीं लिया जा सकता।
