एंथ्रोपिक का 'माइक्रोस्कोप' एआई क्लाउड की तर्कशक्ति का खुलासा करता है

एक प्रमुख एआई सुरक्षा और अनुसंधान कंपनी, एंथ्रोपिक ने उन्नत भाषा मॉडल की तर्कशक्ति में अंतर्दृष्टि प्रदान करने वाले नए उपकरण लॉन्च किए हैं। ये उपकरण एआई के लिए 'माइक्रोस्कोप' के रूप में कार्य करते हैं, जिससे वैज्ञानिकों को क्लाउड जैसे मॉडल के भीतर आंतरिक गणनाओं का पता लगाने की अनुमति मिलती है। अनुसंधान का उद्देश्य यह समझना है कि एआई मॉडल जानकारी को कैसे संसाधित करते हैं और प्रतिक्रियाएं कैसे उत्पन्न करते हैं। शोधकर्ता अब तर्क और अनुवाद जैसी विशिष्ट क्षमताओं से जुड़े 'सर्किट' को मैप कर सकते हैं। यह 'सर्किट ट्रेसिंग' विधि आंतरिक प्रतिनिधित्व को मध्य-प्रोत्साहन बदलने की अनुमति देती है। उदाहरण के लिए, क्लाउड की काव्य योजना स्थिति को संशोधित करने से उसकी तुकबंदी विकल्प बदल जाते हैं, जो मॉडल की आंतरिक अनुकूलन क्षमता को दर्शाता है। क्लाउड की आंतरिक कार्यप्रणाली सरल कार्यों में भी दिखने की तुलना में अधिक जटिल है। मॉडल गणित के लिए समानांतर गणनाओं का उपयोग करता है, सटीक अंकों की गणना करते समय योग का अनुमान लगाता है। एंथ्रोपिक के व्याख्यात्मक उपकरण यह सुनिश्चित करने के लिए महत्वपूर्ण हैं कि एआई सिस्टम सुरक्षित, अनुमानित और मानवीय मूल्यों के साथ संरेखित हों।