संबा नोवा ने डीपसीक-आर1 एआई मॉडल डिप्लॉयमेंट के साथ रिकॉर्ड गति हासिल की

संबा नोवा सिस्टम्स ने डीपसीक-आर1 671बी बड़े भाषा मॉडल की दुनिया की सबसे तेज डिप्लॉयमेंट की घोषणा की। कंपनी ने केवल 16 कस्टम-निर्मित चिप्स का उपयोग करके प्रति उपयोगकर्ता प्रति सेकंड 198 टोकन हासिल किए, जो आमतौर पर आवश्यक 320 एनवीडिया जीपीयू के 40 रैक को प्रतिस्थापित करते हैं। संबा नोवा के अनुसार, उनका एसएन40एल आरडीयू चिप उनके प्लेटफॉर्म को डीपसीक चलाने के लिए सबसे तेज बनाता है। उन्हें उम्मीद है कि वे एक ही रैक पर नवीनतम जीपीयू गति से पांच गुना तेज गति बढ़ाएंगे और साल के अंत तक डीपसीक-आर1 के लिए 100 गुना क्षमता प्रदान करेंगे। संबा नोवा का पुन: कॉन्फ़िगर करने योग्य डेटाफ्लो आर्किटेक्चर एक अधिक कुशल समाधान प्रदान करता है, जो अग्रणी जीपीयू की तीन गुना गति और पांच गुना दक्षता प्रदान करता है। डीपसीक-आर1 अब संबा नोवा क्लाउड पर उपलब्ध है, जिसमें चुनिंदा उपयोगकर्ताओं को एपीआई एक्सेस की पेशकश की जा रही है।