मेटा ने जेनरेटिव एआई उत्पादों और सेवाओं के निर्माण के लिए नए एआई चिप्स का अनावरण किया

मेटाने बुधवार को अपनी अगली पीढ़ी के मेटा ट्रेनिंग एंड इनफेरेंस एक्सेलेरेटर (एमटीआईए) का अनावरण किया, जो कि कस्टम-निर्मित चिपसेट का परिवार है। कृत्रिम होशियारी (एआई) कार्यभार। कंपनी द्वारा पहली AI चिप्स पेश करने के लगभग एक साल बाद इसके AI चिपसेट में अपग्रेड किया गया है। ये अनुमान त्वरक तकनीकी दिग्गज के मौजूदा और भविष्य के उत्पादों, सेवाओं और उसके सोशल मीडिया प्लेटफॉर्म में मौजूद एआई को शक्ति प्रदान करेंगे। विशेष रूप से, मेटा ने इस बात पर प्रकाश डाला कि चिपसेट की क्षमताओं का उपयोग इसकी रैंकिंग और अनुशंसा मॉडल की सेवा के लिए किया जाएगा।

इसके माध्यम से घोषणा कर रहे हैं ब्लॉग भेजा, मेटा ने कहा, “मेटा के बड़े पैमाने के बुनियादी ढांचे की अगली पीढ़ी को एआई को ध्यान में रखकर बनाया जा रहा है, जिसमें नए जेनरेटिव एआई (जेनएआई) उत्पादों और सेवाओं, अनुशंसा प्रणालियों और उन्नत एआई अनुसंधान का समर्थन करना शामिल है। यह एक ऐसा निवेश है जिसकी हमें उम्मीद है कि आने वाले वर्षों में इसमें वृद्धि होगी क्योंकि मॉडल के परिष्कार के साथ-साथ एआई मॉडल का समर्थन करने के लिए गणना आवश्यकताएं भी बढ़ेंगी।''

मेटा के अनुसार, नई एआई चिप अपने आर्किटेक्चर में सुधार के कारण बिजली उत्पादन और दक्षता दोनों में महत्वपूर्ण सुधार प्रदान करती है। एमटीआईए की अगली पीढ़ी अपने पूर्ववर्ती की तुलना में गणना और मेमोरी बैंडविड्थ को दोगुना कर देती है। यह मेटा के अनुशंसा मॉडल की भी सेवा दे सकता है जिसका उपयोग वह अपने सोशल मीडिया प्लेटफॉर्म पर अपने उपयोगकर्ताओं के लिए सामग्री को निजीकृत करने के लिए करता है।

चिपसेट के हार्डवेयर पर, मेटा ने कहा कि सिस्टम में एक रैक-आधारित डिज़ाइन है जो 72 एक्सेलेरेटर तक रखता है जहां तीन चेसिस में 12 बोर्ड होते हैं और उनमें से प्रत्येक में दो एक्सेलेरेटर होते हैं। प्रोसेसर 1.35GHz पर चलता है जो कि अपने पूर्ववर्ती 800MHz से बहुत तेज़ है। यह 90W के उच्च आउटपुट पर भी चल सकता है। एक्सेलेरेटर और होस्ट के बीच के फैब्रिक को भी PCIe Gen5 में अपग्रेड किया गया है।

सॉफ्टवेयर स्टैक वह जगह है जहां कंपनी ने बड़े सुधार किए हैं। चिपसेट को PyTorch 2.0 और संबंधित सुविधाओं के साथ पूरी तरह से एकीकृत करने के लिए डिज़ाइन किया गया है। कंपनी ने बताया, “एमटीआईए के लिए निचले स्तर का कंपाइलर फ्रंटएंड से आउटपुट लेता है और अत्यधिक कुशल और डिवाइस-विशिष्ट कोड तैयार करता है।”

अब तक के नतीजे बताते हैं कि यह एमटीआईए चिप कम जटिलता (एलसी) और उच्च जटिलता (एचसी) रैंकिंग और अनुशंसा मॉडल दोनों को संभाल सकती है जो मेटा के उत्पादों के घटक हैं। इन मॉडलों में, मॉडल आकार और प्रति इनपुट नमूने की गणना की मात्रा में ~10x-100x अंतर हो सकता है। क्योंकि हम पूरे स्टैक को नियंत्रित करते हैं, हम व्यावसायिक रूप से उपलब्ध जीपीयू की तुलना में अधिक दक्षता प्राप्त कर सकते हैं। इन लाभों को साकार करना एक सतत प्रयास है और हम अपने सिस्टम में एमटीआईए चिप्स का निर्माण और तैनाती करते हुए प्रति वाट प्रदर्शन में सुधार करना जारी रखते हैं।

एआई के उदय के साथ, कई तकनीकी कंपनियां अब अनुकूलित एआई चिपसेट के निर्माण पर ध्यान केंद्रित कर रही हैं जो उनकी विशेष जरूरतों को पूरा कर सकते हैं। ये प्रोसेसर सर्वर पर बड़े पैमाने पर गणना शक्ति प्रदान करते हैं जो उन्हें विशिष्ट कार्यों के लिए सामान्यवादी एआई चैटबॉट और एआई उपकरण जैसे उत्पाद लाने में सक्षम बनाता है।