एआई डेटासेंटर को कैसे बदल रहा है, सीपीयू बनाम जीपीयू की भूमिका: इंटेल के सैंड्रा रिवेरा के साथ साक्षात्कार

अधिकांश लोग वास्तव में डेटासेंटर के बारे में नहीं सोचते हैं, लेकिन हम सभी इंटरनेट से जुड़े ऐप्स, स्ट्रीमिंग सेवाओं और संचार उपकरणों का उपयोग करते हैं जो भारी मात्रा में जानकारी के प्रसंस्करण और भंडारण पर निर्भर करते हैं। जैसे-जैसे दुनिया अधिक जुड़ती जा रही है और बड़ी मात्रा में डेटा बनाना और वितरित करना आसान होता जा रहा है, इन सभी को संभालने के लिए आवश्यक सिस्टम और प्रक्रियाएं विकसित होती जा रही हैं। सैंड्रा रिवेरा, इंटेल डेटा सेंटर और एआई ग्रुप के कार्यकारी उपाध्यक्ष और महाप्रबंधक, हाल ही में बेंगलुरु में थे, और गैजेट्स 360 को वर्तमान रुझानों पर उनकी राय और भविष्य के लिए उनके दृष्टिकोण के बारे में सुनने का मौका मिला। महामारी के कारण बहुत कुछ बदल गया है, और निश्चित रूप से एआई आगे बढ़ने की कहानी का एक बड़ा हिस्सा है।

हम सबसे पहले आपके लिए सैंड्रा रिवेरा की टिप्पणियाँ लेकर आए हैं इंटेल का भारत में चल रहा काम और वह सब कुछ जो कंपनी यहां कर रही है। अब, हार्डवेयर और सॉफ्टवेयर में नवाचार, डेटासेंटर की विकसित प्रकृति और प्रतिस्पर्धा के बारे में उस बातचीत के कुछ और अंश यहां दिए गए हैं NVIDIA.

कैसे डेटासेंटर और भी महत्वपूर्ण होते जा रहे हैं, और हाल के दिनों में चीजें कैसे बदल गई हैं:

सैंड्रा रिवेरा: हमारे सभी नवाचार और उत्पाद स्पष्ट रूप से हमारे ग्राहकों द्वारा संचालित हो रहे हैं। हम एक बड़े और बढ़ते टीएएम (टोटल एड्रेसेबल मार्केट) में हैं और जैसे-जैसे हम आगे बढ़ रहे हैं, डिजिटल परिवर्तन और हमारे जीवन के हर हिस्से के डिजिटलीकरण के साथ, यह भारत से कहीं अधिक स्पष्ट नहीं है। हमें और अधिक गणना की आवश्यकता है; हम और अधिक डेटा बना रहे हैं. इसे संपीड़ित, सुरक्षित, नेटवर्क पर वितरित और संग्रहीत करने की आवश्यकता है। इसे पूरा करने की आवश्यकता है, और आपको इससे मूल्यवान अंतर्दृष्टि प्राप्त करने की भी आवश्यकता है, जिसमें निश्चित रूप से एआई आता है।

कोविड के दौरान जो दिलचस्प चीजें हुईं उनमें से एक यह है कि आपूर्ति श्रृंखला की बाधाओं के कारण जिससे हम सभी जूझ रहे थे, हमने देखा कि ग्राहक अपने पास मौजूद बुनियादी ढांचे के अधिक उपयोग की ओर झुक रहे थे। एआई, नेटवर्किंग और सुरक्षा नवीनतम नवाचारों और समाधानों के लिए बहुत भूखे हैं, लेकिन बहुत सारे वेब स्तर; कार्यालय अनुप्रयोग जो क्लाउड इंफ्रास्ट्रक्चर में चलते हैं; ईआरपी सिस्टम; लेखा प्रणाली; आदि, वास्तव में उपयोग पर बहुत केंद्रित हैं।

सबसे बड़ी वृद्धि वहां हो रही है जिसे हम नेटवर्क का किनारा या परिसर कहते हैं। गणना डेटा निर्माण और डेटा खपत के बिंदु पर आ रही है। वहां हमारे लिए सबसे बड़ी चुनौती उस डेटा को संसाधित करने के लिए ऑन-प्रिमाइसेस अनुप्रयोगों को तैनात करने को सरल बनाने के लिए हमारे ओईएम के साथ साझेदारी करना है; मशीन लर्निंग, एआई, डेटा एनालिटिक्स, नेटवर्किंग क्षमताएं, सुरक्षा चलाने के लिए। यह हार्डवेयर और निश्चित रूप से सॉफ्टवेयर दोनों में बहुत काम है।

यह यहाँ भारत में भी सच है। (इसमें से कुछ) बिजली की कमी से प्रेरित है और इसलिए यदि वे उन अग्रणी अनुप्रयोगों और बुनियादी ढांचे के लिए समर्पित बिजली रख सकते हैं और फिर अधिक मुख्यधारा के अनुप्रयोगों पर बिजली सीमित कर सकते हैं, तो यह बिजली बजट का एक स्मार्ट उपयोग है, जो एक बड़ा है सौदा।

अनुसंधान एवं विकास के दृष्टिकोण से भारत हमारे लिए बहुत महत्वपूर्ण रहा है; मेरा मतलब है कि हम दशकों से यहां हैं। हम यह भी देखते हैं कि सरकार डिजिटल परिवर्तन और बुनियादी ढांचे में जो भी निवेश कर रही है, वह यह है कि भारत हमारे लिए एक बड़ा उपभोग बाजार भी बनने जा रहा है। यहां अधिक बुनियादी ढांचा, अधिक डेटासेंटर, अधिक उद्यम समाधान, सॉफ्टवेयर पारिस्थितिकी तंत्र समाधान और सेवाएं बनाने का अवसर बहुत रोमांचक है। हम न केवल कार्यबल में बल्कि यहां बाजार के अवसरों में भी निवेश करना जारी रखते हैं।

जीपीयू की मांग होने के बावजूद सीपीयू का निरंतर महत्व, और यह डेटासेंटर डिज़ाइन को कैसे बाधित कर रहा है:

सैंड्रा रिवेरा: 5G के निरंतर प्रसार के साथ-साथ सुरक्षा और भंडारण द्वारा संचालित AI और नेटवर्किंग जैसे उच्च-विकास कार्यभार हैं। बाज़ार में हम जो गतिशीलता देख रहे हैं उनमें से एक यह है कि निकट अवधि में, त्वरित गणना, अर्थात् जीपीयू और एआई एक्सेलेरेटर के लिए बहुत रुचि है।

ग्राहक अपने पूंजीगत व्यय का कुछ हिस्सा जीपीयू की ओर स्थानांतरित करना चाह रहे हैं। सीपीयू समीकरण का हिस्सा है, लेकिन निकट अवधि में, उस पूंजीगत व्यय का अधिक हिस्सा जीपीयू में जाने वाला है। हमें नहीं लगता कि यह कोई स्थायी बाज़ार स्थिति है। कई एआई वर्कलोड के लिए लागत-प्रदर्शन-प्रोग्रामेबिलिटी परिप्रेक्ष्य से सीपीयू काफी अच्छा है। कई मामलों में, ग्राहकों के पास पहले से ही एक ज़ीऑन सीपीयू है, और इसलिए यह तथ्य कि वे एआई मशीन लर्निंग (उसके साथ) कर सकते हैं, हमारे व्यवसाय के लिए एक प्रतिकूल स्थिति है।

इंटेल एआई कॉन्टिनम

(वह सब) जिसके बारे में हर कोई अभी बात करता है वह जेनरेटिव एआई और बड़े भाषा मॉडल हैं, लेकिन एआई उससे कहीं अधिक है, है ना? एआई वह सारी डेटा तैयारी है जो आपके मॉडल को प्रशिक्षित करने से पहले होती है; यह डेटा प्रबंधन, फ़िल्टरिंग और सफाई है। इसलिए यदि आप बिल्लियों की पहचान करने के लिए एक एप्लिकेशन बनाने का प्रयास कर रहे हैं, (उदाहरण के लिए) तो आप उन चित्रों में कोई कुत्ता नहीं चाहते। यह सब सीपीयू के साथ अग्रिम रूप से किया जाता है और वास्तव में आज एक्सॉन के साथ लगभग विशेष रूप से किया जाता है। यह एआई वर्कफ़्लो का हिस्सा है। फिर आप वास्तविक मॉडल प्रशिक्षण चरण पर पहुँचते हैं। सीपीयू छोटे से मध्यम आकार के मॉडल – 10 बिलियन पैरामीटर या उससे कम – या मिश्रित कार्यभार को संबोधित करने के लिए बहुत अच्छी तरह से तैनात है जहां मशीन लर्निंग या डेटा एनालिटिक्स एक व्यापक अनुप्रयोग का हिस्सा है। सीपीयू बहुत लचीला, अत्यधिक प्रोग्रामयोग्य है, और संभवतः आपके पास पहले से ही सीपीयू हैं।

जब आप 100, 200, 300 बिलियन मापदंडों के साथ सबसे बड़े मॉडल के बारे में बात करते हैं – तो वहां आपको एक अधिक समानांतर वास्तुकला की आवश्यकता होती है, जो कि एक जीपीयू प्रदान करता है, और आपको समर्पित गहन शिक्षण त्वरण से भी लाभ होता है, जैसा कि हमारे पास गौडी में है। मॉडल को प्रशिक्षित करने के बाद, आप उस स्थान पर पहुँचते हैं जिसे हम अनुमान या परिनियोजन चरण कहते हैं। आमतौर पर, आप वहां ऑन-प्रिमाइस हैं। यदि आप किसी खुदरा संगठन या फ़ास्ट फ़ूड रेस्तरां में हैं, तो आप आमतौर पर उसे सीपीयू या किसी कम बिजली खपत वाले, कम महंगे एक्सीलेटर पर चला रहे होंगे। अनुमान चरण में, हम अपने सीपीयू और हमारे कुछ छोटे जीपीयू और एक्सेलेरेटर के साथ बहुत प्रभावी ढंग से प्रतिस्पर्धा कर सकते हैं।

फिलहाल, उन सबसे बड़े भाषा मॉडल और जेनरेटिव एआई को लेकर काफी दिलचस्पी है। हमने अधिक ग्राहकों को यह कहते हुए देखा है कि वे यह सुनिश्चित करना चाहते हैं कि उनके पास कुछ GPU क्षमताएं हैं। हम देखते हैं कि गतिशील, लेकिन दीर्घकालिक, बाजार जटिल है। यह बढ़ रहा है. हम AI के शुरुआती दिनों में हैं। हमारा मानना ​​है कि हमारे पोर्टफोलियो में मौजूद व्यापक क्षमताओं के साथ खेलने का हमारे पास बहुत अच्छा अवसर है। तो ऐसा नहीं है कि मुझे लगता है कि जेनरेटिव एआई छोटा है; लेकिन यह केवल बड़े पैमाने के जीपीयू के साथ संबोधित करने योग्य नहीं है।

इंटेल एनवीडिया को कैसे देखता है, और यह कैसे प्रतिस्पर्धा करने की योजना बना रहा है

सैंड्रा रिवेरा: हर कोई जानता है कि एनवीडिया बाजार में जीपीयू पहुंचाने का बहुत अच्छा काम कर रहा है। यह एक बहुत बड़ा खिलाड़ी है. मुझे इसे परिप्रेक्ष्य में रखने दीजिए। गौडी 2 का प्रदर्शन एनवीडिया ए100 से बेहतर है, जो आज सबसे व्यापक जीपीयू है। अभी इसका H100 की तुलना में अधिक कच्चा प्रदर्शन नहीं है, लेकिन मूल्य-प्रदर्शन के नजरिए से, यह वास्तव में बहुत अच्छी स्थिति में है। गौडी 2 हार्डवेयर में समर्थित डेटा प्रारूपों में से एक एफपी8 है, और इसका समर्थन करने वाला सॉफ्टवेयर अगली तिमाही में जारी किया जाएगा। हमें बहुत अच्छा प्रदर्शन देखने की उम्मीद है, लेकिन आपको इंतजार करना होगा और देखना होगा कि हम नवंबर में क्या प्रकाशित करते हैं। अगले साल, हमारे पास बाजार में गौडी 3 होगा जो एच100 और यहां तक ​​कि एनवीडिया रोडमैप पर अगली पीढ़ी के साथ बहुत प्रभावी ढंग से प्रतिस्पर्धा करेगा। हमारे अनुमान बहुत अच्छे दिखते हैं. हमारी कीमत बहुत आक्रामक है। ग्राहक विकल्प चाहते हैं और हम निश्चित रूप से बाजार में सबसे बड़े खिलाड़ी का विकल्प बनना चाहते हैं। यह वही होगा जो हम करते हैं, न कि जो हम कहते हैं।

टिकाऊ डेटासेंटर बनाने के लिए इंटेल का रोडमैप।

सैंड्रा रिवेरा: हम दुनिया भर में अपने सभी विनिर्माण में 90 प्रतिशत से अधिक और कुछ मामलों में 100 प्रतिशत नवीकरणीय ऊर्जा का उपयोग करते हैं। हम अपने उत्पादों के विनिर्माण के लिए नवीकरणीय ऊर्जा और कुल कार्बन पदचिह्न में किसी से पीछे नहीं हैं। प्रतिस्पर्धा, दुनिया के अधिकांश देशों की तरह, ताइवान या कोरिया में फाउंड्रीज़ में अपने उत्पाद बना रही है। बेशक ताइवान सबसे बड़ा है, लेकिन नवीकरणीय ऊर्जा के क्षेत्र में उनका पदचिह्न वास्तव में काफी छोटा है। यह एक द्वीप है; सब कुछ डीजल ईंधन का उपयोग करके भेजा जाता है। जब हम उन डेटासेंटरों को देखते हैं जिन्हें हम अपने स्वयं के फैब और अपने स्वयं के आईटी बुनियादी ढांचे के लिए बना रहे हैं, तो यह फिर से 90 प्रतिशत से अधिक नवीकरणीय ऊर्जा है। हम हरित और नवीकरणीय ऊर्जा को अनुकूलित करने में मदद करने के लिए अपने ओईएम के साथ-साथ क्लाउड सेवा प्रदाताओं के साथ भी बहुत निकटता से साझेदारी करते हैं।

चौथी पीढ़ी के ज़ीऑन के साथ हमने एक पावर-अनुकूलित मोड पेश किया है जहां आप निष्क्रिय समय के दौरान कोर को बंद करने और प्रोसेसर को ट्यून करने के बारे में स्मार्ट बनकर वास्तव में 20 प्रतिशत कम ऊर्जा का उपयोग कर सकते हैं। हम इसे बहुत छोटे प्रदर्शन प्रभाव, 5 प्रतिशत से भी कम, के साथ करने में सक्षम थे, और ग्राहकों को यह पसंद है क्योंकि उन्हें हमेशा पूरी क्षमता पर चलने वाले प्रोसेसर की आवश्यकता नहीं होती है और वे बहुत सारी ऊर्जा बचा सकते हैं।

डेटासेंटर में न्यूरोमॉर्फिक और क्वांटम कंप्यूटिंग की वर्तमान स्थिति और भविष्य की क्षमता

सैंड्रा रिवेरा: न्यूरोमॉर्फिक और क्वांटम कंप्यूटिंग अग्रणी प्रौद्योगिकियां हैं। हम कम से कम डेढ़ दशक से क्वांटम में निवेशक हैं। हम सिलिकॉन फोटोनिक्स में निवेशक रहे हैं; ऑप्टिकल नेटवर्किंग और इंटरकनेक्ट तेजी से दिलचस्प हो गए हैं, खासकर इन उच्च-स्तरीय, बड़े पैमाने के कंप्यूटिंग प्लेटफार्मों में। हम जानते हैं कि आगे चलकर मेमोरी प्रौद्योगिकियाँ हमारे लिए महत्वपूर्ण होंगी। हम साझेदारों के साथ और अपने दम पर मेमोरी प्रौद्योगिकियों में निवेशक रहे हैं। उन प्रौद्योगिकियों की व्यावसायिक व्यवहार्यता कभी-कभी 10-20 साल पीछे हो जाती है, लेकिन नवाचार हमारे व्यवसाय की जीवनधारा है। इंटेल लैब्स के साथ हमारे पास असाधारण क्षमताएं हैं। हमारे पास बहुत सारे अध्येता, वरिष्ठ अध्येता और उद्योग जगत के दिग्गज हैं। प्रक्रिया प्रौद्योगिकी दुनिया की सबसे जटिल और उत्कृष्ट इंजीनियरिंग में से एक है।

हम नवप्रवर्तन के दृष्टिकोण से नेतृत्व करना जारी रखेंगे। व्यावसायिक व्यवहार्यता इस बात पर निर्भर करती है कि बाजार कितनी तेजी से बदलता है। हम सोचते हैं कि एआई विघटनकारी है, और उनमें से कुछ प्रौद्योगिकियां संभवतः त्वरित गति से (विकसित) की जाएंगी, विशेष रूप से नेटवर्किंग और मेमोरी। बिजली और थर्मल में बहुत सारे नवाचार हैं; ये चिप्स और सिस्टम बड़े और गर्म होते जा रहे हैं। जब समय (सही) हो तो उत्तर देना हमेशा आसान नहीं होता है। इनमें से कुछ प्रौद्योगिकियों को व्यावसायिक सफलता नहीं मिल सकती है, लेकिन आप उनमें से कुछ हिस्सों को लेते हैं और उन्हें अन्य क्षेत्रों में प्रसारित करते हैं। मुझे लगता है कि यह नवप्रवर्तन का व्यवसाय है और हमें अपने इतिहास पर बहुत गर्व है। उन (टीमों को) बहुत सारी मज़ेदार चीज़ें करने को मिलती हैं और वे बहुत ऊर्जावान होते हैं।

स्पष्टता के लिए कुछ प्रतिक्रियाओं को संक्षिप्त किया गया है और थोड़ा संपादित किया गया है।

प्रकटीकरण: इंटेल ने बेंगलुरु में कार्यक्रम के लिए संवाददाता की उड़ानों को प्रायोजित किया।