Artificial Intelligence
एआई हार्डवेयर में निवेश: सीपीयू से एक्सपीयू तक
Securities.io कठोर संपादकीय मानकों को बनाए रखता है और समीक्षा किए गए लिंक से मुआवज़ा प्राप्त कर सकता है। हम पंजीकृत निवेश सलाहकार नहीं हैं और यह निवेश सलाह नहीं है। कृपया हमारे देखें सहबद्ध प्रकटीकरण.

एआई हार्डवेयर में निवेश: पिक्स एंड शॉवेल्स दृष्टिकोण
पिछले कुछ दशकों में एआई हमारी अर्थव्यवस्था, उत्पादक प्रणालियों और समाज में सबसे महत्वपूर्ण परिवर्तन लाने का वादा कर रहा है, जो संभवतः इंटरनेट द्वारा लाए गए क्रांतिकारी परिवर्तनों को भी तुलनात्मक रूप से तुच्छ बना देगा।
इससे नौकरियों की एक पूरी श्रेणी गायब हो सकती है, जिसमें ड्राइवर, अनुवादक, ग्राहक सहायता, वेब डिजाइनर आदि शामिल हैं। अन्य नौकरियों की मांग में भारी कमी देखी जा सकती है, जैसे प्रोग्रामर, प्रवेश स्तर के वकील, निदान विशेषज्ञ आदि।
इससे कई अन्य कार्यों के लिए अतिरिक्त मूल्य और उत्पादकता भी पैदा होगी, तथा प्रमुख एआई सॉफ्टवेयर कंपनियां संभवतः पहले अकल्पनीय बाजार पूंजीकरण तक पहुंचने वाली पहली कंपनियां होंगी।
इन सभी कारणों से, पूंजी बाजार और निवेशक एआई से मंत्रमुग्ध हो गए हैं और एआई में कई तकनीकी दिग्गजों की प्रगति पर बहुत ध्यान देते हैं, साथ ही चीनी तकनीकी दिग्गजों जैसे कि अलीबाबा और स्टार्टअप जैसे डीपसीक.
एआई बूम का फायदा उठाने का एक और तरीका है, हर सोने की होड़ में काम करने वाली रणनीति अपनाना: सोना मत ढूंढो, बल्कि कुदाल और फावड़े बेचो। यह उन कंपनियों के लिए निश्चित रूप से कारगर रहा है जो एआई-अनुकूलित हार्डवेयर बेचने के लिए सबसे अच्छी स्थिति में थीं। Nvidia (NVDA -2.17%) अपने गेमिंग-ग्राफिक कार्ड को एआई-प्रशिक्षण चिप्स में बदल दिया है, जिससे यह दुनिया की सबसे मूल्यवान कंपनी बन गई है, और इसने आश्चर्यजनक $4T बाजार पूंजीकरण पार कर लिया है (Nvidia पर पूरी रिपोर्ट के लिए लिंक पर जाएँ).
चूंकि एआई के लिए बहुत विशिष्ट हार्डवेयर की आवश्यकता होती है, जो कंप्यूटिंग कार्यों के अन्य पिछले रूपों से काफी भिन्न है, और यह एक बहुत बड़ा व्यावसायिक अवसर है, इसलिए सेमीकंडक्टर उद्योग अब एआई कार्यक्रमों के प्रशिक्षण और संचालन के लिए विशेष रूप से डिजाइन किए गए हार्डवेयर के नए रूपों को विकसित करने की होड़ में है।
हालांकि एनवीडिया इस क्षेत्र की शीर्ष कंपनियों में से एक बनी रहेगी, लेकिन अब विकल्प उभर रहे हैं और वे उन निवेशकों के लिए दिलचस्प अवसर प्रदान कर सकते हैं जो पहले से ही इस पर ध्यान दे रहे हैं।
एआई को विशेष हार्डवेयर की आवश्यकता क्यों है?
कई छोटी गणनाएँ
एआई के शुरुआती प्रयासों में अन्य कार्यक्रमों की तरह ही कंप्यूटिंग क्षमता का इस्तेमाल किया गया था, और ज़्यादातर प्रोसेसर (सेंट्रल प्रोसेसिंग यूनिट - सीपीयू) पर ध्यान केंद्रित किया गया था। सीपीयू अभी भी महत्वपूर्ण हैं, लेकिन जल्द ही यह पता चला कि एआई विकसित करने के लिए वर्तमान में इस्तेमाल की जाने वाली ज़्यादातर विधियों के लिए वे इष्टतम नहीं हैं।
न्यूरल नेटवर्क और इसी तरह की अन्य विधियों में एक बहुत ही जटिल गणना के बजाय, अपेक्षाकृत सरल गणनाओं की आवश्यकता होती है। इसलिए, कई छोटे चिप्स का समानांतर काम करना आमतौर पर बड़े और शक्तिशाली सीपीयू की तुलना में बेहतर होता है।
यही कारण है कि GPU शीघ्र ही अधिक लोकप्रिय हो गए, क्योंकि ग्राफिक कार्ड स्वाभाविक रूप से हजारों छोटी गणनाओं को समानांतर रूप से करने के लिए डिज़ाइन किए गए हैं।
आज का एआई प्रशिक्षण काफी हद तक तंत्रिका नेटवर्क पर आधारित है, एक अवधारणा जिसने 2024 में भौतिकी में नोबेल पुरस्कार जीता, एक पुरस्कार जिसे हमने उस समय एक समर्पित लेख में विस्तार से कवर किया था.

स्रोत: नोबेल पुरस्कार
एआई तकनीक में दूसरी क्रांति "ट्रांसफॉर्मर्स" के साथ आई। ये पारंपरिक न्यूरल नेटवर्क की समस्याओं को हल करते हैं। डेटा के लंबे अनुक्रमों को कुशलतापूर्वक संसाधित करने में असमर्थता, किसी भी प्राकृतिक भाषा की एक सामान्य विशेषता.
गूगल शोधकर्ताओं द्वारा 2017 में पहली बार पेश किया गया, यह एआई क्षमता में वर्तमान विस्फोट का मूल कारण है। ट्रांसफॉर्मर, चैटजीपीटी सहित एलएलएम (लार्ज लैंग्वेज मॉडल) जैसे एआई उत्पादों के मूल में हैं।
अलग आवश्यकताएं
एआई वर्कफ़्लो में एक महत्वपूर्ण अंतर यह है कि फ़ाइन ट्यूनिंग और अनुमान, दोनों की हार्डवेयर आवश्यकताएं अलग-अलग हैं।
- फ़ाइन ट्यूनिंग इसमें डोमेन-विशिष्ट डेटा पर एक मॉडल को प्रशिक्षित करना शामिल है, जिसके लिए महत्वपूर्ण कंप्यूटिंग शक्ति और मेमोरी की आवश्यकता होती है। यह एक बहुत ही तकनीकी कार्य है, जो अक्सर एआई विज्ञान के बिल्कुल चरम पर होता है।
- अनुमान आउटपुट उत्पन्न करने के लिए पहले से प्रशिक्षित मॉडल का उपयोग करने पर ध्यान केंद्रित किया जाता है, जिसमें कम कम्प्यूटेशनल शक्ति की मांग होती है, लेकिन कम विलंबता और लागत दक्षता पर अधिक ध्यान दिया जाता है।
- यह कार्य एआई विशेषज्ञों द्वारा वास्तविक जीवन की समस्याओं को सुलझाने के लिए पहले से मौजूद मॉडलों का उपयोग करके किया जाता है।
इसलिए, जबकि लागत स्पष्ट रूप से फाइन-ट्यूनिंग/प्रशिक्षण और अनुमान/एआई के उपयोग दोनों के लिए चिंता का विषय है, प्रशिक्षण के लिए अक्सर सर्वोत्तम हार्डवेयर की आवश्यकता होगी, जबकि उपयोग कार्य सर्वोत्तम हार्डवेयर विकल्प चुनते समय हार्डवेयर की लागत और ऊर्जा खपत पर अधिक ध्यान केंद्रित करेंगे।
सीपीयू बनाम जीपीयू
केंद्रीय प्रसंस्करण इकाइयाँ (सीपीयू):
सीपीयू सामान्य प्रयोजन के होते हैं, न कि विशिष्ट रूप से एआई हार्डवेयर। हालाँकि, एआई सिस्टम में निर्देशों के निष्पादन और बुनियादी गणनाओं के लिए ये अभी भी आवश्यक हैं।
एआई प्रणाली के अंतिम उपयोगकर्ताओं के साथ इंटरफेस को संभालने वाले अधिकांश सॉफ्टवेयर भी सीपीयू-केंद्रित होंगे, चाहे वह व्यक्तिगत कंप्यूटर हों या क्लाउड-आधारित सॉफ्टवेयर।

स्रोत: आनंदटेक
सीपीयू का इस्तेमाल बेहद साधारण एआई के लिए भी किया जा सकता है, जहाँ समर्पित हार्डवेयर की ज़रूरत नहीं होती। यह ख़ास तौर पर तब सच होता है जब आउटपुट बहुत ज़रूरी न हो, और सीपीयू की अपेक्षाकृत धीमी एआई-प्रोसेसिंग कोई समस्या न हो।
इसलिए, डेटा और गणना के छोटे बैच वाले छोटे मॉडल सीपीयू पर अच्छा प्रदर्शन कर सकते हैं। सामान्य कंप्यूटरों में सीपीयू की सर्वव्यापकता इसे उन औसत उपयोगकर्ताओं के लिए भी एक अच्छा विकल्प बनाती है जो एआई-विशिष्ट हार्डवेयर में निवेश करने को तैयार नहीं हैं।
सीपीयू बहुत विश्वसनीय और स्थिर होते हैं, जिससे वे महत्वपूर्ण कार्यों के लिए एक अच्छा विकल्प बन जाते हैं, जहां कोई त्रुटि न होना एक महत्वपूर्ण मानदंड है।
अंत में, सीपीयू एआई प्रशिक्षण में कुछ कार्यों के लिए उपयोगी होते हैं, आमतौर पर अन्य प्रकार के हार्डवेयर के साथ मिलकर, जैसे डेटा लोडिंग, फॉर्मेटिंग, फ़िल्टरिंग और विज़ुअलाइज़ेशन।
ग्राफिक्स प्रोसेसिंग यूनिट (जीपीयू):
मूल रूप से ग्राफ़िक्स रेंडरिंग के लिए डिज़ाइन किए गए GPU, समानांतर प्रोसेसिंग के लिए डिज़ाइन किए गए हैं, जिससे वे बड़े डेटासेट को संभालने वाले AI मॉडल के प्रशिक्षण के लिए आदर्श बन जाते हैं। CPU से GPU पर स्विच करने से प्रशिक्षण का समय हफ़्तों से घटकर घंटों में आ गया है।
उनकी व्यापक उपलब्धता और उनके साथ काम करने वाले आईटी विशेषज्ञों के अनुभव के कारण, GPUs, AI अनुसंधान को बढ़ाने के लिए श्रृंखला में स्थापित किए जाने वाले पहले प्रकार के कंप्यूटिंग हार्डवेयर थे।

स्रोत: Aorus
GPU की सफलता में Nvidia द्वारा CUDA का विकास भी महत्वपूर्ण रहा, जो NVIDIA के GPU के लिए एक सामान्य-उद्देश्यीय प्रोग्रामिंग इंटरफ़ेस था, जिसने गेमिंग के अलावा अन्य उपयोगों के लिए भी द्वार खोल दिए। ऐसा इसलिए किया गया क्योंकि कुछ शोधकर्ता पहले से ही सामान्य सुपरकंप्यूटरों के बजाय गणना करने के लिए GPU का उपयोग कर रहे थे।
शोधकर्ताओं ने महसूस किया कि GeForce नामक इस गेमिंग कार्ड को खरीदकर, जब आप इसे अपने कंप्यूटर से जोड़ते हैं, तो आपके पास वास्तव में एक व्यक्तिगत सुपर कंप्यूटर होता है।
आणविक गतिशीलता, भूकंपीय प्रसंस्करण, सीटी पुनर्निर्माण, छवि प्रसंस्करण - विभिन्न चीजों का एक पूरा समूह।"
आज, GPU अभी भी AI हार्डवेयर के सबसे अधिक मांग वाले प्रकारों में से एक है, तथा Nvidia गीगावाट-स्केल AI डेटा सेंटर बनाने वाली तकनीकी दिग्गजों की मांग को पूरा करने के लिए पर्याप्त उत्पादन करने में मुश्किल से कामयाब हो पा रहा है।
यह एनवीडिया द्वारा हाल ही में जारी "सुपर जीपीयू युग" की शुरुआत भी है। GB200 NVL72.
इस हार्डवेयर को इस तरह डिज़ाइन किया गया है कि यह फैक्ट्री से निकलते ही एक विशाल GPU की तरह काम करता है, बजाय इसके कि इसे कई छोटे GPU के नेटवर्क से जोड़ा जाए। यह इसे पहले के रिकॉर्ड तोड़ने वाले H100 मॉडल से भी कहीं ज़्यादा शक्तिशाली बनाता है।

स्रोत: Nvidia
यह और भी ज़्यादा ऊर्जा कुशल होना चाहिए, जो एक महत्वपूर्ण बिंदु है क्योंकि जिस गति से एआई डेटा सेंटर बन रहे हैं, उससे एआई उद्योग में चिप्स की कमी होने से पहले ही ऊर्जा की कमी हो सकती है। और ज़्यादा कंप्यूटिंग और ऊर्जा दक्षता का मतलब है कम अपशिष्ट ऊष्मा, जो अस्थायी रूप से ज़्यादा गर्मी की समस्या का भी समाधान करती है।
| हार्डवेयर प्रकार | सबसे अच्छा उपयोग मामला | गति | ऊर्जा दक्षता | लचीलापन |
|---|---|---|---|---|
| सी पी यू | सामान्य प्रयोजन के कार्य | निम्न | हाई | बहुत ऊँचा |
| GPU | AI प्रशिक्षण और समानांतर कार्य | हाई | मध्यम | मध्यम |
| TPU | टेंसर संचालन और ट्रांसफार्मर | बहुत ऊँचा | हाई | निम्न |
| एएसआईसी | एकल कार्य त्वरण | बहुत ऊँचा | बहुत ऊँचा | बहुत कम |
| FPGA | पुन: कॉन्फ़िगर करने योग्य AI कार्यभार | मध्यम | मध्यम | हाई |
ASIC और AI हार्डवेयर का उदय
अनुप्रयोग-विशिष्ट एकीकृत सर्किट (ASIC) कंप्यूटिंग हार्डवेयर हैं, जिन्हें विशेष रूप से किसी दिए गए कंप्यूटिंग कार्य के लिए डिज़ाइन किया गया है, जिससे वे अपेक्षाकृत सामान्य GPU की तुलना में और भी अधिक विशिष्ट बन जाते हैं।
इसलिए वे सामान्य प्रयोजन वाले हार्डवेयर की तुलना में कम लचीले और प्रोग्रामयोग्य होते हैं।
आमतौर पर, ये ज़्यादा जटिल होते हैं। उत्पादन के पैमाने की कमी और कस्टम डिज़ाइन की लागत के कारण, ये आम तौर पर ज़्यादा महंगे भी होते हैं।
हालांकि, वे अपने दिए गए कार्य में बहुत अधिक कुशल होते हैं, तथा सामान्यतः बहुत कम कंप्यूटिंग शक्ति और ऊर्जा की बर्बादी के साथ तेजी से आउटपुट देते हैं।
एएसआईसी और अन्य एआई-विशिष्ट हार्डवेयर का उपयोग बढ़ रहा है, क्योंकि क्षेत्र में धीरे-धीरे यह देखा जा रहा है कि कुछ गणनाएं आदर्श रूप से जीपीयू पर नहीं की जाती हैं, बल्कि इसके लिए अधिक विशिष्ट उपकरणों की आवश्यकता होती है।
टेंसर प्रोसेसिंग यूनिट (टीपीयू)
टीपीयू का विकास गूगल द्वारा किया गया था (GOOGL -2.34%) विशेष रूप से टेंसर गणनाएँ करने के लिए (ट्रांसफॉर्मर-आधारित कैलकुलस से जुड़ी)। ये उच्च-थ्रूपुट, कम-सटीकता वाले अंकगणित के लिए अनुकूलित हैं।

स्रोत: सी#कॉर्नर
इससे टीपीयू को बड़े तंत्रिका नेटवर्क के प्रशिक्षण के लिए उच्च प्रदर्शन, दक्षता और मापनीयता प्राप्त होती है।
टीपीयू में विशिष्ट विशेषताएं होती हैं, जैसे मैट्रिक्स मल्टीप्ली यूनिट (एमएक्सयू) और मालिकाना इंटरकनेक्ट टोपोलॉजी, जो उन्हें एआई प्रशिक्षण और अनुमान को तेज करने के लिए आदर्श बनाती हैं।
टीपीयू जेमिनी और गूगल के सभी एआई-संचालित अनुप्रयोगों जैसे सर्च, फोटो और मैप्स को शक्ति प्रदान करते हैं, जो 1 अरब से अधिक उपयोगकर्ताओं को सेवा प्रदान करते हैं।
यह हार्डवेयर प्रकार तंत्रिका नेटवर्क के विकास और कार्यप्रणाली को काफी तेज कर सकता है, जहां कभी-कभार होने वाली त्रुटि कम महत्वपूर्ण होती है, क्योंकि ये मॉडल शुरू में सांख्यिकी और बड़ी संख्या में गणनाओं पर अत्यधिक निर्भर होते हैं।
अंतिम उपयोगकर्ता कार्यों में टीपीयू के लिए सबसे उपयुक्त कार्य हैं गहन शिक्षण, वाक् पहचान और छवि वर्गीकरण।
न्यूरल नेटवर्क प्रोसेसर (एनएनपी):
न्यूरल प्रोसेसिंग यूनिट्स (एनपीयू) से जुड़े और न्यूरोमॉर्फिक चिप्स कहे जाने वाले एनपीपी, न्यूरल नेटवर्क कंप्यूटेशन में विशेषज्ञता रखते हैं और मानव मस्तिष्क में तंत्रिका कनेक्शनों की नकल करने के लिए डिज़ाइन किए गए हैं। इन्हें कभी-कभी एआई एक्सेलरेटर भी कहा जाता है, हालाँकि यह शब्द उतना स्पष्ट नहीं है।
एक एनपीयू सिनैप्टिक वेट के माध्यम से भंडारण और संगणन को भी एकीकृत करेगा। इसलिए यह समय के साथ समायोजित या "सीख" सकता है, जिससे परिचालन दक्षता में सुधार होगा।
एनपीयू में गुणन और जोड़, सक्रियण कार्य, 2डी डेटा संचालन और विसंपीडन के लिए विशिष्ट मॉड्यूल शामिल होते हैं।
विशिष्ट गुणन और जोड़ मॉड्यूल का उपयोग तंत्रिका नेटवर्क अनुप्रयोगों के प्रसंस्करण से संबंधित कार्यों को करने के लिए किया जाता है, जैसे मैट्रिक्स गुणन और जोड़, कनवल्शन, डॉट उत्पाद और अन्य कार्यों की गणना करना।
विशेषज्ञता एक NPU को एक सामान्य हार्डवेयर के साथ कई हज़ार गणनाओं के बजाय केवल एक गणना के साथ एक ऑपरेशन पूरा करने में मदद कर सकती है। उदाहरण के लिए, आईबीएम का दावा है कि एनपीयू, जीपीयू की तुलना में एआई गणना की दक्षता में काफी सुधार कर सकता है.
"परीक्षण से पता चला है कि कुछ NPU का प्रदर्शन समान बिजली खपत के साथ तुलनीय GPU की तुलना में 100 गुना बेहतर है।"
इस ऊर्जा दक्षता के कारण, एनपीयू उपयोगकर्ता उपकरणों में स्थापित करने के लिए निर्माताओं के बीच लोकप्रिय हैं, जहां वे जनरेटिव एआई ऐप्स के लिए स्थानीय रूप से कार्य करने में मदद कर सकते हैं, जो "एज कंप्यूटिंग" का एक उदाहरण है। (इस विषय पर अधिक जानकारी के लिए नीचे देखें)।
वर्तमान में न्यूरोमॉर्फिक चिप्स बनाने के लिए कई तरीकों पर विचार किया जा रहा है:
- प्रारंभिक फेरोइलेक्ट्रिसिटी का लाभ उठाएं, एक ऐसी घटना जिसे अभी भी ठीक से समझा नहीं जा सका है।
- वैनेडियम या टाइटेनियम का उपयोग करके सक्रिय सब्सट्रेट.
- मेमरिस्टर का उपयोग करना, एक नए प्रकार का इलेक्ट्रॉनिक घटक, जो 1/800 पर AI कार्य निष्पादित करेंthसामान्य बिजली खपत का.
Aसहायक Processing Uलीख (एक्सपीयू)
XPU सीपीयू (प्रोसेसर), GPU (ग्राफिक्स कार्ड / समानांतर प्रोसेसर) और मेमोरी को एक ही इलेक्ट्रॉनिक डिवाइस में विलय कर देता है।

स्रोत: ब्रॉडकॉम
XPUs एक व्यापक शब्द है, जिसमें सभी हार्डवेयर को स्व-निहित इकाइयों में लाने की अवधारणा के कई रूप शामिल हैं, जिनमें शामिल हैं डेटा प्रोसेसिंग यूनिट (DPU), अवसंरचना प्रसंस्करण इकाइयाँ (IPUs), तथा फ़ंक्शन एक्सेलेरेटर कार्ड (FACs).
एक्सपीयू को एआई डेटा केंद्रों की बढ़ती समस्या के समाधान के रूप में देखा जा रहा है, जो कि उप-इकाइयों के बीच कनेक्टिविटी की बढ़ती आवश्यकता है, इस हद तक कि डेटा लैग, उपलब्ध कंप्यूटिंग शक्ति से भी अधिक, कंप्यूटिंग को धीमा करने में एक महत्वपूर्ण कारक बन जाता है।
मूलतः, चिप्स (जीपीयू, टीपीयू, एनपीपी, आदि) जितना काम कर रहे होते हैं, उतना ही डेटा पर प्रतीक्षा भी कर रहे होते हैं।
इस तकनीक का अग्रणी ब्रॉडकॉम है (AVGO -2.82%), जो हमने एक समर्पित निवेश रिपोर्ट में विस्तार से चर्चा की.
फील्ड-प्रोग्रामेबल गेट एरेज़ (FPGAs):
FPGA प्रोग्रामेबल प्रोसेसर होते हैं, जो उन्हें ज़्यादा कठोर ASIC की तुलना में काफ़ी ज़्यादा लचीला और पुनर्संयोज्य बनाते हैं। FPGA को विशिष्ट AI एल्गोरिदम के लिए अनुकूलित किया जा सकता है, जिससे संभावित रूप से बेहतर प्रदर्शन और ऊर्जा दक्षता प्राप्त होती है।

स्रोत: माइक्रोकंट्रोलर्स लैब्स
इस लचीलेपन की एक कीमत चुकानी पड़ती है, क्योंकि FPGA आमतौर पर ज़्यादा जटिल, महंगे होते हैं और ज़्यादा बिजली की खपत करते हैं। फिर भी, वे सामान्य हार्डवेयर की तुलना में ज़्यादा कुशल हो सकते हैं।
यह उन्हें कुछ हद तक एक विशिष्ट उत्पाद बनाता है, जहाँ उनका लचीलापन कमियों की भरपाई कर देता है। उदाहरण के लिए, मशीन लर्निंग, कंप्यूटर विज़न और नेचुरल लैंग्वेज प्रोसेसिंग को FPGAs की बहुमुखी प्रतिभा से लाभ मिल सकता है।
उच्च बैंडविड्थ मेमोरी (HBM):
कस्टम एआई-केंद्रित हार्डवेयर में सबसे महत्वपूर्ण विकास कंप्यूटिंग शक्ति के क्षेत्र में हुआ है, जो लंबे समय से नए एआई को प्रशिक्षित करने के लिए अधिक कंप्यूटिंग क्षमता के निर्माण में बाधा बना हुआ था।
फिर भी, इन प्रणालियों को उच्च-दक्षता वाले सहायक प्रणालियों की भी आवश्यकता होती है, जिनमें मेमोरी एक महत्वपूर्ण सहायक प्रणाली है। जैसा कि इसके नाम से ही स्पष्ट है, HBM पारंपरिक DRAM की तुलना में उच्च बैंडविड्थ प्रदान करता है।
यह कई DRAM डाइज़ को लंबवत रूप से स्टैक करके और उन्हें थ्रू-सिलिकॉन विया (TSV) से जोड़कर प्राप्त किया जाता है। HBM की पहली पीढ़ी 2013 में विकसित की गई थी।

ऊर्ध्वाधर स्टैकिंग से स्थान की बचत होती है और डेटा की यात्रा के लिए आवश्यक भौतिक दूरी कम हो जाती है, जिससे डेटा स्थानांतरण में तेजी आती है, जो कि AI कंप्यूटिंग में आवश्यक है।
एचबीएम का निर्माण डी.आर.ए.एम. की तुलना में अधिक जटिल और महंगा है, लेकिन प्रदर्शन और ऊर्जा दक्षता लाभ अक्सर एआई अनुप्रयोगों के लिए उच्च लागत को उचित ठहराते हैं।
एआई डेटा सेंटर इन्फ्रास्ट्रक्चर: पावर, कूलिंग और कनेक्टिविटी
मेमोरी और कंप्यूटिंग पावर के अलावा, एआई डेटा सेंटर की सहायक प्रणालियाँ भी महत्वपूर्ण हैं। इनके बिना, डेटा पर्याप्त तेज़ी से प्रसारित नहीं हो पाएगा, चिप्स ज़्यादा गर्म हो जाएँगे, या उपलब्ध पावर अपर्याप्त होगी।
इसका मतलब यह है कि, उदाहरण के लिए, ब्रॉडकॉम कनेक्टिविटी हार्डवेयर को भी एआई डेटा सेंटर बिल्डअप से बहुत लाभ होता है, जैसा कि कूलिंग उपकरण आपूर्तिकर्ताओं जैसे विशेष समाधानों को भी होता है, उदाहरण के लिए, वर्टिव (VRT -0.53%) या श्नाइडर इलेक्ट्रिक (एसयू.पीए).
बिजली आपूर्ति भी एक मुद्दा बन सकती है, और कई प्रौद्योगिकी दिग्गज परमाणु ऊर्जा पर दांव लगाकर इस मुद्दे से निपटने की कोशिश कर रहे हैं। 2024 में माइक्रोसॉफ्ट द्वारा पहला कदम उठाए जाने के साथइसके बाद कई अन्य लोगों ने भी इसका अनुसरण किया।
तकनीकी कंपनियों द्वारा एआई के कार्बन फुटप्रिंट को कम करने की प्रतिबद्धता के साथ, इससे परमाणु या नवीकरणीय ऊर्जा क्षेत्र की कंपनियों को बहुत लाभ होगा, जैसे केमेको (CCJ -0.72%), जीई वर्नोवा (GEV -2.29%), पहला सौर (FSLR + 2.4%), Nextera (NEE + 0.26%)या, ब्रुकफील्ड एनर्जी पार्टनर्स (BEP + 1.02%) (प्रत्येक कंपनी पर रिपोर्ट के लिए लिंक का अनुसरण करें)
उभरती हुई AI कंप्यूटिंग प्रौद्योगिकियाँ
क्वांटम कंप्यूटिंग
चूंकि एआई कंप्यूटिंग शक्ति के लिए बहुत भूखा है, इसलिए यह संभव है कि इस क्षेत्र के हार्डवेयर का भविष्य वर्तमान में उपलब्ध सिलिकॉन समाधानों के बराबर न हो।
एक संभावना यह है कि क्वांटम कंप्यूटिंग का उपयोग पैटर्न का पता लगाने के लिए शास्त्रीय कंप्यूटिंग की तुलना में कहीं अधिक कुशलता से किया जा सकता है। शोधकर्ताओं द्वारा पहले ही खोजी जा चुकी कोई चीज़.
क्वांटम कंप्यूटिंग का इस्तेमाल कुछ विशिष्ट गणनाओं को हल करने के लिए किया जा सकता है जो बाइनरी कंप्यूटिंग के ज़रिए लगभग असंभव हैं। संभवतः अंततः इसे कृत्रिम बुद्धिमत्ता (AI) पर भी लागू किया जाएगा, लेकिन पहले व्यावसायिक क्वांटम कंप्यूटर अभी कुछ साल दूर हैं, और एक विशाल क्वांटम नेटवर्क तो और भी दूर है।
फोटोनिक्स
डेटा ले जाने के लिए इलेक्ट्रॉनों के बजाय प्रकाश का उपयोग करके, फोटोनिक्स इलेक्ट्रॉनिक उपकरणों की तुलना में बहुत तेज हो सकता है।
चूँकि क्वांटम कंप्यूटर आमतौर पर उलझे हुए फोटॉनों के साथ क्वांटम डेटा ले जाते हैं, इसलिए क्वांटम कंप्यूटिंग और फोटोनिक्स के बीच बहुत अधिक ओवरलैप भी है, और पहली दोहरी क्वांटम-फोटोनिक चिप की घोषणा पहले ही की जा चुकी है.
organoids
चूंकि अधिकांश एआई कंप्यूटर में मस्तिष्क के तंत्रिका नेटवर्क की कार्यप्रणाली की नकल करते हैं, इसलिए कुछ शोधकर्ता सोच रहे हैं कि क्या हम इसके स्थान पर वास्तविक मस्तिष्क कोशिकाओं का उपयोग नहीं कर सकते।
यह एक दिलचस्प विचार है, खासकर जब कुछ शोध यह संकेत दे सकते हैं कि मस्तिष्क वास्तव में एक कार्बनिक क्वांटम कंप्यूटर है.
इस प्रकार के "कंप्यूटर" को ऑर्गेनॉइड्स कहा जाता है, और यह मूलतः एक कंप्यूटर चिप पर प्रयोगशाला में विकसित न्यूरॉन्स से बना होता है। फिर ये न्यूरॉन्स चिप की उत्तेजना के जवाब में अपने डेंड्राइट्स और कनेक्शनों को स्वयं व्यवस्थित करते हैं।
यह तकनीक अभी भी नई है और इस पर निर्भर करती है जैव-3D मुद्रण.
अन्य
हमने सिलिकॉन कंप्यूटिंग के अन्य विकल्पों की खोज की "शीर्ष 10 गैर-सिलिकॉन कंप्यूटिंग कंपनियां”, जैसे वैनेडियम डाइऑक्साइड, ग्रेफीन, रेडॉक्स गेटिंग, या कार्बनिक पदार्थ।
इनमें से प्रत्येक तकनीक पारंपरिक सिलिकॉन-आधारित कंप्यूटिंग की तुलना में या तो बहुत तेज़ होगी या बहुत कम ऊर्जा-खपत वाली होगी। हालाँकि, ये अभी भी अपेक्षाकृत नए हैं और कम से कम अगले 5-10 वर्षों तक व्यावसायिक स्तर पर एआई के क्षेत्र में क्रांति लाने की संभावना नहीं है।
क्लाउड एआई और एज एआई: एक्सेसिबिलिटी ट्रेंड्स
मेघ ऐ
चूँकि सबसे शक्तिशाली एआई प्रणालियाँ बड़ी तकनीकी कंपनियों द्वारा बनाई जाती हैं, इसलिए वे ज़्यादातर क्लाउड के माध्यम से ही सुलभ होती हैं। एआई-विशिष्ट हार्डवेयर तक पहुँच के लिए भी यही बात सच होती जा रही है।
इस प्रवृत्ति का नेता है कोरवेव (CRCW -23.08%), एक कंपनी जो क्लाउड प्रदाता से GPU का उपयोग करके क्रिप्टोकरेंसी माइनिंग तक पहुंची, आज ऑन-डिमांड AI कंप्यूट प्रदान कर रही है।
इसने कोरवीव को आगामी एआई स्टार्टअप्स का एक प्रमुख भागीदार बना दिया, जो तकनीकी दिग्गजों के साथ प्रतिस्पर्धा करने की कोशिश कर रहे हैं, जैसे विभक्ति एआई और उसका $1.3B GPU क्लस्टर, एक नए फंडिंग राउंड द्वारा वित्त पोषित।
“दो महीने पहले, एक कंपनी का अस्तित्व ही नहीं था, और अब उनके पास 500 मिलियन डॉलर का उद्यम पूंजी वित्तपोषण हो सकता है।
और उनके लिए सबसे महत्वपूर्ण बात यह है कि उन्हें कंप्यूट तक सुरक्षित पहुंच प्राप्त हो; जब तक उन्हें यह सुविधा नहीं मिल जाती, तब तक वे अपना उत्पाद या व्यवसाय शुरू नहीं कर सकते।"
चूंकि एआई हार्डवेयर के क्षेत्र में विशुद्ध खिलाड़ी बड़ी प्रौद्योगिकी कंपनियों द्वारा अपने स्वयं के जीपीयू, टीपीयू, एक्सपीयू आदि का उत्पादन करने तथा ग्राहकों से प्रतिस्पर्धी बनने के प्रति सतर्क हो रहे हैं, इसलिए यह संभावना है कि कोरवीव जैसी कंपनियों को एनवीडिया और अन्य द्वारा जारी नवीनतम हार्डवेयर तक प्राथमिकता प्राप्त होगी।
यह व्यवसाय मॉडल संभवतः एआई प्रशिक्षण के लिए विशेष रूप से महत्वपूर्ण होगा, जिसमें पहले से प्रशिक्षित एआई का उपयोग करने की तुलना में कंप्यूटिंग क्षमता की बहुत अधिक मांग होती है।
एज कंप्यूटिंग और एआई पीसी
एआई कंप्यूटिंग का एक और मामला जो तेजी से विकसित हो रहा है, वह है एआई प्रणालियों की कंप्यूटिंग को यथासम्भव वास्तविक जीवन की स्थितियों के करीब, ऑन-साइट करने की आवश्यकता।
यह उन प्रणालियों के लिए आवश्यक है जो कनेक्शन विफल होने पर, या क्लाउड के साथ आगे-पीछे होने की विलंबता बहुत धीमी होने पर, एआई से अनप्लग होने को बर्दाश्त नहीं कर सकतीं।
इसका एक अच्छा उदाहरण स्वचालित कारें हैं, जिनसे अपेक्षा की जाती है कि वे अपने पर्यावरण को ऑफलाइन ही समझें।
इस प्रकार की गणना को एज कंप्यूटिंग कहा जाता है, तथा इससे अधिक कुशल और कम ऊर्जा खपत वाले हार्डवेयर को काफी लाभ मिलता है।

इससे एआई की विश्वसनीयता बढ़ सकती है, और जैसे-जैसे मॉडल अधिक कुशल होते जाएंगे, जैसा कि डीपसीक की प्रगति से स्पष्ट होता है, यह भविष्य में एआई परिनियोजन का अधिक प्रचलित मॉडल बन सकता है।
इसी कारण से, एआई पीसी जैसे कि हाल ही में Nvidia द्वारा लॉन्च किया गया, लंबे समय में स्थानीय स्तर पर कई एआई अनुप्रयोगों को चलाने के लिए पर्याप्त हो सकता है, जिससे हमेशा क्लाउड एआई से जुड़े रहने की तुलना में गोपनीयता और सुरक्षा बढ़ जाती है।
निष्कर्ष
कुछ समय से, एआई हार्डवेयर, जीपीयू का पर्याय बन गया है, क्योंकि ग्राफिक्स कार्ड, सीपीयू जैसे अन्य हार्डवेयर की तुलना में एआई प्रशिक्षण में कहीं अधिक कुशल थे। इसने एनवीडिया और उसके कई शुरुआती शेयरधारकों की किस्मत चमकाई।
GPU, खासकर AI-केंद्रित "सुपर GPU", AI डेटा केंद्रों के निर्माण में महत्वपूर्ण बने रहेंगे। लेकिन वे लगातार जटिल और विशिष्ट होती जा रही प्रणालियों के केवल एक घटक के रूप में विकसित होने जा रहे हैं।
ट्रांसफार्मर संचालन को टीपीयू को भेजा जाएगा, न्यूरल नेटवर्क को एनपीपी को कार्य सौंपा जाएगा, तथा दोहराए जाने वाले कार्यों को समर्पित एएसआईसी या पुनर्संयोजित एफपीजीए को सौंपा जाएगा।
इस बीच, उच्च बैंडविड्थ मेमोरी, उन्नत दूरसंचार कनेक्टर और अति-कुशल शीतलन, कंप्यूटिंग कोर के आसपास के सभी सहायक कार्यों को चालू रखेंगे।
एज कंप्यूटिंग और विशाल एलएलएम की तुलना में छोटे एआई के लिए, स्थानीय कंप्यूटिंग, जो संभवतः ऑल-इन-वन एक्सपीयू द्वारा संचालित होगी, का उपयोग संभवतः वैज्ञानिकों, स्वचालित कारों और गोपनीयता या सेंसरशिप से संबंधित उपयोगकर्ताओं द्वारा किया जाएगा, संभवतः ओपन-सोर्स एआई मॉडल के साथ।
यह तो निश्चित है कि एआई की स्वर्ण दौड़ में एआई हार्डवेयर के "कुदाल और फावड़े" बेचने से होने वाला मुनाफा अभी खत्म नहीं हुआ है।
एनवीडिया के प्रभुत्व की अवधि के बाद, निवेशक अपने आईए हार्डवेयर पोर्टफोलियो को अन्य डिजाइनों में फैलाकर जोखिमों में विविधता लाना चाह सकते हैं, और शायद बिजली उपयोगिता कंपनियों में भी, जो दुनिया में तेजी से बड़े और असंख्य एआई डेटा केंद्रों को चलाने के लिए बहुमूल्य गीगावाट प्रदान करेंगे।







