Pag‑invest sa AI Hardware: Mula sa CPUs hanggang XPUs

Pag‑invest sa AI Hardware: Pamamaraan ng Mga Piko at Pala

AI ay nangangakong maging pinakamahalagang pagbabago sa ating ekonomiya, mga produktibong sistema, at lipunan sa nakaraang ilang dekada, na maaaring gawing maliit lamang ang mga radikal na pagbabago na dala ng Internet kung ihahambing.

Maaaring mawala ang isang buong kategorya ng mga trabaho, kabilang ang mga drayber, tagasalin, suporta sa kostumer, mga web designer, atbp. Ang ibang mga trabaho ay maaaring makaranas ng matinding pagbawas sa demand, tulad ng mga programmer, entry‑level na abogado, mga diagnostiko, atbp.

Dapat din itong lumikha ng maraming karagdagang halaga at produktibidad para sa marami pang ibang gawain, kung saan ang mga nangungunang kompanya ng AI software ay malamang na maging una sa pag-abot ng mga market capitalization na dati’y hindi maisip.

Dahil sa lahat ng ito, ang mga pamilihan ng kapital at mga mamumuhunan ay nabighani ng AI at nagbibigay ng malaking pansin sa pag‑unlad ng maraming higanteng teknolohiya sa AI, pati na rin sa matinding kompetisyon mula sa mga higanteng teknolohiyang Tsino tulad ng Alibaba at mga startup tulad ng DeepSeek.

Isa pang paraan upang makinabang sa AI boom ay sundan ang estratehiyang kilala sa bawat gold rush: huwag maghanap ng ginto, kundi ibenta ang mga piko at pala. Ito ay talagang nagtrabaho para sa mga kumpanyang nasa pinakamainam na posisyon upang magbenta ng AI‑optimized hardware, kung saan ang Nvidia (NVDA ) ay ginawang AI‑training chips ang kanilang mga gaming‑graphic card, na naging pinakamahalagang kumpanya sa mundo, na lumagpas sa nakakabiglang $4T market cap (tingnan ang link para sa buong ulat tungkol sa Nvidia).

Dahil ang AI ay nangangailangan ng napaka‑espesipikong hardware, na kadalasan ay iba sa ibang anyo ng computing tasks, at ito ay napakalaking oportunidad sa negosyo, ang industriya ng semiconductor ay ngayon nakikipagkarera upang makabuo ng mga bagong anyo ng hardware na idinisenyo partikular para sa pagsasanay at pagpapatakbo ng mga AI program.

Habang ang Nvidia ay malamang na manatiling isa sa mga nangungunang kumpanya sa sektor, lumilitaw na ngayon ang mga alternatibo at maaaring magbigay ng kawili‑wang oportunidad para sa mga mamumuhunan na maagang magbigay pansin.

Bakit Kailangan ng AI ang Espesyal na Hardware

Maraming Maliit na Kalkulasyon

Ang mga unang pagsisikap sa AI ay gumamit ng parehong computing capacity tulad ng ibang mga programa, na nakatuon karamihan sa mga processor (Central Processing Unit – CPUs). Mahalaga pa rin ang CPUs, ngunit agad na lumitaw na hindi ito optimal para sa karamihan ng mga metodong ginagamit ngayon sa pag‑develop ng AI.

Ang mga neural network at iba pang katulad na metodolohiya ay nangangailangan ng maraming medyo simpleng kalkulasyon, sa halip na isang napakakomplikadong kalkulasyon. Kaya mas mainam ang maraming maliliit na chip na nagtatrabaho nang sabay‑sabay kaysa sa napakalaking at makapangyarihang CPUs.

Kung kaya ito, mabilis na naging mas popular ang GPUs, dahil ang mga graphic card ay likas na dinisenyo upang magsagawa ng libu‑libong mas maliliit na kalkulasyon nang sabay‑sabay.

Ang pagsasanay ng AI ngayon ay karamihan nakabatay sa neural network, isang konsepto na nanalo ng Nobel Prize sa Physics noong 2024, isang gantimpala na aming tinalakay nang detalyado sa isang nakalaang artikulo noon.

Source: Nobel Prize

Ang ikalawang rebolusyon sa teknolohiya ng AI ay dinala ng “transformers”. Nilulutas nila ang tradisyonal na kahinaan ng neural network na hindi epektibong maproseso ang mahabang sunod‑sunod na datos, isang pangkaraniwang katangian ng anumang natural na wika.

Una itong ipinakilala noong 2017 ng mga mananaliksik ng Google, at ito ang ugat ng kasalukuyang pagsabog ng kapasidad ng AI. Ang mga transformer ay nasa core ng mga produktong AI tulad ng LLMs (Large Language Models), kabilang ang ChatGPT.

Iba’t Ibang Pangangailangan

Isang mahalagang pagkakaiba sa mga workflow ng AI ay ang kaibahan sa pagitan ng fine‑tuning at inference, na parehong may natatanging pangangailangan sa hardware.

• Fine‑tuning ay nagsasangkot ng pagsasanay ng isang modelo sa domain‑specific na data, na nangangailangan ng malaking kapangyarihan sa pag‑compute at memorya. Ito ay isang napaka‑teknikal na gawain, madalas nasa dulo ng siyensiya ng AI.
• Inference ay nakatuon sa paggamit ng isang modelo na na‑train na upang lumikha ng mga output, na nangangailangan ng mas kaunting kapangyarihan sa pag‑compute ngunit mas mataas na pokus sa mababang latency at cost‑efficiency.
  • Mas karaniwang ginagawa ito ng mga eksperto sa AI na nagde‑deploy ng mga umiiral nang modelo upang lutasin ang mga totoong problema.

Kaya, habang ang gastos ay malinaw na alalahanin para sa parehong fine‑tuning/pagsasanay at inference/paggamit ng AI, ang pagsasanay ay kadalasang mangangailangan ng pinakamahusay na hardware na posible, samantalang ang mga gawain sa paggamit ay magtutuon nang higit sa gastos ng hardware at konsumo ng enerhiya kapag pumipili ng pinakamainam na opsyon.

CPUs vs GPUs

Central Processing Units (CPUs):

Ang CPUs ay pang‑pangkaraniwang at hindi partikular na AI hardware. Gayunpaman, mahalaga pa rin ito para sa pag‑execute ng mga instruksyon at pagsasagawa ng mga batayang kalkulasyon sa mga AI system.

Karamihan sa software na humahawak ng interface sa mga huling gumagamit ng isang AI system ay magiging CPU‑centric din, maging ito man ay indibidwal na computer o cloud‑based na software.

Source: AnandTech

Maaaring gamitin ang CPUs para sa napaka‑simpleng AI, kung saan hindi talaga kailangan ng dedikadong hardware. Ito ay lalong totoo kapag ang output ay hindi kailangang agad‑agaran, at ang medyo mabagal na AI‑processing ng CPUs ay hindi naging isyu.

Kaya ang maliliit na modelo na may maliit na batch ng data at kalkulasyon ay maaaring mag‑perform nang maayos sa CPUs. Ang omnipresence ng CPUs sa mga karaniwang computer ay ginagawa rin itong magandang opsyon para sa karaniwang gumagamit na ayaw mag‑invest sa AI‑specific na hardware.

Ang CPUs ay napaka‑reliable at stable, kaya’t magandang pagpili para sa mga kritikal na gawain kung saan ang error ay mahalagang pamantayan.

Sa huli, kapaki‑pakinabang din ang CPUs para sa ilang gawain sa AI training, kadalasan sa pakikipagtulungan sa ibang uri ng hardware, tulad ng data loading, formatting, filtering, at visualization.

Graphics Processing Units (GPUs):

Orihinal na dinisenyo para sa graphics rendering, ang mga GPU ay dinisenyo para sa parallel processing, kaya’t perpekto para sa pagsasanay ng mga AI model na nangangailangan ng paghawak ng malalaking dataset. Ang paglipat mula CPUs patungo sa GPUs ay nagbawas ng oras ng pagsasanay mula linggo tungong oras.

Dahil sa malawak na availability at karanasan ng mga IT specialist sa paggamit nito, ang mga GPU ang unang uri ng computing hardware na ini‑install nang sunud‑sunod upang palakihin ang pananaliksik sa AI.

Source: Aorus

Mahalaga rin sa tagumpay ng mga GPU ang pag‑develop ng CUDA ng Nvidia, isang general‑purpose programming interface para sa mga GPU ng NVIDIA, na nagbukas ng pinto para sa ibang gamit bukod sa gaming. Ginawa ito dahil ilang mananaliksik ay gumagamit na ng mga GPU para magsagawa ng kalkulasyon imbis na ang karaniwang supercomputer.

“Naisip ng mga mananaliksik na sa pagbili ng gaming card na tinatawag na GeForce, ilalagay mo ito sa iyong computer, at halos mayroon ka nang personal na supercomputer.

Molecular dynamics, seismic processing, CT reconstruction, image processing—isang napakaraming iba‑ibang bagay.”

Jensen Huang, sa isang panayam sa Sequoia

Sa kasalukuyan, ang mga GPU ay patuloy na isa sa pinaka‑hinahangad na uri ng AI hardware, kung saan ang Nvidia ay halos nahihirapang makagawa ng sapat na suplay para matugunan ang pangangailangan ng mga higanteng teknolohiya na nagtatayo ng gigawatt‑scale na AI data center.

Ito rin ang simula ng “super GPU era”, kasama ang kamakailang pag‑release ng Nvidia ng GB200 NVL72.

Ang hardware na ito ay dinisenyo upang magsilbing isang solong napakalaking GPU straight out of the factory, sa halip na kailangang i‑network ang maraming maliliit. Ginagawa nitong mas makapangyarihan ito kaysa kahit sa dating record‑breaking na modelong H100.

Source: Nvidia

Dapat din itong maging mas energy‑efficient, isang mahalagang punto dahil maaaring maubusan ng enerhiya ang industriya ng AI bago pa man maubusan ng mga chip sa bilis ng pagtatayo ng AI data center. At mas maraming computing & energy efficiency ay nangangahulugang mas kaunting waste heat, na pansamantalang nalulutas ang problema ng overheating.

Ang Pagsikat ng ASICs at AI Hardware

Ang Application‑Specific Integrated Circuits (ASICs) ay hardware na idinisenyo partikular para sa isang tiyak na computing task, na ginagawa itong mas espesyal kaysa sa medyo pangkalahatang GPUs.

Kaya mas kaunti ang flexibility at programmability nito kumpara sa pangkalahatang hardware.

Sa pangkalahatan, mas kumplikado ang mga ito. Mas magastos din ito, dahil wala pang economies of scale para sa produksyon at dahil sa gastos ng custom na disenyo.

Gayunpaman, mas napaka‑epektibo ito sa takdang gawain, karaniwang mas mabilis maglabas ng output na may mas kaunting nasasayang na computing power at enerhiya.

Ang mga ASIC at iba pang AI‑specific na hardware ay tumataas ang paggamit, habang napapansin ng industriya na may mga kalkulasyon na hindi pinakamainam gawin sa GPUs kundi nangangailangan ng mas espesyal na kagamitan.

Tensor Processing Units (TPUs)

Ang TPUs ay binuo ng Google (GOOGL ) partikular para sa pagsasagawa ng tensor calculations (kaugnay ng transformer‑based calculus). Optimized ito para sa high‑throughput, low‑precision arithmetic.

Source: C#Corner

Nagbibigay ito sa TPUs ng mataas na performance, efficiency, at scalability para sa pagsasanay ng malalaking neural network.

Ang mga TPU ay may mga espesyal na tampok, tulad ng matrix multiply unit (MXU) at proprietary interconnect topology, na ginagawa silang perpekto para sa pagpapabilis ng AI training at inference.

Pinapagana ng mga TPU ang Gemini, at lahat ng AI‑powered na aplikasyon ng Google tulad ng Search, Photos, at Maps, na nagsisilbi sa higit sa 1 bilyong gumagamit.

Ang ganitong uri ng hardware ay maaaring magpabilis nang malaki sa pag‑develop at pag‑trabaho ng mga neural network, kung saan ang mga pagkakamali ay hindi gaanong mahalaga, dahil ang mga modelong ito ay lubos na nakasalalay sa estadistika at napakaraming kalkulasyon.

Sa mga end‑user na gawain, ang pinakanaaangkop na gamit ng TPUs ay deep learning, speech recognition, at image classification.

Neural Network Processors (NNPs):

Kadalasang tinutukoy din bilang Neural Processing Units (NPUs) at tinatawag na neuromorphic chips, ang NPPs ay espesyal sa neural network computation, dinisenyo upang tularan ang mga neural connections sa utak ng tao. Tinatawag din silang AI accelerator, bagaman ang terminong ito ay hindi gaanong malinaw.

Ang isang NPU ay nag‑integrate din ng storage at computation sa pamamagitan ng synaptic weights. Kaya maaari itong mag‑adjust o “matuto” sa paglipas ng panahon, na nagreresulta sa pinahusay na operational efficiency.

Ang NPU ay may mga tiyak na module para sa multiplication at addition, activation functions, 2D data operations, at decompression.

Ang specialized multiplication at addition module ay ginagamit upang magsagawa ng mga operasyon na may kinalaman sa pagproseso ng neural network applications, tulad ng matrix multiplication at addition, convolution, dot product, at iba pang function.

Ang espesyalisasyon ay makakatulong sa NPU na tapusin ang isang operasyon gamit lamang isang kalkulasyon imbis na libu‑libong kalkulasyon gamit ang pangkalahatang hardware. Halimbawa, ini‑claim ng IBM na maaaring mapabuti nang radikal ng NPU ang kahusayan ng AI calculation kumpara sa GPUs.

“Ipinakita ng testing na ang ilang NPU performance ay higit sa 100 beses na mas maganda kaysa sa katumbas na GPU, na may parehong konsumo ng enerhiya.”

Dahil sa ganitong energy efficiency, popular ang mga NPU sa mga tagagawa upang i‑install sa mga user device, kung saan makakatulong silang magsagawa ng lokal na gawain para sa generative AI apps, isang halimbawa ng “edge computing”. (tingnan sa ibaba para sa karagdagang detalye).

Maraming metodolohiya ang kasalukuyang ini‑explore kung paano lumikha ng neuromorphic chips:

• Pag‑leverage ng incipient ferroelectricity, isang pangyayaring hindi pa lubos na nauunawaan.
• Active substrate gamit ang vanadium o titanium.
• Paggamit ng memristors, isang bagong uri ng electronic component, na maaaring gawin ang AI tasks sa 1/800^th ng normal na konsumo ng enerhiya.

Auxiliary Processing Unit (XPUs)

Pinagsasama ng XPU ang CPU (processor), GPU (graphics card / parallel processors), at memory sa iisang elektronikong aparato.

Source: Broadcom

Ang XPUs ay isang malawak na termino, sumasaklaw sa maraming bersyon ng konseptong ito ng pagsasama ng lahat ng hardware sa self‑contained units, kabilang ang Data Processing Units (DPUs), Infrastructure Processing Units (IPUs), at Function Accelerator Cards (FACs).

Itinuturing na solusyon ng XPUs ang lumalaking problema ng AI data center, na kung saan tumataas ang pangangailangan para sa connectivity sa pagitan ng mga sub‑unit, hanggang sa ang data lag ay nagiging mahalagang salik sa pagpapabagal ng computing, higit pa kaysa sa available na computing power.

Sa esensya, ang mga chip (GPU, TPU, NPP, atbp.) ay naghihintay sa data gaya ng kanilang aktwal na pag‑trabaho.

Ang isang nangunguna sa teknolohiyang ito ay ang Broadcom (AVGO ), na detalyado naming tinalakay sa isang nakalaang ulat sa pamumuhunan.

Field‑Programmable Gate Arrays (FPGAs):

Ang mga FPGA ay programmable processors, na ginagawang mas flexible at reconfigurable kumpara sa mas rigid na ASICs. Maaaring i‑customize ang mga FPGA para sa tiyak na AI algorithms, na posibleng mag‑alok ng mas mataas na performance at energy efficiency.

Source: Microcontrollers Labs

Ang flexibility ay may kapalit na gastos, dahil ang mga FPGA ay karaniwang mas kumplikado, mas mahal, at kumokonsumo ng mas maraming kuryente. Gayunpaman, maaari pa rin silang maging mas epektibo kaysa sa pangkalahatang hardware.

Ginagawa nitong medyo niche product ang mga FPGA, kung saan ang flexibility ay nagbabayad sa mga kahinaan. Halimbawa, ang machine learning, computer vision, at natural language processing ay maaaring makinabang sa versatility ng mga FPGA.

High Bandwidth Memory (HBM):

Ang pinakamahalagang pag‑unlad sa custom AI‑centric hardware ay nasa larangan ng computing power, na matagal nang bottleneck sa pagbuo ng mas maraming computing capacity para sanayin ang mga bagong AI.

Gayunpaman, kailangan din ng mga sistemang ito ng mataas na epektibong support system, kung saan ang memorya ay isang mahalagang bahagi. Ang HBM ay nagbibigay, tulad ng pangalan, ng mas mataas na bandwidth kaysa sa tradisyunal na DRAM.

Nakakamit ito sa pamamagitan ng pag‑stack ng maraming DRAM die nang patayo at pagkonekta gamit ang through‑silicon vias (TSVs). Ang unang henerasyon ng HBM ay binuo noong 2013.

Ang vertical stacking ay nakakatipid ng espasyo at nagbabawas ng pisikal na distansya na kailangang pagdaanan ng data, na nagpapabilis ng paglipat ng data—isang pangangailangan sa AI computing.

Mas kumplikado ang paggawa ng HBM at mas mahal kaysa DRAM, ngunit madalas na ang performance at power efficiency benefits ay nagbubuo ng mas mataas na gastos para sa mga AI application.

AI Data Center Infrastructure: Power, Cooling & Connectivity

Bukod sa memorya at computing power, mahalaga rin ang mga auxiliary system ng AI data center. Kung wala ito, hindi makakadaloy nang mabilis ang data, maaaring mag‑overheat ang mga chip, o hindi sapat ang power na magagamit.

Ibig sabihin, halimbawa, ang connectivity hardware ng Broadcom ay malaki ring nakikinabang mula sa pag‑dami ng AI data center, gayundin ang mga specialized na solusyon tulad ng mga cooling equipment supplier, tulad ng Vertiv (VRT ) o Schneider Electric (SU.PA).

Maaaring maging isyu rin ang power supply, at maraming higanteng teknolohiya ang sumusubok tugunan ito sa pamamagitan ng pagtaya sa nuclear energy, na nagsimula sa Microsoft noong 2024, kasunod ng marami pang iba.

Kasama ng pangako ng mga tech company na bawasan ang carbon footprint ng AI, dapat itong magdala ng malaking benepisyo sa mga kumpanya sa nuclear o renewable energy sector, tulad ng Cameco (CCJ ), GE Vernova (GEV ), First Solar (FSLR ), NextEra (NEE ), o Brookfield Energy Partners (BEP ) (tingnan ang mga link para sa ulat sa bawat kumpanya).

Emerging AI Computing Technologies

Quantum Computing

Dahil napakagutom ng AI sa computing power, posible na ang hinaharap ng hardware ng larangan ay hindi na sa kasalukuyang silicon solutions.

Isang posibilidad ay magagamit ang quantum computing upang matuklasan ang mga pattern nang mas epektibo kaysa sa tradisyunal na computing, isang bagay na na‑explore na ng mga mananaliksik.

Ang quantum computing bilang kabuuan ay maaaring gamitin para lutasin ang ilang tiyak na kalkulasyon na halos imposibleng gawin gamit ang binary computing. Malamang na ilalapat ito sa AI, ngunit ang unang komersyal na quantum computers ay ilang taon pa lamang ang layo, at ang isang malaking quantum network ay mas malayo pa.

Photonics

Sa halip na mga electron, gumagamit ang photonics ng ilaw upang magdala ng data, na maaaring maging mas mabilis kaysa sa mga elektronikong device.

Dahil ang mga quantum computer ay karaniwang nagdadala ng quantum data gamit ang entangled photons, may malaking overlap din sa pagitan ng quantum computing at photonics, at na‑announce na ang unang dual quantum‑photonic chip.

Organoids

Habang karamihan ng AI ay nagrereplika sa computer ng pag‑function ng neural network ng utak, may ilang mananaliksik na nagtatanong kung maaari ba nating gamitin… ang aktwal na selula ng utak.

Isang kawili‑wisang ideya ito, lalo na kung ang ilang pananaliksik ay maaaring magpahiwatig na ang utak ay aktwal na isang organikong quantum computer.

Ang ganitong uri ng “computer” ay tinatawag na organoids, at binubuo ng mga neuron na pinalaki sa laboratoryo sa isang computer chip. Ang mga neuron ay nag‑self‑organize ng kanilang mga dendrite at koneksyon bilang tugon sa stimulus ng chip.

Ang teknolohiyang ito ay bago pa lamang at umaasa sa bio‑3D printing.

Others

Tinutuklas namin ang iba pang alternatibo sa silicon computing sa “Top 10 Non‑Silicon Computing Companies”, tulad ng vanadium dioxide, graphene, redox gating, o organic materials.

Bawat isa ay nangangako na maging mas mabilis o mas kaunting enerhiya kumpara sa tradisyunal na silicon‑based computing. Gayunpaman, sila ay nananatiling medyo bago at hindi pa malamang na mag‑rebolusyon sa larangan ng AI sa komersyal na sukat, sa loob ng susunod na 5‑10 taon.

Cloud AI at Edge AI: Mga Trend sa Accessibility

Cloud AI

Dahil ang pinakamakapangyarihang AI system ay ginagawa ng malalaking tech company, kadalasan ay naa‑access ito sa pamamagitan ng cloud. Ganun din ang nagiging totoo para sa access sa AI‑specialized hardware mismo.

Ang nangunguna sa trend na ito ay Coreweave (CRCW ), isang kumpanya na lumipat mula sa cloud provider patungo sa cryptocurrency mining gamit ang GPUs, hanggang sa ngayon ay nagbibigay ng on‑demand AI compute.

Nagawa nitong maging pangunahing partner ng mga paparating na AI startup na nagtatangkang makipag‑kompetensya sa mga higanteng teknolohiya, tulad ng Inflection AI at ang $1.3B GPU cluster, na pinondohan ng isang bagong round ng pondo.

“Dalawang buwan ang nakalipas, maaaring wala pang kumpanya, at ngayon ay may $500 million na venture capital funding.

At ang pinakamahalagang bagay para sa kanila ay makakuha ng access sa compute; hindi nila ma‑launch ang produkto o negosyo hangga’t wala ito,”

Brian Venturo – CoreWeave CTO

Habang ang pure player sa AI hardware ay nagiging maingat sa mga malalaking tech na gumagawa ng sarili nilang GPUs, TPUs, XPUs, atbp., at nag‑evolve mula sa mga kliyente tungong mga kakompetensya, malamang na ang mga kumpanya tulad ng Coreweave ay magkakaroon ng priority access sa pinakabagong hardware release ng Nvidia at iba pa.

Ang modelong ito ng negosyo ay malamang na magiging mahalaga lalo na para sa AI training, na mas demanding sa computing capacity kaysa sa simpleng paggamit ng mga na‑train nang AI.

Edge Computing & AI PCs

Isa pang kaso ng AI computing na mabilis na umuunlad ay ang pangangailangan na gawin ang computing ng AI systems on‑site, hangga’t maaari, malapit sa totoong sitwasyon.

Kailangan ito para sa mga system na maaaring hindi mag‑tolerate ng pagka‑unplug kung mawawala ang koneksyon, o kapag ang latency ng back‑and‑forth sa cloud ay masyadong mabagal.

Isang magandang halimbawa ay ang self‑driving cars, na inaasahang mag‑understand ng kanilang kapaligiran offline.

Ang ganitong uri ng kalkulasyon ay tinatawag na edge computing, at malaki ang pakinabang nito mula sa mas epektibo at mas kaunting power‑hungry na hardware.

Maaaring mapataas nito ang reliability ng AI, at habang nagiging mas epektibo ang mga modelo, tulad ng pag‑leap forward ng DeepSeek, maaaring maging mas laganap ang ganitong modelo ng AI deployment sa hinaharap.

Dahil dito, ang mga AI PC tulad ng kamakailan lamang inilunsad ng Nvidia, ay maaaring sa katagalan ay sapat na upang patakbuhin ang maraming AI application nang lokal, na nagdaragdag ng privacy at security kumpara sa palaging konektadong cloud AI.

Conclusion

Ang AI hardware ay, sa ilang panahon, halos kapareho ng GPUs, dahil ang mga graphics card ay mas epektibo sa AI training kaysa sa ibang uri ng hardware tulad ng CPUs. Ito ang nagdala ng kayamanan sa Nvidia at sa maraming maagang shareholders nito.

Ang mga GPU, lalo na ang AI‑focused na “super GPUs”, ay malamang na mananatiling mahalaga sa pagtatayo ng AI data center. Ngunit mag‑evolve ito upang maging isa lamang sa mga komponent ng lalong kumplikado at espesyal na mga sistema.

Ang mga operasyon ng transformer ay ipapadala sa TPUs, ang neural network ay itatalaga sa NPP, ang mga paulit‑ulit na gawain sa dedikadong ASICs o reconfigured na FPGAs.

Samantala, ang high‑bandwidth memory, advanced telecommunication connectors, at ultra‑efficient cooling ay magpapanatili ng lahat ng auxiliary function sa paligid ng computing core.

Para sa edge computing at mas maliliit na AI kumpara sa napakalaking LLMs, ang lokal na computing, marahil pinapagana ng all‑in‑one XPUs, ay malamang na gagamitin ng mga siyentista, self‑driving cars, at mga gumagamit na nag‑alala sa privacy o censorship, posibleng kasama ang open‑source AI models.

Ang tiyak ay ang kita mula sa pagbebenta ng “piko at pala” ng AI hardware sa AI gold rush ay malayo pa sa katapusan.

Pagkatapos ng isang panahon ng dominasyon ng Nvidia, maaaring gustuhin ng mga mamumuhunan na i‑diversify ang panganib sa pamamagitan ng pagpapalawak ng kanilang AI hardware portfolio sa ibang mga disenyo, at marahil pati na rin ang mga power utilities company na magbibigay ng mahalagang gigawatts upang patakbuhin ang patuloy na lumalaking at dumaraming AI data center sa buong mundo.