Mga Pag-unlad na Inspirado ng NVIDIA Nagpapababa ng Pangangailangan sa Kuryente ng Pagsasanay ng AI ng 100 Beses

Ang artificial intelligence (AI) ay sumakop na sa buong mundo, at walang sektor ang hindi naapektuhan ng kabighanian ng teknolohiyang ito. Ngayon, 77% ng mga aparato ay gumagamit ng AI technology, kahit na isa lamang sa tatlong consumer ang naniniwala na gumagamit sila ng AI platform. 

Dumarami rin ang mga organisasyon na nag-aampon ng AI para sa paglago ng negosyo, kung saan 9 sa 10 kumpanya ang sumusuporta sa teknolohiyang ito para sa kompetitibong kalamangan. Inaasahang magdudulot ang paggamit nito ng pagkawala ng 85 milyong trabaho ngunit, kasabay nito, lilikha ng 97 milyong bago.

Ang mga numerong ito ay sumasalamin sa mga pagtatantiya na ang pamilihan ng AI ay mag-aambag ng $15.7 trilyon sa pandaigdigang ekonomiya pagsapit ng 2030. Inaasahan din na lalago ang laki ng pamilihan ng AI ng hindi bababa sa 120% taon-taon.

Gayunpaman, habang lumalago ang pag-aampon ng AI, tumataas din ang pangangailangan para sa enerhiya upang patakbuhin ang mga data center, na lubos na kumukonsumo ng enerhiya. Ang pagpapatakbo at pagpapalamig ng libu-libong server nang walang tigil ay nangangailangan ng napakalaking dami ng enerhiya. Sa kasalukuyan, kinukuha ang enerhiyang ito mula sa electrical grid, na nagdudulot ng mga problema tuwing tumataas ang demand at nagpapabigat sa sistema. Ayon kay Chevron (CVX ) CEO Mike Wirth:

“Ang paglago at pangangailangan para sa kuryente ay maaaring magpabigat sa isang grid na dati nang nasa ilalim ng stress. Maaari itong magdagdag ng gastos sa mga consumer. Ang natural gas ay makakatulong na patakbuhin ang mabilis na paglago ng artificial intelligence sa pamamagitan ng walang humpay na pangangailangan nito para sa maaasahang kuryente.”

Bilang tugon sa pangangailangang ito, kamakailan ay inanunsyo ng Chevron na makikipagtulungan ito sa GE (GE ) Verona at Engine No. 1 upang lumikha ng kuryente para sa AI sa pamamagitan ng pagtatayo ng mga natural gas power plant na direktang nakakonekta sa mga data center.

Sa kasalukuyan, ang mga data center ay kumakatawan sa humigit-kumulang 1% ng pandaigdigang konsumo ng kuryente, ayon sa ulat ng International Energy Agency (IEA). 

Ngunit ito ay simula pa lamang dahil gumagastos ang mga kumpanya ng bilyong dolyar upang magtayo ng mas marami pang data center. 

Microsoft (MSFT ) ay nagbabalak mag-invest ng $80 bilyon sa mga AI-enabled data center, kung saan kalahati nito ay ilalaan sa US. Ayon sa pagtatantiya ng Blackstone (BX ), higit sa $1 trilyon ang ilalaan sa mga US data center hanggang 2030, kasama ang Google (GOOGL ), Meta (META ), at Amazon (AMZN ) bilang mga higanteng teknolohiya na nagtatayo ng mga data center sa buong bansa.

Kaya, ang konsumo ng enerhiya ng sektor ay patuloy na lalakas mula dito. Ang Goldman Sachs (GS ) ay tinatantya na tataas ng 160% ang pangangailangan sa kuryente ng mga data center sa susunod na limang taon, na natural na magdudulot ng walang kapantay na pagtaas sa paggamit ng elektrisidad.

Ayon sa mga pagtatantiya ng Electric Power Research Institute (EPRI), ang konsumo ng enerhiya ng mga pasilidad na ito sa US ay maaaring umabot sa pagitan ng 4.6% at 9.1% ng kabuuang paglikha ng kuryente sa pagtatapos ng dekadang ito. 

Samantala, sa Europa, partikular sa Germany, ang mga data center ay gumamit ng humigit-kumulang 16 bilyong kWh ng enerhiya noong 2020 para sa computing, storage, at transmission, at inaasahang tataas ito sa 22 bilyong kWh pagsapit ng 2025.

Bilang resulta, patuloy na nag-iimbestiga ang mga mananaliksik ng mga paraan upang pababain ang pangangailangan sa kuryente ng AI. 

Pagbaba ng Konsumo ng Enerhiya ng AI

Ang teknolohiyang AI ay gumaganap ng mahalagang papel sa pagpapabuti ng kahusayan sa enerhiya sa iba’t ibang sektor sa pamamagitan ng pag-optimize ng konsumo ng enerhiya, pag-forecast ng demand, at pagpapahintulot ng smart grid management, na sa huli ay nagreresulta sa nabawasang pag-aaksaya ng enerhiya at mas mababang carbon emissions. 

Halimbawa, ginamit ng Vodafone UK ang AI upang pababain ang pang-araw-araw na paggamit ng kuryente ng mga 5G radio unit (RUs) sa pamamagitan ng advanced AI at machine learning-powered software solutions ng Ericsson. Sa mga piling site sa London, nagtagumpay na nilang bawasan ito ng 33%.

Nagpatupad ang Vodafone UK ng tatlong pangunahing tampok para sa pagtitipid ng enerhiya bilang bahagi ng pagsubok. 

Kabilang dito ang Radio Power Efficiency Heatmap, na gumagamit ng ML upang tukuyin at i-rank ang mga site na hindi nagpe-perform nang maayos para sa target na pagpapabuti ng kahusayan sa pamamagitan ng paglikha ng visual na representasyon ng lahat ng network cell. Sunod ay ang 4G Cell Sleep Mode Orchestration, na nag-develop ng behavioral model ng mga network cell upang i-fine-tune ang mga sleep parameter at lumikha ng balanse sa pagitan ng pagtitipid sa enerhiya at performance. Samantala, ang 5G Deep Sleep ay gumagamit ng AI-driven predictive algorithms, na nagbabawas ng paggamit ng kuryente ng 70% sa mga off-peak na oras.

Ngunit paano naman ang konsumo ng enerhiya ng AI? Sa katunayan, ang mga mananaliksik at kumpanya ay tumututok sa maraming iba’t ibang larangan upang bawasan ang konsumo ng enerhiya ng mabilis na lumalagong teknolohiyang ito.

Kabilang dito ang pag-optimize ng mga AI model, paggamit ng energy-efficient hardware, at pag-aampon ng mga sustainable practice tulad ng renewable energy at epektibong cooling sa mga data center.

Pagdating sa pag-optimize ng mga AI model, maaaring gamitin ang iba’t ibang pamamaraan tulad ng pruning, quantization, at distillation. Sa model pruning, tinatanggal ang mga hindi kailangang parameter at koneksyon mula sa isang modelo nang hindi naaapektuhan ang katumpakan. Ang quantization ay naglalayong bawasan ang precision ng mga parameter ng modelo upang mabawasan ang computational requirements at konsumo ng enerhiya. Sa distillation, sinasanay ang mas maliliit na modelo upang tularan ang pag-uugali ng mas malaki at mas kumplikadong modelo, na nagreresulta sa mas energy-efficient na modelo na may katulad na performance.

Ayon sa MIT Technology Review na binanggit sa publikasyon ngayong taon, ang mas maliliit na modelo ay isa sa mga teknolohikal na breakthrough na magtatakda ng susunod na panahon. Ang mga modelong ito ay sinasanay sa mas nakatutok na dataset at maaaring magbigay ng domain-specific precision, cost efficiency, at pinahusay na data security kumpara sa malalaking language model (LLMs). 

Ang GPT-4o mini mula sa OpenAI, Phi mula sa Microsoft, Gemini Nano mula sa Google DeepMind, at Haiku mula sa Anthropic’s Claude 3 ay ilan sa mga halimbawa ng mas maliliit na bersyon ng mas malalaking AI model mula sa mga higanteng teknolohiya.

Pagdating sa hardware, nakatuon ang pansin sa paggamit ng GPU at iba pang specialized AI processors na idinisenyo partikular para sa high-performance workloads. 

Mayroon ding piling energy-efficient servers at processors na nag-aadjust ng paggamit ng kuryente batay sa pangangailangan ng workload, virtualization para sa mas mahusay na paggamit ng resources sa pamamagitan ng pagpapatakbo ng maraming proseso sa mas kaunting pisikal na makina, at advanced cooling technologies upang mabawasan ang pangangailangan sa power-intensive na air conditioning systems.

Tulad ng ibinahagi namin noong nakaraang buwan, nakamit ng mga mananaliksik mula sa Tohoku University, Japan Atomic Energy Agency, at National Institute for Materials Science isang lubos na epektibo at energy-saving na AI hardware. Gumamit ang mga mananaliksik ng spintronic devices para sa low-power AI chips at nagpakita ng current-programmed spin-orbit torque (SOT) device na nagbubukas ng pinto para sa bagong henerasyon ng AI hardware.

Isa pang paraan upang pababain ang konsumo ng enerhiya ng AI ay sa pamamagitan ng sustainable practices. Maaaring gamitin ng mga data center ang renewable energy sources, magpatupad ng energy-efficient cooling systems, at magdisenyo ng epektibong layout upang mabawasan ang konsumo ng enerhiya.

Aktibong gumagawa ng mga pangako ang mga kumpanya patungo dito, kung saan ang Google ay sumusulong sa geothermal energy. Ang Microsoft naman ay magbubukas muli ng Three Mile Island nuclear plant upang maging carbon neutral pagsapit ng 2030.

Kagiliw-giliw, ginagamit din ang AI upang magdala ng energy efficiency sa AI mismo. Ginagamit ang teknolohiyang ito upang i-optimize ang konsumo ng enerhiya sa mga gusali at industriya, i-forecast kung kailan kailangan ng maintenance ang kagamitan, at bawasan ang peak demand sa pamamagitan ng paggamit ng real-time grid conditions.

Sa gitna ng lahat ng ito, nakabuo ang mga mananaliksik mula sa Technical University of Munich (TUM) ng isang bagong paraan na nagsasanay ng neural networks hanggang 100 beses na mas mabilis, na malaki ang nababawasan sa konsumo ng enerhiya na kaugnay ng mga AI application.

Para dito, kinompyut ng mga mananaliksik ang mga parameter nang direkta batay sa probabilities imbes na gumamit ng iterative na pamamaraan, ngunit ang mga resulta ay hanggang ngayon ay katumbas ng kalidad ng umiiral na iterative methods.

Isang Bagong Paraan upang Malaki ang Pagbawas ng Konsumo ng Enerhiya ng AI 

Bukod sa pagtaas ng paggamit ng AI, ang paglulunsad ng mas kumplikadong AI application sa mga susunod na taon ay magdudulot ng malaking pagtaas sa pangangailangan ng kapasidad ng data center.

Ang mga application na ito ay gagamit ng napakalaking enerhiya para sa pagsasanay ng neural networks. Kaya, ang bagong pag-aaral ay nakatuon sa pagbawas ng napakalaking kuryente na kinakailangan upang sanayin ang neural networks para sa AI.

Ginagamit ang neural networks sa AI upang kilalanin ang mga imahe at magproseso ng wika kasama ang iba pang gawain. Ang pag-andar ng mga network na ito ay inspirasyon mula sa paraan ng paggana ng utak ng tao.

Ang neural network ay binubuo ng magkakaugnay na nodes na tinatawag na artificial neurons. Dito, ang mga input signal ay binibigyan ng timbang gamit ang tiyak na mga parameter bago pagsamahin, at kung lumampas ang itinakdang limitasyon, ipapasa ang signal sa susunod na node.

Ngayon, upang sanayin ang network, ang paunang pagpili ng mga halaga ng parameter ay karaniwang random at pagkatapos ay unti-unting inaayos upang mapabuti ang mga prediksyon ng network nang paunti-unti.

Ang pamamaraang ito, siyempre, ay nangangailangan ng maraming iterasyon, na nagiging napakahirap ng pagsasanay, at nagreresulta sa malaking konsumo ng kuryente.

Kaya, isang pangkat ng mga mananaliksik na pinamumunuan ni Felix Dietrich, isang propesor ng Physics-enhanced Machine Learning, ang nakabuo ng bagong pamamaraan. Si Dietrich ay core member ng Munich Data Science Institute (MDSI) at associate member ng Munich Center for Machine Learning (MCML).

Ang ginagawa ng bagong teknik na ito ay gumagamit ng probabilities imbes na paulit-ulit na tukuyin ang mga parameter sa pagitan ng mga node. Ang bagong probabilistic method na ito ay nagtatarget ng paggamit ng mga halaga sa mga kritikal na lokasyon sa training data. Ito ay mga lokasyon kung saan nagaganap ang malalaking at mabilis na pagbabago ng mga halaga.

Sa pamamaraang ito, layunin ng pag-aaral na makakuha ng mga energy-conserving dynamic system mula sa data. Ang mga ganitong dynamic system ay nagbabago sa paglipas ng panahon alinsunod sa mga patakaran. Ang mga sistemang ito ay matatagpuan sa mga pamilihan ng pananalapi at mga climate model.

“Ang aming pamamaraan ay nagbibigay-daan upang matukoy ang kinakailangang mga parameter gamit ang minimal na computing power. Maaari nitong gawing mas mabilis ang pagsasanay ng neural networks at, bilang resulta, mas energy efficient. Bukod dito, napansin namin na ang katumpakan ng bagong pamamaraan ay katumbas ng mga iteratively trained na network.”

– Dietrich

Ang pag-unlad na ito ay may potensyal na lubos na bawasan ang epekto sa kapaligiran ng AI sa pamamagitan ng pag-unti ng enerhiya na kinakailangan para sa pagsasanay ng neural networks. Maaaring makita natin ang mga industriya na nag-deploy ng large-scale AI models na gumagamit ng pamamaraang ito sa susunod na 1 hanggang 3 taon, na magdudulot ng mas sustainable at cost-effective na AI solutions.

Inobatibong Kumpanya

NVIDIA Corporation

Isang nangunguna sa AI computing, ang NVIDIA (NVDA ) ay nagde-develop ng energy-efficient na GPU at AI accelerators, patuloy na nag-iinnovate upang mapabuti ang performance habang binabawasan ang konsumo ng kuryente.​

Noong nakaraang taon sa AI Summit DC, iniulat ng kumpanya na ang paggamit ng enerhiya ng kanilang mga GPU ay nakaranas ng napakalaking 2,000X na pagbawas sa pagsasanay sa nakalipas na dekada. Sa panahong iyon, nakaranas din ito ng 100,000X na pagbawas ng enerhiya sa pagbuo ng mga token. Ang pagbuti sa kahusayan ay 2,000X habang ang 4,000X na pagbuti ay naitala sa performance ng computation sa nakalipas na sampung taon.

Ayon kay Bob Pette, VP ng enterprise platforms ng Nvidia noong panahong iyon:

“Kung ang mga sasakyan ay nagpa-improve ng kanilang kahusayan nang kasing laki ng pag-improve natin ng inference performance, maaari kang magmaneho ng higit sa 300 taon sa isang tangke ng gasolina. Sa core ng accelerated computing ay sustainable computing.”

Ang Blackwell ng Nvidia ay ang bagong flagship GPU architecture nito, na pumapalit sa Hopper at idinisenyo upang mapabuti ang AI performance “sa isang makabuluhang paraan.” Ang platform na ito ay puno ng pinakamakapangyarihang chip sa mundo, second-generation transformer engine, at ikalimang henerasyon ng NVLink habang napaka-energy efficient para sa inference at training.

Ang NVIDIA Corporation ay talagang isang full-stack computing infrastructure company na may mga segment na kinabibilangan ng Compute & Networking at Graphics.

Saklaw ng Compute & Networking ang data center, networking, autonomous at electric vehicle solutions, DGX Cloud computing services, at Jetson, habang saklaw ng Graphics segment ang GeForce GPU, GeForce NOW, virtual GPU software, NVIDIA RTX GPU, at Omniverse Enterprise software.

Sa market cap na $2.96 trilyon, ang mga shares ng NVIDIA, sa oras ng pagsulat nito, ay nagte-trade sa $121.50, pababa ng 9.4% YTD. Ang kumpanya ay may EPS (TTM) na 2.94 at P/E (TTM) na 41.40, habang ang dividend yield nito ay 0.03%.

Sa kabila ng pagbaba ng presyo ng shares ng NVIDIA kamakailan, na hindi eksklusibo sa chip maker, patuloy na naaakit ng kumpanya ang mga mamumuhunan. Pagkatapos ng lahat, tumaas ang halaga ng stock nito ng higit sa 1,800% mula 2020, na ginagawa itong isa sa mga pinakamahalagang kumpanya sa mundo.

Ang interes sa NVIDIA ay partikular na mataas sa mga batang mamumuhunan dahil nalalampasan nito ang Tesla (TSLA ) bilang top-held stock sa Robinhood . Ang malaking bahagi (75%) ng mga funded account sa platform na ito na walang komisyon ay pag-aari ng Millennials at Gen Z. 

Naniniwala rin si Robinhood CEO Vlad Tenev na magiging mas mahalaga ang Nvidia kaysa dati, salamat sa AI.

“Sa tingin ko, ang AI ay magpapahalaga pa sa pamumuhunan dahil kung ang kontrol sa teknolohiya ay magiging sentralisado sa mga kumpanyang teknolohikal, kailangan mong maging mamumuhunan sa mga kumpanyang iyon upang makinabang.”

– Tenev

Sa usapin ng financials ng kumpanya, iniulat ng Nvidia ang Q4 na nagtapos noong Enero 26, 2025, na nagpakita ng revenue na $39.3 bilyon, pagtaas ng 12% at 78% mula sa nakaraang quarter at isang taon ang nakalipas, ayon sa pagkakasunod.

Sa segment ng data center, ang revenue ng kumpanya sa ika-apat na quarter ay umabot sa rekord na $35.6 bilyon. Sa panahong ito, napili ang NVIDIA upang magsilbing pangunahing technology partner para sa $500 bilyong Stargate Project.

Kabilang sa iba pang pag-unlad ang mga cloud service provider na AWS, CoreWeave (CRWV ), Google Cloud Platform (GCP), Microsoft Azure, at Oracle (ORCL ) Cloud Infrastructure (OCI) na gumagamit ng NVIDIA® GB200 systems upang matugunan ang tumataas na pangangailangan sa AI, paggawa ng NVIDIA DGX™ Cloud AI computing platform at NVIDIA NIM™ microservices na magagamit sa AWS Marketplace, Cisco na nag-iintegrate ng NVIDIA Spectrum-X™ sa kanilang networking portfolio, pakikipagtulungan sa Verizon upang i-integrate ang NVIDIA AI Enterprise, at pakikipagsosyo sa IQVIA (IQV ), Mayo Clinic, Illumina, at Arc Institute upang isulong ang drug discovery, genomics, at healthcare.

Ang revenue mula sa Gaming at AI PC ay bumaba sa $2.5 bilyon habang inanunsyo ng NVIDIA ang mga bagong GeForce RTX™ 50 Series graphics card at laptop na pinapagana ng Blackwell architecture, inilunsad ang GeForce RTX 5090 at 5080 graphics card at ipinakilala ang DLSS 4. 

Bukod dito, ang revenue mula sa professional Visualization ay $511 milyon at $570 milyon ay mula sa Automotive at Robotics division.

Sa quarter na ito, ang GAAP earnings per diluted share ng kumpanya ay $0.89, tumaas ng 14% mula sa nakaraang quarter at tumaas ng 82% mula isang taon ang nakalipas. Samantala, ang Non-GAAP earnings per diluted share ay $0.89.

Para sa fiscal 2025, ang revenue ay $130.5 bilyon, isang pagtaas ng napakalaking 114% mula isang taon ang nakalipas. Ang GAAP earnings per diluted share para sa period ay $2.94 at ang non-GAAP earnings per diluted share ay $2.99. 

“Ang demand para sa Blackwell ay kamangha-mangha dahil ang reasoning AI ay nagdadagdag ng isa pang scaling law — ang pagtaas ng compute para sa training ay nagpapatalino sa mga modelo at ang pagtaas ng compute para sa long thinking ay nagpapasagot nang mas smarte r.”

– CEO at tagapagtatag na si Jensen Huang

Kaya, pinalakas ng kumpanya ang produksyon ng mga Blackwell AI supercomputer nito, na nakakamit ng bilyong dolyar na benta.

Para sa unang quarter ng fiscal 2026, inaasahan ng kumpanya na ang revenue ay $43 bilyon, GAAP operating expenses na $5.2 bilyon, at non-GAAP ibang kita na humigit-kumulang $400 milyon.

“Ang AI ay umuunlad nang napakabilis habang ang agentic AI at physical AI ay nagtatakda ng entablado para sa susunod na alon ng AI na magrerebolusyon sa pinakamalalaking industriya.”

– Huang

Pinakabagong Balita sa NVIDIA Corporation

Konklusyon

Ang AI ay nakatakdang baguhin ang mga negosyo sa iba’t ibang sektor, ngunit nangangahulugan ito ng walang kapantay na pagtaas sa pangangailangan ng enerhiya. Ang pangangailangang ito ay nagdudulot ng malaking hamon, na pinagtatrabaho ng maraming mananaliksik upang malampasan. 

Ang pag-develop ng bagong probabilistic training method ay nagmamarka ng mahalagang breakthrough sa energy-efficient na AI sa pamamagitan ng pagbawas ng pangangailangan sa kuryente ng hanggang 100 beses. Sa pagtaas ng konsumo ng enerhiya na may kaugnayan sa AI habang lumalawak ang mga data center, ang pag-unlad na ito ay maaaring lubos na magpababa ng gastusin sa operasyon at epekto sa kapaligiran. 

Kapag pinagsama sa pokus ng Nvidia sa energy-efficient na GPU at AI accelerators, ang mga inobasyong ito ay makakatulong na pabilisin ang pag-aampon ng AI at pataasin ang produktibidad.

I-click dito upang malaman ang lahat tungkol sa pamumuhunan sa artificial intelligence.