Artipisyal na Intelihensiya
AI Nakikipagtagpo sa Kahusayan: Isang Bagong Chip Nagpapababa ng Konsumo ng Lakas ng LLM ng 50%
Idagdag ang Securities.io sa mga gusto mong mapagkunan sa Google
Ang patuloy na pagsabog ng artificial intelligence (AI) ay nagdudulot ng pagdami ng mga data centre, na nag-uudyok ng napakalaking pangangailangan ng kuryente para patakbuhin at palamigin ang mga server sa loob nito.
Bagaman may higit sa 8,000 data centre sa buong mundo, karamihan ay nasa US, tataas nang malaki ang bilang na ito sa mga susunod na taon.
Ayon sa pagtataya ng Boston Consulting Group, tataas ang pangangailangan para sa mga data centre ng 15% hanggang 20% bawat taon hanggang 2030. Sa puntong ito, inaasahan ng kumpanya na aabutin nila ang 16% ng kabuuang konsumo ng kuryente sa U.S., tumaas mula sa 2.5% bago ilabas ng OpenAI ang ChatGPT noong 2022.
Samantala, ang espesyal na ulat na Energy and AI mula sa International Energy Agency (IEA) na inilabas ngayong taon, inaasahan na ang pangangailangan ng kuryente mula sa mga data centre sa buong mundo ay doblehin hanggang sa katapusan ng dekadang ito sa humigit-kumulang 945 TWh. Halos katumbas ito ng konsumo ng Japan sa kasalukuyan.
Iniulat ng autonomous na intergovernmental na organisasyon na nakabase sa Paris na ang AI ang pinakamalaking sanhi ng pagtaas na ito, na may inaasahang pagtaas ng pangangailangan ng kuryente mula sa AI-optimized na mga data centre ng higit sa apat na beses pagsapit ng 2030.
Sa US partikular, ang konsumo ng kuryente ng mga data centre ay patungo nang umabot sa halos kalahati ng paglago ng pangangailangan ng kuryente mula ngayon hanggang 2030. Dahil sa paggamit ng AI, ang ekonomiya ng US, ayon sa ulat, ay gagamit ng mas maraming kuryente para iproseso ang data kaysa sa paggawa ng lahat ng mga produktong mataas ang konsumo ng enerhiya nang sabay-sabay.
Ang walang katapusang pagnanais na ito para sa enerhiya ay nagdudulot ng malaking problema sa pag-unlad at pag-aampon ng AI. Gayunpaman, may magandang balita: dumarami ang mga mananaliksik at kumpanya na nagtatrabaho upang bawasan ang paggamit ng kuryente ng AI at gawing mas enerhiyang epektibo ito.
Ang kawili-wiling bahagi ng mga pagsisikap na ito ay marami sa kanila ay gumagamit ng AI upang tugunan ang kanilang sariling mga hamon sa enerhiya.
Kamakailan lamang ngayong buwan, isang pangkat ng mga mananaliksik ang nagpakita ng bagong chip na gumagamit ng AI upang paliitin ang bakas ng enerhiya ng malalaking modelo ng wika (LLM) ng 50%, na nagmamarka ng malaking pag-unlad sa paggawa ng LLM na mas matipid at mas napapanatiling patakbuhin.
Bagong Chip na Ginagamit ang AI upang Bawasan ang Konsumo ng Enerhiya ng LLM
Ang mga mananaliksik mula sa Oregon State University College of Engineering ay nag-develop ng bagong epektibong AI chip upang lutasin ang napakalaking problema sa konsumo ng kuryente ng mga aplikasyon ng LLM AI tulad ng GPT-4 ng OpenAI at Gemini ng Google.
A type of machine learning (ML) model, a large language model (LLM) is pre-trained on vast amounts of data to perform natural language processing (NLP) tasks like text generation, summarization, simplification, text reasoning, language translation, and more.
Ang pinakapopular at malawakang ginagamit na mga chatbot ngayon ay kinabibilangan ng GPT-4o, o3, at o1 ng OpenAI, Gemini at Gemma mula sa Google, Llama mula sa Meta, R1 at V3 mula sa DeepSeek, Claude mula sa Anthropic, Nova mula sa Amazon (AMZN ), Phi mula sa Microsoft (MSFT ), at Grok mula sa xAI.
Sa mga nakaraang ilang taon, ganap na binago ng mga LLM ang larangan ng AI sa pamamagitan ng pagpapahintulot sa mga makina na maunawaan at lumikha ng tekstong kahawig ng tao nang may mas mataas na katumpakan. Gayunpaman, ang pag-unlad ng mga LLM ay nagdulot ng eksponensyal na pagtaas sa kanilang laki.
Ang sukat ng LLM, na sinusukat sa bilang ng mga parameter nito, ay pangunahing nagdidikta ng konsumo ng enerhiya. Ibig sabihin, mas malaki ang modelo, mas mataas ang pangangailangan nito sa kapangyarihan ng pagkompyut para sa pagsasanay at inference.
Halimbawa, ang ChatGPT-1 ay may halos 120 milyong parameter, na tumaas sa 175 bilyong parameter sa GPT-3, at pagkatapos ay umabot sa humigit-kumulang 1.8 trilyong parameter sa GPT-4.
Ang napakalaking pagtaas ng laki at kakayahan ng mga LLM ay nangangahulugang tumataas din ang kanilang konsumo ng enerhiya sa hindi pa nagagawang sukat. Bukod sa laki ng modelo, mga salik tulad ng uri ng hardware na ginamit sa pagsasanay ng mga LLM, tagal ng proseso ng pagsasanay, imprastruktura, hal. mga data centre, pagproseso ng data, pag-optimize ng modelo, at kahusayan ng algoritmo ay nakakaapekto sa konsumo ng enerhiya ng mga LLM.
Kaya naman, ang bagong chip mula sa mga mananaliksik ng OSU. Ayon kay Tejasvi Anand, isang associate professor ng electrical engineering sa OSU na namumuno rin sa Mixed Signal Circuits and Systems Lab sa Unibersidad:
“Ang problema ay ang enerhiya na kinakailangan upang magpadala ng isang bit ay hindi nababawasan sa parehong bilis kung saan tumataas ang pangangailangan sa data rate. Iyon ang nagdudulot sa mga data centre na gumamit ng napakaraming kuryente.”
Upang malutas ang problemang ito, dinisenyo at binuo ng koponan ang isang bagong chip na kumokonsumo lamang ng kalahati ng enerhiya kumpara sa mga karaniwang disenyo.
Ipinakita nina Anand at doctoral student na si Ramin Javad ang bagong teknolohiyang ito sa IEEE Custom Integrated Circuits (CIC) Conference, na ginanap sa Boston noong nakaraang buwan. Ang kumperensyang ito, na nagho-host ng mga forum, panel, exhibit, at oral presentations, ay nakatuon sa pag-unlad ng IC, na nagsisilbing pundasyon ng mga modernong elektronikong sistema sa pamamagitan ng pagbibigay ng functionality at processing power sa isang compact at epektibong pakete.
Ang pinakabagong teknolohiya ay binuo sa suporta ng Center for Ubiquitous Connectivity (CUbiC), Semiconductor Research Corporation (SRC), at Defense Advanced Research Projects Agency (DARPA). Nakamit din ni Javadi ang Best Student Paper Award sa kumperensyang iyon.
Para sa bagong chip, aktwal na ginamit ng mga mananaliksik ang mga prinsipyo ng AI na, ayon kay Javadi, nagpapababa ng paggamit ng kuryente para sa signal processing.
Ayon sa kanyang paliwanag, ang mga LLM ay nagpapadala at tumatanggap ng maraming data sa pamamagitan ng wireline connections, na mga copper-based na komunikasyon sa mga data centre. Ang buong prosesong ito ay nangangailangan ng malaking enerhiya, kaya isang posibleng “solusyon ay ang pag-develop ng mas epektibong wireline communication chips.”
Dagdag pa ni Javadi, kapag ipinadala sa mataas na bilis, ang data ay nasisira sa dulo ng receiver, at dahil dito, kailangan itong linisin. Para sa layuning ito, karamihan sa umiiral na wireline communication systems ay gumagamit ng equalizer, na kumokonsumo ng maraming kuryente.
“Ginagamit namin ang mga prinsipyo ng AI sa chip upang ma-recover ang data sa mas matalino at mas epektibong paraan sa pamamagitan ng pagsasanay ng on-chip classifier upang kilalanin at itama ang mga error.”
– Javadi
Bagaman ito ay isang malaking pag-unlad, ito ay paunang bersyon lamang ng chip. Ang susunod na iterasyon ay kasalukuyang ginagawa upang higit pang mapabuti ang kahusayan nito sa enerhiya.
Sa pangkalahatan, ang patuloy na pananaliksik na ito ay nagpapakita ng malaking potensyal na magkaroon ng malawak na implikasyon para sa hinaharap ng AI infrastructure at operasyon ng mga data centre. Ngunit siyempre, kakailanganin nito ang matagumpay na pagpapatupad ng teknolohiya sa malawak na sukat, na hindi kailanman madaling gawain.
I-click dito upang matutunan kung paano binabago ng AI ang microchip engineering.
Pagpigil sa Pagkagutom ng Enerhiya ng AI sa Pamamagitan ng Mga Breakthrough sa Iba’t Ibang Antas
Ang pinakabagong pag-unlad ng chip na ito ay isa lamang sa maraming proyektong pananaliksik na humaharap sa problema ng konsumo ng enerhiya ng AI. Kaya, tingnan natin nang mabilis ang mga makabagong paraan na ginamit ng mga mananaliksik upang tugunan ito.
Paggamit ng Liwanag para sa Kahusayan sa Enerhiya ng AI
Sa unang bahagi ng taong ito, ang mga siyentipiko ng USST ay nag-develop ng isang mikroskopikong AI chip, mas maliit kaysa sa isang alikabok o butil ng asin, na gumagamit ng liwanag upang iproseso ang data mula sa fiber-optic cables. Nangangako ito ng mas mabilis na kalkulasyon na may mas kaunting konsumo ng enerhiya.
Ang chip ay nagmamanipula ng liwanag upang magsagawa ng mga kalkulasyon agad-agad sa halip na i-interpret ang mga signal ng liwanag tulad ng ginagawa ng tradisyonal na mga computer. Para dito, ginagamit nito ang “all-optical diffractive deep neural network,” isang teknolohiya na gumagamit ng mga patterned, 3D-printed na layer ng mga komponent na pinagsasama. Bagaman ito ay makabago, kailangang malampasan ang mga hamon tulad ng disenyo na partikular sa gawain, sensitibidad sa mga imperpeksiyon, at kahirapan sa mass production upang makamit ang “hindi pa nagagawang mga functionality” sa endoscopic imaging, quantum computing, at mga data centre.
Ilang buwan bago iyon, ang mga siyentipiko ng MIT ay gumamit din ng liwanag upang isagawa ang mga pangunahing operasyon ng neural network sa isang chip, na nagbigay-daan sa napakabilis na AI computations (sa kalahating nanosecond) na may 92% na katumpakan at napakalaking kahusayan sa enerhiya.
“Ipinapakita ng gawaing ito na ang computing — sa pinakapayak nito, ang pagma-map ng mga input sa mga output — ay maaaring i-compile sa mga bagong arkitektura ng linear at nonlinear na pisika na nagbibigay-daan sa isang ganap na ibang scaling law ng computation kumpara sa kinakailangang pagsisikap.”
– Senior na may-akda Dirk Englund
Ang mga siyentipiko ay nag-develop ng photonic chip, na binubuo ng mga interconnected na module na bumubuo ng isang optical neural network. Kapansin-pansin, ang paggamit ng mga commercial foundry process para sa paggawa nito ay nangangahulugang maaari itong i-scale at i-integrate sa electronics. Gayundin, nalampasan ng mga siyentipiko ang hamon ng nonlinearity sa optics sa pamamagitan ng pagdidisenyo ng nonlinear optical function units (NOFUs) na pinagsasama ang electronics at optics.
Isang Software Tool para sa Pagsasanay ng AI at isang Cooling System para sa mga Data Centre
Samantala, ang mga mananaliksik mula sa University of Michigan ay tumutok sa pag-aaksaya ng enerhiya na nalilikha sa panahon ng pagsasanay ng AI, partikular kapag ito ay hinahati sa pagitan ng mga GPU, na kinakailangan para sa pagproseso ng napakalaking dataset, nang hindi pantay.
Kaya, nag-develop sila ng isang software tool na tinatawag na Perseus na tumutukoy sa mga subtasks na tatagal ng pinakamahabang oras upang matapos at pagkatapos ay binabawasan ang bilis ng mga processor na hindi nasa ‘critical path’ upang payagan silang lahat na sabay-sabay na tapusin ang kanilang mga gawain, tinatanggal ang hindi kailangang paggamit ng kuryente.
Ang open-sourced na tool na ito ay available bilang bahagi ng Zeus, isang tool para sukatin at i-optimize ang konsumo ng enerhiya ng AI.
Samantala, ang mga mananaliksik mula sa University of Missouri ay nagtuon sa pagbuo ng susunod na henerasyon ng cooling system upang matulungan ang mga data centre na maging mas enerhiyang epektibo. Gumagawa rin sila ng cooling system para sa madaling pagkakabit at pagkakabukod sa loob ng mga server rack.
“Ang cooling at paggawa ng chip ay magkasamang magkasabay. Kung walang tamang cooling, ang mga komponent ay mag-ooverheat at mabibigo. Ang mga energy-efficient na data centre ay magiging susi sa hinaharap ng AI computing.”
– Chanwoo Park, isang propesor ng mechanical at aerospace engineering sa Mizzou College of Engineering
Sa suporta ng $1.5 milyong pondo mula sa COOLERCHIPS initiative ng DOE, nag-develop ang koponan ng dalawang-faseng cooling system na nag-aalis ng init mula sa mga server chip sa pamamagitan ng phase change. Hindi lamang ito maaaring tumakbo nang pasibo nang hindi gumagamit ng anumang enerhiya kapag kailangan ng kaunting cooling, kundi kahit na nasa aktibong mode, gumagamit ito ng napakaliit na halaga ng enerhiya.
Maaaring Bawasan ng CRAM Hardware ang Konsumo ng Enerhiya ng AI ng 1000x
Noong nakaraang tag-init, ang mga inhinyero sa University of Minnesota Twin Cities ay nag-develop ng isang advanced na hardware device na maaaring bawasan ang konsumo ng enerhiya ng AI ng halos 1,000 beses.
Ang bagong modelong ito ay tinatawag na computational random-access memory (CRAM), at dito, ang data ay hindi kailanman umaalis sa memorya; sa halip, ito ay pinoproseso nang buo sa loob ng memory array, kaya tinatanggal ang pangangailangan para sa energy-intensive at mabagal na data transfers.
Dalawang dekada ang ginugol para sa pag-aaral na ito, bahagi ito ng pagsisikap ng koponan na ituloy ang patented na pananaliksik ni senior author Jian-Ping Wang sa mga Magnetic Tunnel Junctions (MTJs) devices. Ang mga nanostructured na device na ito ay ginagamit upang mapabuti ang mga sensor, hard drive, at iba pang microelectronics systems tulad ng Magnetic Random Access Memory (MRAM).
“Bilang isang napaka-enerhiya epektibong digital na in-memory computing substrate, ang CRAM ay napaka-flexible dahil ang computation ay maaaring isagawa sa anumang lokasyon sa memory array,” pahayag ni co-author Ulya Karpuzcu, Associate Professor sa Department of Electrical and Computer Engineering. Maaari rin itong i-reconfigure upang umangkop sa pangangailangan ng performance ng iba’t ibang algorithm.
AI na Inspirado sa Utak: Pagbawas ng Paggamit ng Kuryente sa Pamamagitan ng Pagsunod sa Kahusayan ng Tao
Kaya, tulad ng nakita natin, ang mga mananaliksik ay tumitingin sa iba’t ibang aspeto ng AI upang harapin ang mga isyu nito sa enerhiya. Nakakatuwang, bumabalik din sila sa utak ng tao para sa inspirasyon. May katuturan ito, dahil ang AI ay simulasyon ng mga proseso ng katalinuhan ng tao sa pamamagitan ng mga makina, bagaman ito ay hindi pa malapit sa pag-iisip at pangangatwiran ng tao dahil ang kakayahan nitong mag-generalize sa iba’t ibang sitwasyon ay “mas malakas na mahina kaysa sa kognisyon ng tao.”
Kasama sa pananaliksik sa pagbawas ng enerhiya na inspirasyon ng utak ang trabaho ni Associate Professor Chang Xu sa Sydney AI Centre ng Unibersidad, na nagbanggit na ang paggamit ng LLM ng mga resources sa buong kapasidad, kahit para sa simpleng gawain, ay hindi tamang paraan. Ipinaliwanag niya:
“Kapag iniisip mo ang isang malusog na utak ng tao – hindi nito pinapagana ang lahat ng neuron o ginagamit ang buong kapangyarihan ng utak nang sabay-sabay. Ito ay gumagana nang napakakabusog sa enerhiya, may 20 Watts lamang na kapangyarihan kahit na may humigit-kumulang 100 bilyong neuron, na pinipili nitong gamitin mula sa iba’t ibang hemispero ng utak upang magsagawa ng iba’t ibang gawain o pag-iisip.”
Bilang resulta, nagde-develop sila ng mga algorithm na nilalaktawan ang mga redundant na kalkulasyon na hindi kailangan at hindi agad pumapasok sa mataas na gear.
Sa ibang pagkakataon, kinuha ng pananaliksik ang inspirasyon mula sa neuromodulation ng utak at lumikha ng algorithm na tinatawag na ‘stashing system’ upang bawasan ang enerhiya ng 37% nang walang anumang pagbaba sa katumpakan, ang self-repairing function ng brain cell na tinatawag na astrocytes para sa hardware devices, at nakuha ang neuromorphic (brain-inspired) na anyo ng computing (memristors) upang magtulungan sa ilang sub-grupo ng neural networks.
Pamumuhunan sa Artificial Intelligence
Ang isang pandaigdigang kumpanya ng semiconductor, AMD, ay kilala para sa kanyang high-performance computing, graphics, at visualization technologies. Habang direktang nakikipagkumpetensya sa AI darling na NVIDIA (NVDA ), mabilis itong nakakuha ng puwang sa mga merkado ng data centre at AI accelerator. Ang MI300 Series nito ay partikular na tumatarget sa mga gen AI workloads at HPC applications.
Ang nangungunang presensya nito sa data centre CPU space, malakas na pokus sa R&D, paglago ng kita, kliyente, at mga acquisition ay ginagawa ang AMD na isang malakas na manlalaro sa sektor.
Advanced Micro Devices (AMD )
Noong 2022, ang AMD ay gumawa ng rekord na kasunduan sa industriya ng chip na nagkakahalaga ng $50 bilyon sa pagkuha ng Xilinx upang maging lider sa high-performance at adaptive computing sa industriya. At kamakailan lamang, natapos nito ang pagkuha ng ZT Systems upang tugunan ang $500 bilyong oportunidad sa data centre AI accelerator sa 2028.
Ang pagganap ng merkado ng AMD ay nagbabawi rin ngayong taon matapos maapektuhan ng kaguluhan sa taripa. Sa oras ng pagsulat, ang mga shares ng AMD ay nagte-trade sa $120, bumaba ng 6.9% YTD ngunit halos 47% lamang mula sa tuktok nito noong Marso 2024. Kasama nito, ang market cap nito ay $182.34 bilyon habang may EPS (TTM) na 1.36 at P/E (TTM) na 82.44.
Tungkol sa pinansyal ng kumpanya, iniulat ng AMD ang 36% YoY na pagtaas sa kita sa $7.4 bilyon para sa Q1 ng 2025, na tinawag ng CEO na si Dr. Lisa Su bilang “isang kahanga-hangang simula” sa taon, “sa kabila ng dynamic na macro at regulatory na kapaligiran.” Ang paglago na ito ay pinasigla ng “pagpapalawak ng data centre at AI momentum,” dagdag pa niya.
Sa panahong ito, ang operating income ng AMD ay $806 milyon, net income ay $709 milyon, at diluted earnings per share ay $0.44. Para sa Q2 ng 2025, tinatantiya nitong magkaroon ng humigit-kumulang $7.4 bilyon na kita.
Kabilang sa ilang mahahalagang pag-unlad na ginawa ng kumpanya ang pagpapalawak ng mga estratehikong partnership sa Meta Platforms, Inc. (META ) (Llama), Alphabet Inc. (GOOG ) (GOOGL ) (Gemma), Oracle Corporation (ORCL ), Core42, Dell Technologies (DELL ), at iba pa. Ang AMD, kasama ang Nokia, Cisco Systems, Inc. (CSCO ), at Jio, ay nag-anunsyo rin ng bagong Open Telecom AI Platform upang mag-alok ng AI-driven na solusyon para mapabuti ang kahusayan, seguridad, at kakayahan.
Ngayon, ngayong linggo, ang AMD at Nvidia ay nakipagtulungan sa Humain, isang AI-focused na subsidiary ng Public Investment Fund ng Saudi Arabia upang mag-supply ng mga semiconductor para sa isang malakihang proyekto ng data centre na inaasahang magkakaroon ng kapasidad na 500MW.
I-click dito para sa listahan ng mga nangungunang non-silicon computing companies.
Pinakabagong Mga Trend at Pag-unlad ng Advanced Micro Devices (AMD)
Konklusyon
Sa mga nakaraang ilang taon, ang AI mania ay nakaranas ng napakabilis na paglago, at may mabubuting dahilan. Ang teknolohiyang ito, sa huli, ay may malaking potensyal na baguhin ang malawak na hanay ng mga industriya mula sa healthcare, manufacturing, at material science hanggang sa finance, entertainment, edukasyon, retail, at cybersecurity.
Gayunpaman, ang pag-unlad ng teknolohiya, lumalawak na pag-aampon, at kasunod na paglawak ng mga LLM na ito ay nagdulot ng malaking pangangailangan sa enerhiya, na nag-aambag sa greenhouse gas (GHG) emissions at pagbabago ng klima, nagpapataas ng gastusing pang-ekonomiya, at nakaaapekto sa pagpapanatili ng teknolohiya.
Nagbibigay ito ng malaking hamon para sa AI. Kung nais nating ganap na maisakatuparan ang tunay nitong potensyal sa anyo ng nabawasang gastos, tumaas na produktibidad, at pinabuting paggawa ng desisyon sa malawak na sukat, kailangang makamit ng mga modelo ang cost-effectiveness at sustainability.
Ang maganda, gayunpaman, ay ang mga mananaliksik sa buong mundo ay nagsusumikap na gawing enerhiyang epektibo ang AI, tulad ng makikita sa AI-powered chip ng Oregon State, na nagpapahiwatig ng malakas na posibilidad na maisama ang inobasyon sa sustainability.
Siyempre, ang mga iminungkahing teknolohiya ay kailangang lampasan ang kanilang pinakamalaking balakid sa pag-abot ng tunay na epekto sa mundo, ang scalability. Gayunpaman, isang bagay ang malinaw: ang mas berde na hinaharap ng AI ay posible, at ito ay paparating!
I-click dito upang matutunan ang lahat tungkol sa pamumuhunan sa artificial intelligence.
Mga Sanggunian na Pag-aaral:
1. Yu, H., Huang, Z., Lamon, S., Wu, J., Zhao, Z., Lin, D., Zhao, H., Zhang, J., Lu, C., Liu, H., Zhang, X., & Zhang, C. (2025). All-optical na transportasyon ng imahe sa pamamagitan ng multimode fiber gamit ang miniaturized diffractive neural network sa distal facet. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, M. J., Lukin, M. D., & Lončar, M. (2024). Single-chip photonic deep neural network na may forward-only training. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, B. R., Bloom, R. P., Roy, A., Vaddi, K., Shang, L., & Manipatruni, S. (2024). Eksperimental na demonstrasyon ng magnetic tunnel junction-based computational random-access memory. npj Unconventional Computing, 1, 3. https://doi.org/10.1038/s44335-024-00003-3
