Para Maabot ng AI ang Kanyang Potensyal, Dapat Tugunan ang mga Pangangailangan sa Enerhiya

Artificial Intelligence (AI) ay patuloy na nagpapaandar sa ika‑4 na rebolusyong industriyal, kasabay ng mga pangangailangan nito sa enerhiya. Ngayon, sinuman ay maaaring makakuha ng mga advanced na tool ng AI at isama ang mga ito sa kanilang mga sistema upang mapabuti ang kahusayan at mabawasan ang gawain. Ang enerhiyang kinakailangan upang patakbuhin ang mga algorithm na ito ay tumataas kasabay ng pagtaas ng pangangailangan para sa mga aplikasyon ng AI. Dahil dito, itinuturo na ng mga environmentalist ang mga alalahanin sa pagpapanatili kaugnay ng teknolohiyang ito. Sa kabutihang palad, isang pangkat ng mga mananaliksik ang lumikha ng isang lubos na epektibong alternatibo. narito ang kailangan mong malaman.

Paglago ng Pangangailangan sa Enerhiya ng AI na Nagdudulot ng Krisis sa Enerhiya

Patuloy na inilulunsad ang mga bagong sistema ng AI nang mas madalas. Ang pinakabagong global energy use forecast ay nagtataya na ang konsumo ng enerhiya ng AI ay doblehin mula 460 terawatt-oras (TWh) noong 2022 hanggang 1,000 TWh pagsapit ng 2026. Kabilang sa mga protokol na ito ang mga recommender, malalaking modelo ng wika (LLMs), pagproseso at paglikha ng imahe at video, Web3 serbisyo, at iba pa.

Ayon sa study ng mga mananaliksik, nangangailangan ang mga sistema ng AI ng paglipat ng data na katumbas ng “200 beses na mas maraming enerhiya kaysa sa ginagamit para sa pagkalkula kapag nagbabasa ng tatlong 64-bit na source operand at nagsusulat ng isang 64-bit na destination operand sa isang off-chip main memory.” Bilang resulta, ang pagbawas ng konsumo ng enerhiya para sa mga aplikasyon ng computing ng artificial intelligence (AI) ay pangunahing alalahanin para sa mga developer na kailangang lampasan ang balakid na ito upang makamit ang malawakang pag-aampon at mapalago ang teknolohiya.

Sa kabutihang palad, isang grupo ng mga makabagong inhinyero mula sa University of Minnesota ang nagbigay ng posibleng solusyon na maaaring magpababa ng konsumo ng enerhiya ng mga protocol ng AI nang napakalaki. Upang maisakatuparan ito, ipinakilala ng mga mananaliksik ang isang bagong disenyo ng chip na nagpapabuti sa Von Neumann Architecture na matatagpuan sa karamihan ng mga chip ngayon.

Arkitektura ni Von Neumann

Si John von Neumann ay nagpasimula ng rebolusyon sa sektor ng kompyuter noong 1945 nang kanyang pinaghiwalay ang mga yunit ng lohika at memorya, na nagbigay-daan sa mas mahusay na pag-compute noong panahong iyon. Sa ayos na ito, ang lohika at datos ay naka-imbak sa magkaibang pisikal na lokasyon. Pinabuti ng kanyang imbensyon ang pagganap dahil pinahintulutan nitong ma-access ang pareho nang sabay.

Pinagmulan – University of Minnesota Twin Cities

RAM

Sa kasalukuyan, karamihan sa mga kompyuter ay gumagamit pa rin ng estruktura ng Von Neumann kung saan ang iyong HD ay nag-iimbak ng mga programa at ang random access memory (RAM) ay naglalaman ng mga instruksyon ng programa at pansamantalang datos. Ang RAM ngayon ay ginagampanan ang tungkuling ito gamit ang iba’t ibang pamamaraan kabilang ang DRAM, na gumagamit ng mga kapasitor, at SRAM, na may maraming circuit.

Kapansin-pansin, ang estrukturang ito ay mahusay na gumana sa loob ng mga dekada. Gayunpaman, ang patuloy na paglipat ng datos sa pagitan ng lohika at memorya ay nangangailangan ng maraming enerhiya. Ang paglipat ng enerhiyang ito ay tumataas kasabay ng pagtaas ng pangangailangan sa datos at ng computational load. Dahil dito, lumilikha ito ng bottleneck sa pagganap na naglilimita sa kahusayan habang tumataas ang kapangyarihan ng pag-compute.

Mga Pagsusubok na Pagpapabuti sa Pangangailangan sa Enerhiya

Sa paglipas ng mga taon, maraming pagsubok ang ginawa upang mapabuti ang arkitektura ni Von Neumann. Ang mga pagsubok na ito ay lumikha ng iba’t ibang bersyon ng proseso ng memorya na may layuning paglapitin ang dalawang aksyon nang pisikal. Sa kasalukuyan, tatlong pangunahing bersyon ang kinabibilangan.

Near-memory Processing

Ang pag-upgrade na ito ay nagdadala ng lohika nang mas malapit sa memorya. Ito ay nagawa gamit ang 3D-stacked na imprastruktura. Ang paglapit ng lohika ay nagbawas ng distansya at enerhiya na kailangan upang ilipat ang datos na kinakailangan para sa pag-compute. Ang arkitekturang ito ay nagbigay ng pinahusay na kahusayan.

In-memory Computing

Isa pang kasalukuyang paraan ng pagpapabuti ng computational architecture ay ang in-memory computing. Kapansin-pansin, may dalawang bersyon ng ganitong uri ng chip. Ang orihinal ay nag-iintegrate ng mga cluster ng lohika katabi ng memorya sa isang chip. Ang pag-deploy na ito ay nagpapahintulot sa pag-alis ng mga transistor na ginamit sa mga naunang bersyon. Gayunpaman, marami ang nagsasabing ang pamamaraang ito ay hindi “tunay” sa in-memory structure dahil mayroon pa rin itong hiwalay na lokasyon ng memorya, na nangangahulugang ang mga paunang isyu sa pagganap na nagmula sa paglipat ng datos ay nananatili, bagaman sa mas maliit na sukat.

True In-memory

Ang huling uri ng arkitektura ng chip ay “true in-memory.” Upang matukoy bilang ganitong uri ng arkitektura, kailangang magsagawa ng mga computation ang memorya nang direkta. Pinapalakas ng estrukturang ito ang kakayahan at pagganap dahil ang datos para sa mga lohikal na operasyon ay nananatili sa kanyang lokasyon. Ang pinakabagong bersyon ng true in-memory architecture ng mga mananaliksik ay CRAM.

(CRAM)

Ang Computational random-access memory (CRAM) ay nagpapahintulot ng true in-memory computations dahil ang datos ay pinoproseso sa loob ng parehong array. Binago ng mga mananaliksik ang karaniwang 1T1M STT-MRAM architecture upang gawing posible ang CRAM. Ang layout ng CRAM ay nag-iintegrate ng micro transistors sa bawat selula at binubuo sa mga CPU na batay sa magnetic tunnel junction.

Ang pamamaraang ito ay nagbibigay ng mas mahusay na kontrol at pagganap. Ang koponan ay nagdagdag ng karagdagang transistor, logic line (LL), at logic bit line (LBL) sa bawat selula, na nagpapahintulot ng real-time computation sa loob ng parehong memory bank.

Kasaysayan ng CRAM

Ang mga AI system ngayon ay nangangailangan ng bagong estruktura na makakatugon sa kanilang computational demands nang hindi isinasantabi ang mga alalahanin sa pagpapanatili. Sa pagkilala sa pangangailangang ito, nagpasya ang mga inhinyero na lubos na pag-aralan ang kakayahan ng CRAM sa unang pagkakataon. Ang kanilang mga resulta ay inilathala sa NPJ scientific journal sa ilalim ng ulat “Experimental demonstration of magnetic tunnel junction-based computational random-access memory.”

Ang unang CRAM ay gumamit ng MTJ device structure. Ang mga spintronic device na ito ay nagpaunlad sa mga naunang paraan ng pag-imbak sa pamamagitan ng paggamit ng spin ng electron imbes na mga transistor upang ilipat at i-imbak ang datos gamit ang MTJ method. Ang pamamaraang ito ay gumagamit ng manipis na tunneling barrier na nasa pagitan ng dalawang ferromagnetic (FM) layer. Ang maliit na boltahe ay nagdudulot na ma-excite ang mga electron na ito at lumipat sa pagitan ng mga layer.

Ang paglipat na ito ay lumilikha ng kuryente. Nagbibigay din ito ng epektibong paraan upang magbasa at magsulat ng memorya. Ang pinakabagong upgrade ng CRAM ay nagdadala ng konseptong ito nang mas malayo, na nag-aalok ng mataas na pagganap habang binabawasan ang pangangailangan sa enerhiya.

Pag-aaral ng CRAM

Ang konsepto ng CRAM ay nasa ilalim ng pag-develop sa loob ng maraming taon. Gayunpaman, wala pang masusing pagsubok sa mga kakayahan nito hanggang ngayon. Kapansin-pansin, ang pag-aaral ay gumamit ng iba’t ibang patented na konsepto na binuo ng koponan at ng mga nauna nito. Halimbawa, ang Magnetic Random Access Memory (MRAM), na isang mahalagang bahagi ng mga smartwatches, sensors, at microcontrollers ngayon, ay ginamit kasama ang mga binagong MTJ device upang mapabuti ang pagganap.

Mga Pagsubok sa CRAM

Ang yugto ng pagsubok ay nagkinailangan ng mga mananaliksik na sukatin ang pagganap ng mga chip habang isinasagawa ang logic execution. Gumamit ang mga mananaliksik ng iba’t ibang estratehiya upang makuha ang pinakamalalim na pananaw, kabilang ang scalar addition, multiplication, at matrix multiplication.

Ang unang hakbang ng proseso ay sukatin ang aktibidad sa ilalim ng mga pangunahing memory operation. Mula roon, nagpatuloy ang koponan sa mas komplikadong computation gamit ang 2-, 3-, at 5-input na logic operations. Pagkatapos ng yugtong ito, isang 1-bit full adder na may dalawang magkaibang disenyo ay ipinakilala at muling sinubukan. Ang huling pagsubok ay kinabibilangan ng 1 × 7 array, na nagbigay ng kawili-wiling resulta.

Ipinapakita ng Resulta ng Pagsubok ng CRAM ang Mas Mababang Pangangailangan sa Enerhiya

Ipinakita ng mga resulta ng pagsubok kung gaano kaepektibo ang bagong proof-of-concept process kumpara sa mga modelo ngayon. Ipinakita ng datos na may average na 1000X na mas kaunting konsumo ng enerhiya sa panahon ng computation. Kapag pinagsama sa iba pang mga paraan ng pagtitipid ng enerhiya, ipinakita ng pamamaraang ito ang pagtitipid ng enerhiya na 2,500 at 1,700 beses na mas kaunti kumpara sa tradisyunal na mga pamamaraan.

Karagdagang Tampok

Isa pang kawili-wiling natuklasan ay na pinahintulutan ng CRAM ang sabay-sabay na random access ng datos at operands. Ang benepisyong ito ay lubos na nagpapabuti sa parallel computational capabilities, na maaaring magdulot ng mas ligtas at matatag na mga protocol sa hinaharap.

Mga Benepisyo na Dinadala ng CRAM sa Merkado

Ang pagsusuri sa mga benepisyo na dinadala ng CRAM ay makakatulong sa iyo na mas maunawaan kung bakit ito ay isang game-changing breakthrough na maaaring magkaroon ng agarang epekto sa pang-araw-araw na gawain ng karaniwang tao sa lalong madaling panahon. Pinapayagan ng CRAM ang mga developer at manufacturer na lumikha ng hardware na perpektong naka-configure para sa pangunahing gawain nito, na nagbabawas ng pangangailangan sa enerhiya at nagpapabuti ng pagganap.

AI – Pokus

Ang Artificial Intelligence ay nagbabago na nang malaki. Ang mga sistemang ito ay mataas ang demand ngunit nangangailangan ng tiyak na hardware at software upang gumana nang tama. Nag-aalok ang CRAM sa mga manufacturer ng kakayahang lumikha ng hardware mula pa sa unang araw na dinisenyo upang suportahan ang data-intensive, memory-centric, o power-sensitive na mga aplikasyon.

Sa hinaharap, ang CRAM ay magpapagana sa mga advanced na AI algorithm tulad ng bioinformatics, signal processing, neural networks, edge computing, at ang pinaka-advanced na military hardware. Ang CRAM array ay magpapahintulot sa mga developer na lumikha ng mas mahusay na machine-learning applications na flexible sapat upang matugunan ang pangangailangan ng komunidad.

Gumagamit ng Napatunayan na Estruktura

Isa pang malaking benepisyo na ginagawang matalinong pagpipilian ang CRAM ay ang paggamit ng napatunayan na mga hardware system. Kapansin-pansin, gumagamit ang CRAM ng karaniwan at mature na teknolohiya na nagdaragdag ng tiwala ng consumer. Tinitiyak din nito na ang mga isyu sa hardware ay minimal na alalahanin para sa mga gumagamit.

Flexible

Nagbibigay ang CRAM ng tunay na flexibility sa mga developer. Maaaring mag-compute ng datos ang mga programmer kahit saan sa loob ng memory array gamit ang iba’t ibang popular na logic operations. Partikular, sinusuportahan ng CRAM ang AND, OR, NAND, NOR, at MAJ, na nagdaragdag sa kanyang versatility.

Mas Mabilis

Ang bilis ay isa pang benepisyo na hindi maaaring balewalain. Kailangan ng oras para sa paglipat ng datos sa pagitan ng lohika at lokasyon ng memory storage. Bagaman ang oras na ito ay maaaring isang bahagi lamang ng segundo, maaari itong mag-ipon at magdulot ng mababang UX. Inaalis ng CRAM ang pangangailangan para sa mabagal at energy-intensive na paglipat ng datos sa pamamagitan ng paggawa ng parehong memorya na responsable para sa mga gawaing ito.

Parallelism

Ang parallelism ay ang kakayahang patakbuhin ang parehong code nang sabay-sabay sa parehong oras. Ito ay mahalagang bahagi ng maraming manufacturing, safety, at industrial operations. Dahil sa estruktura ng CRAM, maaari nitong patakbuhin ang parehong lohika nang parallel sa parehong memory array nang sabay.

Gastos sa Paggawa

Ang CRAM ay magpapababa rin ng gastos sa paggawa para sa mga high-end na device sa pamamagitan ng pagbawas ng dami ng mga piyesa na kailangan upang makabuo ng produkto. Ginagamit ng CRAM ang parehong memory para sa lohika at datos, na nangangahulugang maaaring lumikha ang mga manufacturer ng mga chip na may mas kaunting bahagi. Ang estrukturang ito ay nagpapababa ng gastos at nagpapabuti ng reliability at performance.

Mga Mananaliksik

Ang pananaliksik na ito ay pinamunuan ni Tema mula sa University of Minnesota. Kabilang sa mga pangunahing mananaliksik sina Jian-Ping Wang, McKnight Professor, at Robert F. Hartmann. Dagdag pa, sina Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert at Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury, at Salonik Resch ay gumanap ng mahalagang papel sa pag-aaral. Isang koponan mula sa Arizona University din ang tumulong, kabilang sina Pravin Khanal, Ali Habiboglu, at Professor Weigang Wang.

Ang pananaliksik ay naging posible sa pamamagitan ng mga grant mula sa U.S. Defense Advanced Research Projects Agency (DARPA), National Institute of Standards and Technology (NIST), National Science Foundation (NSF), at Cisco Inc. Ang proyekto ay nagsagawa rin ng mga pagsubok at pag-aaral sa Minnesota Nano Center at Minnesota Supercomputing Institute sa University of Minnesota.

Dalawang Kumpanya na Maaaring Makikinabang mula sa Nabawasang Pangangailangan sa Enerhiya ng AI

Maraming mga manufacturer ang maaaring makakuha ng karagdagang kita o mapabuti ang kanilang linya ng produkto sa simpleng pag-integrate ng mga opsyon ng CRAM. Ang mga kumpanyang ito ay may matibay na posisyon sa merkado at may kakayahang i-integrate ang bagong teknolohiya sa paraang lubos na magpapabuti sa kanilang alok.

Microsoft

MSFT Tsart ng Presyo

Ang Microsoft (MSFT ) ay isang pangunahing manlalaro sa mga pamilihan ng AI at computing. Ang kumpanya ay nananatiling pioneer sa sektor at naging malaking kontribyutor sa teknolohiya sa loob ng higit isang dekada. Ngayon, ang Microsoft ay may malaking bahagi sa sektor ng AI at naglalayong manatiling isang mapagkumpitensyang kalahok sa hinaharap.

Ang mga Microsoft AI service ay may malaking kalamangan laban sa mga kakumpitensya nito dahil ito ay nananatiling pangunahing operating system na ginagamit sa buong mundo. Dahil dito, ang mga Microsoft AI system ay may napakalaking audience ng mga gumagamit at datos na madaling ma-access. Ang datos na ito ay nakatulong sa Microsoft na lumikha ng makapangyarihang bagong AI algorithm na balang araw ay magiging core ng pinakabagong Windows operating systems.

Arm Holdings

ARM Tsart ng Presyo

Ang Arm Holdings ay pumasok sa merkado noong 1990. Itinatag ito nina Sophie Wilson at Steve Furber. Orihinal, ang kumpanya ay tinawag na Advanced RISC Machines (ARM) Ltd. bago nag-rebrand bilang Arm Holdings noong 1998. Sa unang bahagi ng 2000s, nakamit ng Arm Holdings ang reputasyon bilang isang de-kalidad na manufacturer na nag-aalok ng mga GPU at iba pang produkto sa merkado.

Sa kasalukuyan, ito ay nananatiling nangungunang IP provider at semiconductor manufacturer. Binili ito noong 2016 ng Softbank sa halagang $32B at nakaranas ng malaking paglago mula noon. Maaaring lubos na mabawasan ng manufacturer ang kanilang environmental footprint habang pinapabuti ang pagganap at kita sa pamamagitan ng pag-integrate ng CRAM sa kanilang kasalukuyang alok.

Ang Hinaharap ng AI ay Nakasalalay sa mga Pangangailangan nito sa Enerhiya

Ang pangunahing salik na humahadlang sa pag-aampon ng AI ay ang mga pangangailangan nito sa enerhiya. Ang mga pangangailangang ito ay humihiling sa mga tao na mag-isip nang labas sa kahon upang lumikha ng mga solusyon sa mga bottleneck na naglilimita sa pagganap. Ang pinakabagong pag-aaral na ito ay nagbubukas ng pinto para sa mas maliwanag na hinaharap kung saan ang mga AI service ay magkakaroon ng access sa low-power solutions na magpapalakas sa buong komunidad.

Alamin ang iba pang mga cool na proyekto sa artificial intelligence ngayon.