AI kohtaa tehokkuuden: Uusi siru pienentää LLM:n energiankulutusta 50%

Käynnissä oleva tekoälyn (AI) boomi johtaa datakeskusten räjähdysmäiseen kasvuun, mikä aiheuttaa valtavan energian kysynnän palvelimien pyörittämiseen ja jäähdyttämiseen.

Vaikka maailmassa on yli 8 000 datakeskusta, joista suurin osa on Yhdysvalloissa, tämä määrä kasvaa merkittävästi tulevina vuosina.

Boston Consulting Groupin arvion mukaan datakeskusten kysyntä kasvaa 15 %–20 % vuosittain vuoteen 2030 asti. Tällä hetkellä yritys odottaa niiden muodostavan 16 % Yhdysvaltojen kokonaisenergiankulutuksesta, kun taas ennen OpenAI:n ChatGPT:n julkaisua vuonna 2022 se oli vain 2,5 %.

Samaan aikaan Kansainvälisen energiajärjestön (IEA) tänä vuonna julkaisema erityinen energia- ja AI-raportti ennustaa, että maailmanlaajuinen sähkön kysyntä datakeskuksista kaksinkertaistuu viimeistään tämän vuosikymmenen loppuun, saavuttaen noin 945 TWh. Tämä on lähes yhtä paljon kuin Japani kuluttaa tänä päivänä.

Pariisin pääkonttorissa toimiva itsenäinen hallitusten välinen organisaatio raportoi, että AI on suurin tekijä tämän nousun takana, ja AI-optimoitujen datakeskusten sähkönkulutuksen odotetaan nelinkertaistuvan vuoteen 2030 mennessä.

Yhdysvalloissa datakeskusten energiankulutus on jo menossa kattamaan noin puolet sähkön kysynnän kasvusta vuosien 2023–2030 välillä. AI:n käytön ohjaamana Yhdysvaltain talous, raportin mukaan, kuluttaa silloin enemmän sähköä datan käsittelyyn kuin kaikkien energiaintensiivisten tuotteiden valmistukseen yhteensä.

Tämä tyydyttämätön energiankulutuksen nälkä aiheuttaa valtavan ongelman AI:n kehitykselle ja omaksumiselle. Hyvä puoli on kuitenkin se, että yhä useammat tutkijat ja yritykset pyrkivät vähentämään AI:n energiankulutusta ja tekemään siitä energiatehokkaampaa.

Mielenkiintoista näissä pyrkimyksissä on, että monet niistä hyödyntävät AI:ta omien energiakysymystensä ratkaisemiseen.

Juuri tässä kuussa tutkijaryhmä esitteli uuden sirun, joka käyttää AI:ta pienentääkseen suurten kielimallien (LLM) energiankulutusta 50 %, mikä on merkittävä edistysaskel LLM:ien kustannustehokkuuden ja kestävyyden parantamisessa.

Uusi siru hyödyntää AI:ta LLM:n energiankulutuksen vähentämiseksi

Oregon State Universityn tekniikan korkeakoulun tutkijat kehittivät uuden energiatehokkaan AI-sirun ratkaistakseen LLM AI -sovellusten, kuten OpenAI:n GPT-4:n ja Googlen Geminin, valtavan sähkönkulutuksen ongelman.

Koneoppimisen (ML) mallityyppi, suuri kielimalli (LLM), on esikoulutettu valtavilla tietomäärillä suorittaakseen luonnollisen kielen käsittelyn (NLP) tehtäviä, kuten tekstin generointia, tiivistämistä, yksinkertaistamista, tekstin päättelyä, käännöksiä ja muuta.

Tämän päivän suosituimpia ja laajimmin käytettyjä chatbotteja ovat OpenAI:n GPT‑4o, o3 ja o1, Googlen Gemini ja Gemma, Metan Llama, DeepSeekin R1 ja V3, Anthropicin Claude, Amazonin Nova, Microsoftin Phi sekä xAI:n Grok.

Viime vuosina LLM:t ovat mullistaneet AI‑kentän mahdollistamalla koneiden ymmärtää ja tuottaa ihmisen kaltaista tekstiä tarkemmin. Kuitenkin LLM:ien kehitys on johtanut niiden koon eksponentiaaliseen kasvuun.

LLM:n koko, joka mitataan parametrien määrällä, on sen energiankulutuksen tärkein tekijä. Tämä tarkoittaa, että mitä suurempi malli, sitä enemmän laskentatehoa se tarvitsee koulutukseen ja inferenssiin.

Esimerkiksi ChatGPT‑1:ssä oli hieman alle 120 miljoonaa parametria, jotka nousivat 175 miljardiin GPT‑3:n myötä ja sitten noin 1,8 triljooniin GPT‑4:n yhteydessä.

Tämä valtava LLM:ien koon ja kyvykkyyden kasvu merkitsee myös niiden energiankulutuksen ennennäkemätöntä kasvua. Mallin koon lisäksi tekijöitä, kuten käytetyn laitteiston tyyppi, koulutuksen kesto, infrastruktuuri (esim. datakeskukset), datankäsittely, mallin optimointi ja algoritmien tehokkuus, vaikuttavat LLM:ien energiankulutukseen.

Tässä on OSU:n tutkijoiden uusi siru. Oregon State Universityn sähkötekniikan apulaisprofessorin Tejasvi Anandin mukaan, joka myös johtaa Mixed Signal Circuits and Systems -labaa yliopistossa:

“Ongelma on, että yhden bitin siirtämiseen tarvittavaa energiaa ei vähennetä samalla tahdilla kuin datanopeuden kysyntä kasvaa. Tämä on se, mikä saa datakeskuksia kuluttamaan niin paljon virtaa.”

Tämän ongelman ratkaisemiseksi tiimi suunnitteli ja kehitti uuden sirun, joka kuluttaa vain puolet perinteisten suunnitelmien energiasta.

Anand ja tohtorintutkija Ramin Javad esittelivät tätä uutta teknologiaa IEEE Custom Integrated Circuits (CIC) -konferenssissa, joka pidettiin viime kuussa Bostonissa. Konferenssi, jossa on foorumeita, paneelikeskusteluja, näyttelyitä ja suullisia esityksiä, on omistettu IC:n kehittämiselle, joka toimii modernien elektronisten järjestelmien rakennuspalikkana tarjoamalla toiminnallisuutta ja laskentatehoa kompaktissa ja tehokkaassa paketissa.

Uusin teknologia rakennettiin Center for Ubiquitous Connectivity (CUbiC):n, Semiconductor Research Corporation (SRC):n ja Defense Advanced Research Projects Agency (DARPA):n tuella. Se toi Javadille myös Parhaan opiskelijapaperin palkinnon konferenssissa.

Uutta sirua varten tutkijat hyödynsivät AI-periaatteita, jotka Javadin mukaan vähentävät signaalinkäsittelyn sähkönkulutusta.

Kuten hän selitti, LLM:t lähettävät ja vastaanottavat paljon dataa langallisilla yhteyksillä, jotka ovat kuparipohjaisia viestintälinkkejä datakeskuksissa. Tämä koko prosessi vaatii merkittävää energiaa, joten yksi mahdollinen “ratkaisu on kehittää energiatehokkaampia langallisia viestintäsiruja.”

Javadi lisäsi, että kun data lähetetään suurilla nopeuksilla, se vioittuu vastaanottimen lopussa, ja sen vuoksi se täytyy puhdistaa. Tätä varten suurin osa nykyisistä langallisista viestintäjärjestelmistä käyttää tasoitinta, joka kuluttaa paljon energiaa.

“Käytämme näitä AI-periaatteita sirulla datan palauttamiseksi älykkäämmällä ja tehokkaammalla tavalla kouluttamalla sirun sisäistä luokittelijaa tunnistamaan ja korjaamaan virheet.”

– Javadi

Vaikka kyseessä on merkittävä kehitys, tämä on vain sirun alkuversio. Sen seuraava versio on parhaillaan kehitteillä energiatehokkuuden edelleen parantamiseksi.

Kaiken kaikkiaan tämä käynnissä oleva tutkimus osoittaa suurta potentiaalia, jolla voi olla laaja-alaisia vaikutuksia AI‑infrastruktuurin ja datakeskusten toiminnan tulevaisuudessa. Tietenkin tämä edellyttää teknologian onnistunutta käyttöönottoa mittakaavassa, mikä ei ole koskaan helppoa.

Klikkaa tästä oppiaksesi, miten AI mullistaa mikrosirujen suunnittelun.

AI:n energiankulutuksen hillitseminen läpimurtojen avulla eri tasoilla

Tämä uusin sirukehitys on vain yksi monista tutkimusprojekteista, jotka pyrkivät ratkaisemaan AI:n energiankulutusongelman. Tarkastellaanpa lyhyesti innovatiivisia tapoja, joilla tutkijat ovat siihen tarttuneet.

Valon hyödyntäminen AI:n energiatehokkuudessa 

Tänä vuonna USST:n tutkijat kehittivät¹ mikroskooppisen AI‑sirun, joka on pienempi kuin pölyhiukkanen tai suolanjyvä, ja käyttää valoa kuitu‑optisten kaapelien datan käsittelyyn. Tämä lupaa nopeampia laskelmia pienemmällä energiankulutuksella.

Sirun avulla valoa manipuloidaan suorittamaan laskelmia välittömästi sen sijaan, että valosignaaleja tulkittaisiin perinteisillä tietokoneilla. Tätä varten se käyttää “kaikkivaloista diffraktiivista syvää neuroverkkoa”, tekniikkaa, joka hyödyntää kuvioituja, 3‑D‑tulostettuja komponenttikerroksia pinottuna yhteen. Vaikka se on mullistavaa, haasteita kuten tehtäväkohtainen suunnittelu, herkkyys epätäydellisyyksille ja suurten tuotantomäärien vaikeus on voitettava, jotta se saavuttaisi “ennennäkemättömiä toimintoja” endoskooppikuvauksessa, kvanttilaskennassa ja datakeskuksissa.

Muutama kuukausi ennen tätä MIT:n tutkijat käyttivät myös valoa suorittaakseen neuroverkon keskeiset toiminnot sirulla, mahdollistaen äärinopeita AI‑laskelmia (puoli nanosekuntia) 92 % tarkkuudella ja valtavalla energiatehokkuudella.

“Tämä työ osoittaa, että laskenta – sen ydin, syötteiden ja tulosten kartoitus – voidaan koota uusille lineaarisen ja epälineaarisen fysiikan arkkitehtuureille, jotka mahdollistavat perusteellisesti erilaisen laskennan skaalautumislain verrattuna vaadittuun ponnistukseen.”

– Senior author Dirk Englund

Tiedemiehet kehittivät fotonisen sirun², joka koostuu toisiinsa kytketyistä moduuleista muodostaen optisen neuroverkon. Merkittävää on, että kaupallisten foundry-prosessien käyttö sen valmistuksessa mahdollistaa sen skaalautuvuuden ja integroinnin elektroniikkaan. Lisäksi tiedemiehet ratkaisevat optiikan epälineaarisuuden haasteen suunnittelemalla epälineaarisia optisia funktioyksiköitä (NOFUs), jotka yhdistävät elektroniikan ja optiikan.

Klikkaa tästä oppiaksesi uudesta aivoihin perustuvasta AI:sta, joka oppii reaaliajassa käyttäen erittäin vähän virtaa.

Ohjelmistotyökalu AI‑koulutukseen ja jäähdytysjärjestelmä datakeskuksiin

University of Michiganin tutkijat sen sijaan, kohdistivat energiankulutuksen hukkaan luodessaan AI‑koulutuksen aikana, tarkemmin sanottuna kun se jaetaan epätasaisesti GPU:iden kesken, mikä on välttämätöntä valtavien tietoaineistojen käsittelyyn.

He kehittivät siis ohjelmistotyökalun nimeltä Perseus, joka tunnistaa alitehtävät, jotka vievät eniten aikaa, ja hidastaa sen ‘kriittisen polun’ ulkopuolella olevien prosessorien nopeutta, jotta kaikki voivat suorittaa tehtävänsä samanaikaisesti, poistaen turhan energiankulutuksen.

Tämä avoimen lähdekoodin työkalu on saatavilla osana Zeus‑työkalua, joka mittaa ja optimoi AI:n energiankulutusta.

Samaan aikaan Missourin yliopiston tutkijat kääntyivät suunnittelemaan seuraavan sukupolven jäähdytysjärjestelmää auttaakseen datakeskuksia tulemaan energiatehokkaammiksi. He myös valmistavat jäähdytysjärjestelmää, jonka liittäminen ja irrottaminen palvelinrakenteissa on helppoa.

“Jäähdytys ja sirujen valmistus kulkevat käsi kädessä. Ilman asianmukaista jäähdytystä komponentit ylikuumenivat ja epäonnistuvat. Energiatehokkaat datakeskukset ovat avain AI‑laskennan tulevaisuudessa.”

– Chanwoo Park, Mizzou College of Engineeringin kone‑ ja avaruustekniikan professori

DOE:n COOLERCHIPS‑aloitteen 1,5 miljoonan dollarin rahoituksen tuella tiimi kehitti kaksivaiheisen jäähdytysjärjestelmän, joka poistaa lämmön palvelinsiruilta faasimuutoksen avulla. Se voi toimia passiivisesti ilman energian käyttöä, kun tarvitaan vähemmän jäähdytystä, ja jopa aktiivisessa tilassa järjestelmä käyttää vain hyvin vähän energiaa.

CRAM‑laitteisto voisi vähentää AI:n energiankulutusta 1000‑kertaisesti

Viime kesänä Minnesota Twin Cities -yliopiston insinöörit kehittivät kehittyneen laitteiston³, joka voisi vähentää AI:n energiankulutusta noin 1 000‑kertaisesti.

Tätä uutta mallia kutsutaan laskennalliseksi satunnaiskäyttömuistiksi (CRAM), ja siinä data ei koskaan poistu muistista; sen sijaan se käsitellään täysin muistitaulukon sisällä, mikä poistaa energiatehokkaiden ja hitaiden tiedonsiirtojen tarpeen.

Kahden vuosikymmenen kehitystyön jälkeen tämä tutkimus on osa tiimin pyrkimystä jatkaa vanhemman kirjoittajan Jian‑Ping Wangin patentoitua tutkimusta magneettisista tunneliliitoksista (MTJ) laitteissa. Näitä nanorakenteisia laitteita käytetään parantamaan antureita, kiintolevyjä ja muita mikrosähköjärjestelmiä, kuten magneettista satunnaiskäyttömuistia (MRAM).

“Erittäin energiatehokkaana digitaalisen muistissa tapahtuvan laskennan alustoana CRAM on erittäin joustava, sillä laskenta voidaan suorittaa missä tahansa muistitaulukon paikassa,” totesi yhteiskirjoittaja Ulya Karpuzcu, apulaisprofessori sähkö‑ ja tietokonetekniikan laitoksessa. Lisäksi se voidaan konfiguroida parhaiten sopimaan eri algoritmien suorituskykyvaatimuksiin.

Aivoihin perustuva AI: energian kulutuksen vähentäminen jäljittelemällä ihmisen tehokkuutta

Kuten näimme, tutkijat tarkastelevat AI:n eri osa‑alueita sen energiakysymysten ratkaisemiseksi. Mielenkiintoista on, että he myös kääntyvät ihmisen aivojen puoleen inspiraatiota varten. Tämä on loogista, sillä AI on koneiden simulaatio ihmisen älyprosesseista, vaikka se ei ole lähelläkään ihmisen ajattelua ja päättelyä sen kyvyn yleistää erilaisissa tilanteissa ollessa “merkittävästi heikompi kuin ihmisen kognitio.”

Aivoihin perustuva energian vähentämistutkimus sisältää yliopiston Sydney AI -keskuksen apulaisprofessorin Chang Xun työn, joka totesi, että LLM:t, jotka käyttävät resursseja täysimääräisesti, jopa yksinkertaisissa tehtävissä, eivät ole oikea tapa toimia. Hän selitti:

“Kun ajatellaan tervettä ihmisaivoa – se ei aktivoi kaikkia neuroneja tai käytä koko aivovoimaansa kerralla. Se toimii uskomattoman energiatehokkaasti, vain 20 watin teholla, vaikka siinä on noin 100 miljardia neuronia, joita se valikoivasti käyttää aivojen eri puoliskojen kautta eri tehtävien tai ajattelun suorittamiseen.”

Tämän vuoksi he kehittävät algoritmeja, jotka ohittavat tarpeettomat redundanssit ja eivät automaattisesti siirry täyteen tehoon.

Muutoin tutkimus otti inspiraatiota aivojen neuromodulaatiosta ja loi algoritmin nimeltä ‘varastointijärjestelmä’ energian vähentämiseksi 37 % ilman tarkkuuden heikkenemistä, aivojen solun itsekorjaustoiminto, jota kutsutaan astrocyteiksi laitteistokomponenteissa, ja saivat neuromorfisen (aivoihin perustuvan) laskentamuodon (memristorit) toimimaan yhdessä useissa neuroverkkojen alaryhmissä.

Sijoittaminen tekoälyyn

Globaali puolijohdeyritys, AMD (AMD ) on tunnettu korkean suorituskyvyn laskennasta, grafiikka‑ ja visualisointiteknologioista. Vaikka se kilpailee suoraan AI‑suosikin NVIDIA (NVDA ) kanssa, se on nopeasti vakiinnuttamassa asemaansa datakeskus‑ ja AI‑kiihdytysmarkkinoilla. Sen MI300‑sarja on suunnattu erityisesti generatiivisen AI:n työkuormiin ja HPC‑sovelluksiin.

Sen vahva läsnäolo datakeskusten CPU‑alueella, vahva T&K‑keskittyminen, liikevaihdon kasvu, asiakaskunta ja yritysostot tekevät AMD:stä vahvan toimijan alalla.

Advanced Micro Devices (AMD )

Vuonna 2022 AMD teki ennätyksellisen siruteollisuuden sopimuksen, jonka arvo oli 50 miljardia dollaria Xilinxin oston myötä, ja siitä tuli alan korkean suorituskyvyn ja mukautuvan laskennan johtaja. Viime aikoina se on myös hankkinut ZT Systemsin vastatakseen 500 miljardia dollaria arviolta vuonna 2028 syntyvään datakeskusten AI‑kiihdytysmarkkinaan.

AMD:n markkinasuorituskyky on myös elpymässä tänä vuonna tullimaksujen aiheuttaman myllerryksen jälkeen. Kirjoitushetkellä AMD:n osakkeet käyvät 120 dollaria, 6,9 % alhaisemmat vuoden alusta, mutta noin 47 % alle huippuarvostaan maaliskuussa 2024. Tämän myötä sen markkina‑arvo on 182,34 miljardia dollaria, EPS (TTM) 1,36 ja P/E (TTM) 82,44.

Yrityksen taloustietoja tarkasteltaessa AMD raportoi 36 %:n vuotuisen liikevaihdon kasvun 7,4 miljardiin dollariin vuoden 2025 Q1‑kaudella, jonka toimitusjohtaja Dr. Lisa Su kutsui “erinomaiseen aloitukseen” vuodelle, “huolimatta dynaamisesta makro‑ ja sääntely‑ympäristöstä.” Tämä kasvu johtui “datakeskusten ja AI:n kasvavasta vauhdista,” hän lisäsi.

Tänä aikana AMD:n liiketulos oli 806 miljoonaa dollaria, nettotulos 709 miljoonaa dollaria ja laimennettu osakekohtainen tulos 0,44 dollaria. Vuodelle 2025 Q2 se ennustaa noin 7,4 miljardia dollaria liikevaihtoa.

Yrityksen keskeisiä kehityksiä ovat strategisten kumppanuuksien laajentaminen Meta Platforms, Inc. (META ) (Llama), Alphabet Inc. (GOOG ) (GOOGL ) (Gemma), Oracle Corporation (ORCL ), Core42, Dell Technologies (DELL ) ja muita. AMD yhdessä Nokian, Cisco Systems, Inc. (CSCO ) ja Jion kanssa, ilmoitti myös uudesta Open Telecom AI -alustasta, joka tarjoaa AI‑pohjaisia ratkaisuja tehokkuuden, turvallisuuden ja kyvykkyyksien parantamiseksi.

Tällä viikolla AMD ja Nvidia tekivät yhteistyötä Humainin, Saudi-Arabian Public Investment Fundin AI‑keskittyneen tytäryhtiön, kanssa toimittaakseen puolijohteita laajamittaiseen datakeskusprojektiin, jonka odotetaan saavuttavan 500 MW:n kapasiteetin.

Klikkaa tästä saadaksesi luettelon johtavista ei‑piisirakenteisista tietojenkäsittelyyrityksistä.

Uusimmat Advanced Micro Devices (AMD) -trendit ja kehitykset

Yhteenveto

Viime vuosina AI‑hullutus on kokenut räjähdysmäisen kasvun, ja siihen on hyvät syyt. Tämä teknologia, loppujen lopuksi, omaa suuren potentiaalin mullistaa laaja kirjo toimialoja, kuten terveydenhuolto, valmistus, materiaalitiede, rahoitus, viihde, koulutus, vähittäiskauppa ja kyberturvallisuus.

Kuitenkin teknologinen kehitys, kasvava käyttöönotto ja näiden LLM:ien laajentuminen ovat johtaneet merkittävään energiakysyntään, mikä lisää kasvihuonekaasupäästöjä ja ilmastonmuutosta, nostaa taloudellisia kustannuksia ja vaikuttaa teknologian kestävyyteen.

Tämä asettaa AI:lle suuren haasteen. Jos haluamme toteuttaa sen todellisen potentiaalin kustannusten vähentämisen, tuottavuuden kasvun ja päätöksenteon parantamisen mittakaavassa, mallien on saavutettava kustannustehokkuus ja kestävyys.

Hyvä puoli on kuitenkin se, että tutkijat ympäri maailmaa työskentelevät jo ahkerasti AI:n energiatehokkuuden parantamiseksi, kuten Oregon State -yliopiston AI‑voimainen siru osoittaa, mikä viittaa vahvaan mahdollisuuteen yhdistää innovaatio ja kestävyys.

Tietenkin ehdotettujen teknologioiden on voitettava suurin este – niiden skaalautuvuus – saavuttaakseen todellisen vaikutuksen. Silti yksi asia on selvä: vihreä AI‑tulevaisuus on mahdollinen, ja se on tulossa!

Klikkaa tästä oppiaksesi kaiken tekoälyyn sijoittamisesta.

Viitteet:

1. Yu, H., Huang, Z., Lamon, S., Wu, J., Zhao, Z., Lin, D., Zhao, H., Zhang, J., Lu, C., Liu, H., Zhang, X., & Zhang, C. (2025). Kaikkivaloisen kuvan kuljetus monimoodisen kuidun kautta käyttäen miniaturoitua diffraktiivista neuroverkkoa etäpinnalla. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, M. J., Lukin, M. D., & Lončar, M. (2024). Yhden sirun fotoninen syvä neuroverkko etukäteen ainoastaan tapahtuvalla koulutuksella. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, B. R., Bloom, R. P., Roy, A., Vaddi, K., Shang, L., & Manipatruni, S. (2024). Kokeellinen demonstraatio magneettisesta tunneliliitoksesta perustuvasta laskennallisesta satunnaiskäyttömuistista. npj Unconventional Computing, 1, 3. https://doi.org/10.1038/s44335-024-00003-3