AI møter effektivitet: En ny chip reduserer strømforbruket til LLM med 50%

Den pågående boomen innen kunstig intelligens (AI) fører til en økning i datasentre, noe som skaper et enormt behov for strøm til å drive og kjøle serverne i dem.

Selv om det finnes over 8 000 datasentre verden over, hvorav de fleste er i USA, vil dette tallet øke betydelig i de kommende årene.

Ifølge Boston Consulting Groups estimat vil etterspørselen etter datasentre øke med 15 % til 20 % hvert år frem til 2030. På dette tidspunktet forventer selskapet at de vil utgjøre 16 % av total strømforbruk i USA, opp fra kun 2,5 % før OpenAI’s ChatGPT‑lansering i 2022.

Samtidig forventer den spesielle energi‑ og AI‑rapporten fra International Energy Agency (IEA) som ble publisert i år, at etterspørselen etter elektrisitet fra datasentre globalt vil minst dobles innen slutten av dette tiåret til omtrent 945 TWh. Dette er nesten likt det Japan forbruker i dag.

Den i Paris baserte autonome mellomstatlige organisasjonen rapporterer at AI er den største drivkraften bak denne økningen, med forventet fire‑dobling av strømforbruket fra AI‑optimaliserte datasentre innen 2030.

I USA spesielt er strømforbruket fra datasentre allerede på vei til å stå for omtrent halvparten av veksten i elektrisitetsbehovet mellom nå og 2030. Drevet av AI‑bruk vil den amerikanske økonomien, ifølge rapporten, forbruke mer strøm til databehandling på det tidspunktet enn til å produsere alle energikrevende varer samlet.

Dette umettelige energihungeren utgjør et enormt problem for AI‑utvikling og -adopsjon. Heldigvis er det en lysning i horisonten: et økende antall forskere og selskaper arbeider med å redusere AI‑s strømforbruk og gjøre den mer energieffektiv.

Det interessante med disse innsatsene er at mange av dem bruker AI for å løse sine egne energiproblemer.

Bare denne måneden demonstrerte et forskerteam en ny chip som bruker AI for å redusere energifotavtrykket til store språkmodeller (LLM‑er) med 50 %, noe som markerer en viktig utvikling for å gjøre LLM‑er kostnadseffektive og mer bærekraftige å kjøre.

Ny chip utnytter AI for å redusere LLMs energiforbruk

Forskere fra Oregon State University College of Engineering utviklet den nye effektive AI‑chipen for å løse det massive strømforbruksproblemet i LLM‑AI‑applikasjoner som OpenAI’s GPT‑4 og Google’s Gemini.

En type maskinlærings‑ (ML) modell, en stor språkmodell (LLM), er forhåndstrent på enorme mengder data for å utføre oppgaver innen naturlig språkbehandling (NLP) som tekstgenerering, oppsummering, forenkling, tekstresonering, språkoversettelse og mer.

De mest populære og mest brukte chatbotene i dag inkluderer OpenAI’s GPT‑4o, o3 og o1, Gemini og Gemma fra Google, Llama fra Meta, R1 og V3 fra DeepSeek, Claude fra Anthropic, Nova fra Amazon (AMZN ), Phi fra Microsoft (MSFT ), og Grok fra xAI.

I løpet av de siste årene har LLM‑er fullstendig transformert AI‑feltet ved å gjøre det mulig for maskiner å forstå og generere menneskelignende tekst med høyere nøyaktighet. Denne utviklingen av LLM‑er har imidlertid ført til en eksponentiell økning i deres størrelse.  

Størrelsen på en LLM, målt i antall parametere, er den viktigste drivkraften bak energiforbruket. Det betyr at jo større modellen er, desto mer beregningskraft kreves for trening og inferens. 

For eksempel hadde ChatGPT‑1 litt under 120 millioner parametere, som økte til 175 milliarder med GPT‑3, og deretter til omtrent 1,8 billioner med GPT‑4.

Denne enorme økningen i LLM‑ers størrelse og kapasitet betyr at energiforbruket også vokser i en enestående skala. I tillegg til modellens størrelse påvirker faktorer som hvilken maskinvare som brukes til å trene LLM‑ene, varigheten av treningsprosessen, infrastruktur, dvs. datasentre, databehandling, modelloptimalisering og algoritmeeffektivitet energiforbruket til LLM‑er.

Dermed den nye chipen fra OSU‑forskerne. Ifølge Tejasvi Anand, førsteamanuensis i elektroteknikk ved OSU som også leder Mixed Signal Circuits and Systems Lab ved universitetet:

«Problemet er at energien som kreves for å overføre en enkelt bit ikke reduseres i samme takt som etterspørselen etter datahastighet øker. Det er dette som får datasentre til å bruke så mye strøm.»

For å løse dette problemet designet og utviklet teamet en ny chip som kun bruker halvparten så mye energi som konvensjonelle design.

Anand og doktorgradsstudenten Ramin Javad presenterte denne nye teknologien på IEEE Custom Integrated Circuits (CIC) Conference, som ble holdt i Boston forrige måned. Konferansen, som arrangerer fora, paneler, utstillinger og muntlige presentasjoner, er viet utviklingen av IC, som fungerer som byggesteinen i moderne elektroniske systemer ved å tilby funksjonalitet og prosesseringskraft i en kompakt og effektiv pakke.

Den nyeste teknologien ble bygget med støtte fra Center for Ubiquitous Connectivity (CUbiC), Semiconductor Research Corporation (SRC) og Defense Advanced Research Projects Agency (DARPA). Den ga også Javadi Best Student Paper Award på konferansen.

For den nye chipen utnyttet forskerne faktisk AI‑prinsipper som, ifølge Javadi, reduserer strømforbruket for signalbehandling.

Som han forklarte, sender og mottar LLM‑er store mengder data over ledningsbaserte tilkoblinger, som er kobberbaserte kommunikasjonslenker i datasentre. Hele prosessen krever betydelig energi, så en potensiell «løsning er å utvikle mer effektive ledningsbaserte kommunikasjons‑chips.»

Javadi bemerket videre at når data sendes med høy hastighet, blir den faktisk korrupt ved mottakerens ende, og som følge må den renses. For dette formålet bruker de fleste eksisterende ledningsbaserte kommunikasjonsystemer en equalizer, som forbruker mye strøm.

«Vi bruker disse AI‑prinsippene på chipen for å gjenopprette data på en smartere og mer effektiv måte ved å trene den innebygde klassifikatoren til å gjenkjenne og korrigere feil.»

– Javadi

Selv om dette er en stor utvikling, er det kun den første versjonen av chipen. Neste iterasjon er for tiden under utvikling for ytterligere å forbedre energieffektiviteten.

Alt i alt viser denne pågående forskningen stort potensial for å ha vidtrekkende implikasjoner for fremtiden til AI‑infrastruktur og datasenterdrift. Men selvfølgelig vil dette kreve at teknologien lykkes med implementering i stor skala, noe som aldri er en enkel oppgave.

Klikk her for å lære hvordan AI forandrer mikrochip‑ingeniørkunst.

Temme AI‑s energisult med gjennombrudd på tvers av lag

Denne siste chip‑utviklingen er bare ett av mange forskningsprosjekter som takler AI‑s energiforbruksproblem. La oss derfor ta en kort titt på de innovative metodene forskerne har brukt.

Bruke lys for AI‑energi­effektivitet 

Tidligere i år utviklet USST‑forskerne utviklet¹ en mikroskopisk AI‑chip, mindre enn et støvkorn eller et saltkorn, som bruker lys til å behandle data fra fiberoptiske kabler. Dette lover raskere beregninger med lavere energiforbruk.

Chipen manipulerer lys for å utføre beregninger umiddelbart i stedet for å tolke lyssignaler som tradisjonelle datamaskiner gjør. Til dette bruker den «all‑optisk diffraktivt dypt nevralt nettverk», en teknologi som utnytter mønstrede, 3D‑printede lag av komponenter stablet sammen. Selv om den er banebrytende, må utfordringer som oppgavespesifikt design, følsomhet for feil og vanskeligheter med masseproduksjon overvinnes for at den skal oppnå «enestående funksjonalitet» innen endoskopisk bildedannelse, kvantedatabehandling og datasentre.

Noen måneder før dette brukte MIT‑forskerne også lys til å utføre de viktigste operasjonene i et nevralt nettverk på en chip, noe som muliggjorde ultrarask AI‑beregning (på et halvt nanosekund) med 92 % nøyaktighet og enorm energi­effektivitet.

«Dette arbeidet viser at beregning – i sin essens, kartleggingen av innganger til utganger – kan kompileres på nye arkitekturer av lineær og ikke‑lineær fysikk som muliggjør et fundamentalt annet skaleringslov for beregning versus nødvendig innsats.»

– Seniorforfatter Dirk Englund

Forskerne utviklet den fotoniske chipen² som er laget av sammenkoblede moduler som danner et optisk nevralt nettverk. Merkverdig er at bruken av kommersielle foundry‑prosesser for produksjonen betyr at den kan skaleres og integreres i elektronikk. I tillegg overvant forskerne utfordringen med ikke‑linearitet i optikk ved å designe ikke‑lineære optiske funksjonsenheter (NOFUs) som kombinerer elektronikk og optikk.

Klikk her for å lære om den nye hjerne‑inspirerte AI‑en som lærer i sanntid med ultra‑lavt strømforbruk.

Et programvareverktøy for AI‑trening og et kjølesystem for datasentre

Forskerne ved University of Michigan, på sin side, rettet seg mot energispillet som oppstår under AI‑trening, nærmere bestemt når den fordeles mellom GPU‑er, en nødvendighet for å behandle enorme datasett, på en ujevn måte. 

Derfor utviklet de et programvareverktøy kalt Perseus som identifiserer deloppgaver som vil ta lengst tid å fullføre, og deretter reduserer hastigheten på prosessorer som ikke er på denne ‘kritiske banen’ for å gjøre det mulig for alle å fullføre sine oppgaver samtidig, og fjerner unødvendig strømforbruk.

Dette åpen‑kildekodesverktøyet er tilgjengelig som en del av Zeus, et verktøy for måling og optimalisering av AI‑energiforbruk.

Samtidig vendte forskere fra University of Missouri seg til utvikling av et neste generasjons kjølesystem for å hjelpe datasentre med å bli mer energieffektive. De produserer også et kjølesystem for enkel tilkobling og frakobling i serverrack.

«Kjøling og chipproduksjon går hånd i hånd. Uten tilstrekkelig kjøling overopphetes komponenter og svikter. Energieffektive datasentre vil være nøkkelen til fremtiden for AI‑databehandling.»

– Chanwoo Park, professor i maskin- og romfartsingeniørfag ved Mizzou College of Engineering

Med støtte fra $1,5 millioner i finansiering fra DOE‑s COOLERCHIPS‑initiativ utviklet teamet et to‑fasers kjølesystem som disipere varme fra server‑chips gjennom faseovergang. Det kan ikke bare kjøre passivt uten å bruke energi når mindre kjøling er nødvendig, men selv i aktiv modus bruker systemet svært lite.

CRAM‑maskinvare kan kutte AI‑energiforbruket med 1000‑ganger

Sist sommer utviklet ingeniører ved University of Minnesota Twin Cities en avansert maskinvareenhet³ som kunne redusere AI‑s energiforbruk med omtrent 1 000 ganger.

Denne nye modellen kalles computational random-access memory (CRAM), og her forlater data aldri minnet; i stedet behandles de fullstendig innenfor minnearrayet, noe som eliminerer behovet for energikrevende og trege dataoverføringer.

To tiår i utvikling er denne studien en del av teamets innsats for å bygge videre på seniorforfatter Jian‑Ping Wang sin patenterte forskning på Magnetic Tunnel Junctions (MTJ)-enheter. Disse nanostrukturerte enhetene brukes til å forbedre sensorer, harddisker og andre mikroelektroniske systemer som Magnetic Random Access Memory (MRAM).

«Som et ekstremt energieffektivt digitalt in‑memory‑databehandlingssubstrat er CRAM svært fleksibel ved at beregning kan utføres på hvilken som helst plass i minnearrayet», bemerket medforfatter Ulya Karpuzcu, førsteamanuensis i institutt for elektroteknikk og datateknikk. I tillegg kan den rekonfigureres for best å møte ytelsesbehovene til ulike algoritmer.

Hjerne‑inspirert AI: Redusere strømforbruk ved å etterligne menneskelig effektivitet

Som vi så, ser forskere på ulike aspekter av AI for å håndtere energiproblemene. Interessant nok vender de også blikket mot den menneskelige hjernen for inspirasjon. Dette gir mening, for AI er simuleringen av menneskelige intelligensprosesser av maskiner, selv om den ikke er i nærheten av menneskelig tenkning og resonnering på grunn av dens evne til å generalisere over variasjoner, som er «betydelig svakere enn menneskelig kognisjon».

Den hjerne‑inspirerte energireduksjonsforskningen inkluderer arbeidet til førsteamanuensis Chang Xu ved universitetets Sydney AI‑senter, som bemerket at LLM‑er som utnytter ressursene på full kapasitet, selv for enkle oppgaver, ikke er riktig. Han forklarte:

«Når du tenker på en sunn menneskelig hjerne – den fyrer ikke alle nevroner eller bruker all hjernekraft på én gang. Den opererer med utrolig energieffektivitet, kun 20 Watt til tross for å ha rundt 100 milliarder nevroner, som den selektivt bruker fra ulike hemisfærer av hjernen for å utføre ulike oppgaver eller tenkning.» 

Dermed utvikler de algoritmer som omgår overflødige beregninger som ikke er nødvendige og som ikke automatisk går i høy gir.

I andre tilfeller tok forskningen inspirasjon fra hjernens neuromodulasjon og skapte en algoritme kalt et ‘lagringssystem’ for å redusere energien med 37 % uten noen nøyaktighetsnedgang, den selvreparerende funksjonen av hjernecellen kalt astrocytter for maskinvareenheter, og fikk nevromorf (hjerne‑inspirert) databehandling (memristorer) til å arbeide sammen i flere undergrupper av nevrale nettverk.

Investere i kunstig intelligens

Et globalt halvlederfirma, AMD (AMD ) er kjent for sine høyytelses‑databehandlings‑, grafikk‑ og visualiseringsteknologier. Mens det er i direkte konkurranse med AI‑favoritten NVIDIA (NVDA ), tar det raskt terreng i datasenter‑ og AI‑akseleratormarkedene. MI300‑serien retter seg spesifikt mot generativ AI‑arbeidsbelastninger og HPC‑applikasjoner.

Den ledende tilstedeværelsen i datasenter‑CPU‑segmentet, sterkt FoU‑fokus, inntektsvekst, kundebase og oppkjøp gjør AMD til en sterk aktør i sektoren.

Advanced Micro Devices (AMD )

Tilbake i 2022 inngikk AMD en rekordstor chip‑industriavtale verdt $50 milliarder med oppkjøpet av Xilinx for å bli bransjens leder innen høyytelses‑ og adaptiv databehandling. Og nylig fullførte de oppkjøpet av ZT Systems for å takle AI‑akselerator‑muligheten i datasentre på $500 milliarder i 2028.

AMD‑s markedsytelse er også i ferd med å komme seg dette året etter å ha blitt rammet av tollturbulens. På tidspunktet for skrivingen handles AMD‑aksjer til $120, ned 6,9 % år‑til‑dato, men kun omtrent 47 % under toppnivået fra mars 2024. Med dette er markedsverdien $182,34 milliarder med en EPS (TTM) på 1,36 og en P/E (TTM) på 82,44.

Når det gjelder selskapets økonomi, rapporterte AMD en 36 % år‑over‑år økning i inntektene til $7,4 milliarder for Q1 2025, som administrerende direktør Dr. Lisa Su kalte «en fremragende start» på året, «til tross for det dynamiske makro‑ og regulatoriske miljøet». Denne veksten ble drevet av «utvidende datasenter‑ og AI‑momentum», la hun til.

I denne perioden var AMD‑s driftsinntekt $806 millioner, nettoinntekt $709 millioner, og utvannet resultat per aksje $0,44. For Q2 2025 projiserer de omtrent $7,4 milliarder i inntekter. 

Noen viktige utviklinger fra selskapet inkluderer utvidelse av strategiske partnerskap med Meta Platforms, Inc. (META ) (Llama), Alphabet Inc. (GOOG ) (GOOGL ) (Gemma), Oracle Corporation (ORCL ), Core42, Dell Technologies (DELL ), og andre. AMD, sammen med Nokia, Cisco Systems, Inc. (CSCO ), og Jio, kunngjorde også en ny Open Telecom AI‑plattform for å tilby AI‑drevne løsninger som forbedrer effektivitet, sikkerhet og kapasiteter.

Denne uken inngikk AMD og Nvidia et partnerskap med Humain, et AI‑fokusert datterselskap av Saudi-Arabias Public Investment Fund, for å levere halvledere til et storskala datasenterprosjekt som forventes å ha en kapasitet på 500 MW.

Klikk her for en liste over de beste ikke‑silisium‑databehandlingsselskapene.

Siste trender og utviklinger for Advanced Micro Devices (AMD)

Konklusjon

I løpet av de siste årene har AI‑maniak opplevd eksplosiv vekst, og med god grunn. Denne teknologien har tross alt stort potensial til å transformere et bredt spekter av industrier fra helsevesen, produksjon og materialvitenskap til finans, underholdning, utdanning, detaljhandel og cybersikkerhet.

Imidlertid har teknologisk fremgang, økende adopsjon og påfølgende utvidelse av disse LLM‑ene ført til betydelig energietterspørsel, som bidrar til klimagassutslipp (GHG) og klimaendringer, øker økonomiske kostnader og påvirker teknologiens bærekraft.

Dette utgjør en stor utfordring for AI. Hvis vi vil realisere det fulle potensialet i form av reduserte kostnader, økt produktivitet og forbedret beslutningstaking i stor skala, må modellene oppnå kostnadseffektivitet og bærekraft.

Det positive er imidlertid at forskere over hele verden allerede jobber hardt med å gjøre AI energieffektiv, som tydelig fremgår av Oregon State sin AI‑drevne chip, som antyder en sterk mulighet for å forene innovasjon med bærekraft.

Selvfølgelig må de foreslåtte teknologiene overvinne sin største hindring – å oppnå virkelige resultater i skala. Likevel er én ting klart: den grønnere AI‑fremtiden er mulig, og den er på vei!

Klikk her for å lære alt om å investere i kunstig intelligens.

Studier referert:

1. Yu, H., Huang, Z., Lamon, S., Wu, J., Zhao, Z., Lin, D., Zhao, H., Zhang, J., Lu, C., Liu, H., Zhang, X., & Zhang, C. (2025). All-optical image transportation through a multimode fibre using a miniaturized diffractive neural network on the distal facet. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, M. J., Lukin, M. D., & Lončar, M. (2024). Single-chip photonic deep neural network with forward-only training. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, B. R., Bloom, R. P., Roy, A., Vaddi, K., Shang, L., & Manipatruni, S. (2024). Experimental demonstration of magnetic tunnel junction-based computational random-access memory. npj Unconventional Computing, 1, 3. https://doi.org/10.1038/s44335-024-00003-3