AI möter effektivitet: Ett nytt chip minskar LLM:s energiförbrukning med 50%

Den pågående boomen inom artificiell intelligens (AI) leder till en ökning av datacenter, vilket driver en enorm efterfrågan på energi för att driva och kyla servrarna i dem.

Det finns över 8 000 datacenter världen över, varav de flesta i USA, och detta antal kommer att öka avsevärt under de kommande åren.

Enligt Boston Consulting Groups uppskattning kommer efterfrågan på datacenter att öka med 15 % till 20 % varje år fram till 2030. Företaget förväntar sig att de då kommer att utgöra 16 % av den totala energiförbrukningen i USA, upp från endast 2,5 % innan OpenAI:s ChatGPT släpptes 2022.

Under tiden förväntar sig den speciella energi- och AI-rapporten från Internationella energibyrån (IEA) som släpptes i år att efterfrågan på el från datacenter världen över minst fördubblas till slutet av detta decennium till cirka 945 TWh. Detta motsvarar nästan vad Japan förbrukar idag.

Den Parisbaserade autonoma mellanstatliga organisationen rapporterar att AI är den största drivkraften bakom denna ökning, med elbehovet från AI‑optimerade datacenter beräknat att mer än fyrdubblas till 2030.

I USA specifikt är energiförbrukningen i datacenter redan på väg att stå för ungefär hälften av tillväxten i elbehovet mellan nu och 2030. Drivet av AI‑användning kommer den amerikanska ekonomin, enligt rapporten, att förbruka mer el för att bearbeta data då än för att tillverka alla energikrävande varor tillsammans.

Den omättliga hungern efter energi utgör ett enormt problem för AI:s utveckling och antagande. Den ljusa sidan är dock det växande antalet forskare och företag som arbetar med att minska AI:s energiförbrukning och göra den mer energieffektiv.

Det intressanta med dessa insatser är att många av dem använder AI för att lösa sina egna energiproblem.

Redan den här månaden demonstrerade ett forskarlag ett nytt chip som använder AI för att minska energifotavtrycket för stora språkmodeller (LLM) med 50 %, vilket markerar en viktig utveckling för att göra LLM:er kostnadseffektiva och mer hållbara att köra.

Nytt chip utnyttjar AI för att minska LLM:s energiförbrukning

Forskare från Oregon State University College of Engineering utvecklade det nya effektiva AI‑chipet för att lösa det enorma problemet med elförbrukning i LLM‑AI‑applikationer som OpenAI:s GPT‑4 och Googles Gemini.

A type of machine learning (ML) model, a large language model (LLM) is pre‑trained on vast amounts of data to perform natural language processing (NLP) tasks like text generation, summarization, simplification, text reasoning, language translation, and more.

De mest populära och mest använda chatbotarna idag inkluderar OpenAI:s GPT‑4o, o3 och o1, Gemini och Gemma från Google, Llama från Meta, R1 och V3 från DeepSeek, Claude från Anthropic, Nova från Amazon (AMZN ), Phi från Microsoft (MSFT ) och Grok från xAI.

Under de senaste åren har LLM:er helt omvandlat AI‑området genom att möjliggöra för maskiner att förstå och generera mänskligliknande text med större noggrannhet. Denna utveckling av LLM:er har dock lett till en exponentiell ökning av deras storlek.

En LLM:s storlek, som mäts i antalet parametrar, är den främsta drivkraften bakom dess energiförbrukning. Det innebär att ju större modellen är, desto mer beräkningskraft krävs för träning och inferens.

Till exempel hade ChatGPT‑1 strax under 120 miljoner parametrar, vilket ökade till 175 miljarder parametrar med GPT‑3, och sedan till ungefär 1,8 biljon parametrar med GPT‑4.

Den enorma ökningen i LLM:ers storlek och kapacitet innebär att deras energiförbrukning också stiger i en oöverträffad skala. Förutom modellens storlek påverkar faktorer som vilken hårdvara som används för att träna dessa LLM:er, träningsprocessens varaktighet, infrastruktur, dvs. datacenter, databehandling, modelloptimering och algoritmeffektivitet energiförbrukningen för LLM:er.

Här kommer det nya chipet från OSU‑forskarna. Enligt Tejasvi Anand, docent i elektroteknik vid OSU som också leder Mixed Signal Circuits and Systems Lab vid universitetet:

“Problemet är att den energi som krävs för att överföra en enda bit inte minskar i samma takt som efterfrågan på datahastighet ökar. Det är vad som får datacenter att använda så mycket kraft.”

För att lösa detta problem designade och utvecklade teamet ett nytt chip som förbrukar endast hälften så mycket energi jämfört med konventionella designer.

Anand och doktorand Ramin Javad presenterade denna nya teknik på IEEE Custom Integrated Circuits (CIC) Conference, som hölls i Boston förra månaden. Konferensen, som arrangerar forum, paneler, utställningar och muntliga presentationer, är ägnad åt utvecklingen av IC, som fungerar som byggstenen i moderna elektroniska system genom att erbjuda funktionalitet och beräkningskraft i ett kompakt och effektivt paket.

Den senaste tekniken byggdes med stöd av Center for Ubiquitous Connectivity (CUbiC), Semiconductor Research Corporation (SRC) och Defense Advanced Research Projects Agency (DARPA). Dessutom fick Javadi priset för bästa studentpaper på konferensen.

För det nya chipet utnyttjade forskarna faktiskt AI‑principer som, enligt Javadi, minskar elförbrukningen för signalbehandling.

Som han förklarade skickar och tar emot LLM:er stora mängder data via trådbundna anslutningar, som är kopparbaserade kommunikationslänkar i datacenter. Hela processen kräver betydande energi, så en möjlig ”lösning är att utveckla mer effektiva trådbundna kommunikationschips.”

Javadi påpekade vidare att när data skickas med hög hastighet blir den faktiskt korrupt vid mottagarens ände, och som ett resultat måste den rensas upp. För detta ändamål använder majoriteten av befintliga trådbundna kommunikationssystem en equalizer, som förbrukar mycket kraft.

“Vi använder dessa AI‑principer på chipet för att återställa data på ett smartare och mer effektivt sätt genom att träna den chip‑inbyggda klassificeraren att känna igen och korrigera felen.”

– Javadi

Även om det är en stor utveckling är detta bara den första versionen av chipet. Dess nästa iteration är för närvarande under utveckling för att ytterligare förbättra dess energieffektivitet.

Sammanfattningsvis visar denna pågående forskning stor potential att få långtgående konsekvenser för framtiden för AI‑infrastruktur och drift av datacenter. Men naturligtvis skulle det kräva att tekniken framgångsrikt implementeras i skala, vilket aldrig är en enkel uppgift.

Klicka här för att lära dig hur AI omvälver mikrochipteknik.

Tämja AI:s energiförbrukning med genombrott på alla lager

Denna senaste chiputveckling är bara ett av många forskningsprojekt som tar itu med AI:s energiförbrukningsproblem. Låt oss därför ta en kort titt på de innovativa sätt som forskare har använt för att lösa det.

Använda ljus för AI‑energi‑effektivitet 

Earlier this year, USST scientists utvecklade¹ ett mikroskopiskt AI‑chip, mindre än ett dammkorn eller ett saltkorn, som använder ljus för att bearbeta data från fiberoptiska kablar. Detta lovar snabbare beräkningar med lägre energiförbrukning.

Chipet manipulerar ljus för att utföra beräkningar omedelbart snarare än att tolka ljussignaler som traditionella datorer gör. För detta använder det en ”all‑optisk diffraktiv djup neuralnätverk”, en teknik som utnyttjar mönstrade, 3D‑skrivna lager av komponenter staplade på varandra. Trots att det är banbrytande finns utmaningar såsom uppgifts‑specifik design, känslighet för imperfektioner och svårigheter att producera i stor skala, som måste övervinnas för att uppnå ”oöverträffade funktioner” inom endoskopisk avbildning, kvantdatorer och datacenter.

Några månader innan dess använde MIT‑forskare också ljus för att utföra de viktigaste operationerna i ett neuralt nätverk på ett chip, vilket möjliggjorde ultrasnabba AI‑beräkningar (på en halv nanosekund) med 92 % noggrannhet och enorm energihushållning.

“Detta arbete visar att beräkning – i sin kärna, mappning av indata till utdata – kan kompileras på nya arkitekturer av linjär och icke‑linjär fysik som möjliggör en fundamentalt annorlunda skalningslag för beräkning i förhållande till den ansträngning som krävs.”

– Seniorförfattare Dirk Englund

The scientists utvecklade det fotoniska chipet², som består av sammankopplade moduler som bildar ett optiskt neuralt nätverk. Anmärkningsvärt är att användningen av kommersiella foundry‑processer för dess tillverkning innebär att det kan skalas och integreras i elektronik. Dessutom övervann forskarna utmaningen med icke‑linjäritet i optik genom att designa icke‑linjära optiska funktionsenheter (NOFUs) som kombinerar elektronik och optik.

Klicka här för att lära dig om den nya hjärninspirerade AI:n som lär sig i realtid med ultralåg effekt.

Ett mjukvaruverktyg för AI‑träning & ett kylsystem för datacenter

The University of Michigan researchers, meanwhile, inriktade sig på energispillet som uppstår under AI‑träning, mer specifikt när den fördelas mellan GPU:er, en nödvändighet för att bearbeta enorma datamängder, ojämnt.

Så utvecklade de ett mjukvaruverktyg kallat Perseus som identifierar deluppgifter som tar längst tid att slutföra och sedan minskar hastigheten på processorer som inte ligger på detta ‘kritiska spår’ för att möjliggöra att alla kan slutföra sina uppgifter samtidigt, vilket eliminerar onödig energianvändning.

Detta öppna källkodsverktyg finns tillgängligt som en del av Zeus, ett verktyg för att mäta och optimera AI‑energiförbrukning.

Meanwhile, researchers from the University of Missouri turned to utveckla ett nästa‑generations kylsystem för att hjälpa datacenter att bli mer energieffektiva. De tillverkar också ett kylsystem för enkel anslutning och frånkoppling i serverrack.

“Kylning och chip‑tillverkning går hand i hand. Utan korrekt kylning överhettas komponenter och går sönder. Energieffektiva datacenter kommer att vara nyckeln till framtiden för AI‑beräkning.”

– Chanwoo Park, professor i maskin- och rymdteknik vid Mizzou College of Engineering

Med stöd av 1,5 miljoner dollar i finansiering från DOE:s COOLERCHIPS‑initiativ utvecklade teamet ett tvåfasigt kylsystem som avleder värme från server‑chip genom fasändring. Det kan inte bara köras passivt utan att använda någon energi när mindre kylning behövs, utan även i aktivt läge använder systemet en mycket liten mängd.

CRAM‑hårdvara kan minska AI:s energianvändning med 1000‑ gånger

Last summer, engineers at the University of Minnesota Twin Cities utvecklade en avancerad hårdvaruenhet³ som kunde minska AI:s energiförbrukning med cirka 1 000 gånger.

Den nya modellen kallas computational random-access memory (CRAM), och här lämnar data aldrig minnet; istället bearbetas den helt inom minnesarrayen, vilket eliminerar behovet av energikrävande och långsamma dataöverföringar.

Två decennier under utveckling är denna studie en del av teamets arbete med att bygga vidare på seniorförfattaren Jian-Ping Wangs patenterade forskning om Magnetic Tunnel Junctions (MTJ)-enheter. Dessa nanostrukturerade enheter används för att förbättra sensorer, hårddiskar och andra mikroelektroniska system som Magnetic Random Access Memory (MRAM).

“Som ett extremt energieffektivt digitalt minnesbaserat beräkningssubstrat är CRAM mycket flexibelt så att beräkningar kan utföras på vilken plats som helst i minnesarrayen,” noterade medförfattaren Ulya Karpuzcu, docent i institutionen för elektroteknik och datorteknik. Dessutom kan det omkonfigureras för att bäst passa prestandabehoven hos olika algoritmer.

Hjärninspirerad AI: Minska energianvändning genom att efterlikna mänsklig effektivitet

So, as we saw, researchers are looking at different aspects of AI to handle its energy issues. Interestingly, they are also turning to the human brain for inspiration. This makes sense, after all, AI is the simulation of human intelligence processes by machines, although it’s inte alls nära mänskligt tänkande och resonemang due to its ability to generalize across variations being “significantly weaker than human cognition.”

The brain-inspired energy reduction research includes the work of Associate Professor Chang Xu in the University’s Sydney AI Centre, who noted that LLMs utilizing the resources at full capacity, even for simple tasks, is not the right way to do things. He explained:

“When you think about a healthy human brain – it doesn’t fire all neurons or use all of its brain power at once. It operates with incredibly energy efficiency, just 20 Watts of power despite having around 100 billion neurons, which it selectively uses from different hemispheres of the brain to perform different tasks or thinking.” 

As such, they are developing algorithms that bypass the redundant computations not needed and don’t go into high gear automatically.

In other instances, research took inspiration from the brain’s neuromodulation and created an algorithm called a ‘lagringssystem’ to reduce energy by 37% without any accuracy degradation, the self-repairing function of brain cell called astrocyter för hårdvaruenheter, and got neuromorphic (brain-inspired) form of computing (memristors) to arbeta tillsammans in several sub-groups of neural networks.

Investera i artificiell intelligens

Ett globalt halvledarföretag, AMD (AMD ) är känt för sina högpresterande beräknings-, grafik- och visualiseringsteknologier. Trots direkt konkurrens med AI-favoriten NVIDIA (NVDA ) vinner det snabbt marknadsandelar inom datacenter- och AI‑acceleratormarknaderna. Dess MI300-serie riktar sig specifikt mot generativ AI‑arbetsbelastningar och HPC‑applikationer.

Dess ledande närvaro inom datacenter‑CPU‑området, starka FoU‑fokus, intäktstillväxt, kundbas och förvärv gör AMD till en stark aktör i sektorn.

Advanced Micro Devices (AMD )

År 2022 gjorde AMD en rekordaffär inom chipindustrin värd 50 miljarder dollar genom förvärvet av Xilinx för att bli branschens ledare inom högpresterande och adaptiv beräkning. Och senast har de slutfört förvärvet av ZT Systems för att ta itu med den 500 miljarder dollar stora möjligheten för AI‑acceleratorer i datacenter år 2028.

AMD:s marknadsresultat återhämtar sig också i år efter att ha drabbats av tullturbulens. Vid skrivande stund handlas AMD‑aktier till 120 $, ned 6,9 % år‑till‑datum men bara cirka 47 % under sin topp från mars 2024. Med detta är dess börsvärde 182,34 miljarder dollar med ett EPS (TTM) på 1,36 och ett P/E (TTM) på 82,44.

När det gäller företagets finanser rapporterade AMD en 36 % år‑till‑år ökning i intäkter till 7,4 miljarder dollar för Q1 2025, vilket VD Dr. Lisa Su kallade “en enastående start” på året, “trots den dynamiska makro‑ och regulatoriska miljön.” Denna tillväxt drevs av “expanderande datacenter‑ och AI‑momentum,” tillade hon.

Under denna period uppgick AMD:s rörelseresultat till 806 miljoner dollar, nettoresultatet till 709 miljoner dollar och den utspädda vinsten per aktie till 0,44 $. För Q2 2025 prognostiseras cirka 7,4 miljarder dollar i intäkter.

Vissa nyckelutvecklingar som företaget gjort inkluderar utökning av strategiska partnerskap med Meta Platforms, Inc. (META ) (Llama), Alphabet Inc. (GOOG ) (GOOGL ) (Gemma), Oracle Corporation (ORCL ), Core42, Dell Technologies (DELL ), och andra. AMD, tillsammans med Nokia, Cisco Systems, Inc. (CSCO ), och Jio, meddelade också en ny Open Telecom AI Platform för att erbjuda AI‑drivna lösningar som förbättrar effektivitet, säkerhet och kapabiliteter.

Denna vecka har AMD och Nvidia samarbetat med Humain, ett AI‑inriktat dotterbolag till Saudiarabiens Public Investment Fund, för att leverera halvledare till ett storskaligt datacenterprojekt som förväntas ha en kapacitet på 500 MW.

Klicka här för en lista över de främsta icke‑silicon‑datorföretagen.

Senaste trender och utvecklingar för Advanced Micro Devices (AMD)

Slutsats

Under de senaste åren har AI‑maniakern sett en explosiv tillväxt, och med goda skäl. Denna teknik har nämligen stor potential att omvandla ett brett spektrum av industrier, från sjukvård, tillverkning och materialvetenskap till finans, underhållning, utbildning, detaljhandel och cybersäkerhet.

Dock har teknologisk utveckling, ökande antagande och efterföljande expansion av dessa LLM:er lett till en betydande energiefterfrågan, vilket bidrar till växthusgasutsläpp (GHG) och klimatförändringar, ökar ekonomiska kostnader och påverkar teknikens hållbarhet.

Detta utgör en stor utmaning för AI. Om vi vill fullt ut förverkliga dess verkliga potential när det gäller minskade kostnader, ökad produktivitet och förbättrat beslutsfattande i skala, måste modellerna uppnå kostnadseffektivitet och hållbarhet.

Det positiva är dock att forskare världen över redan arbetar intensivt med att göra AI energisnålt, vilket tydligt framgår av Oregon State:s AI‑drivna chip, som indikerar en stark möjlighet att förena innovation med hållbarhet.

Naturligtvis måste de föreslagna teknologierna övervinna sitt största hinder – att uppnå verklig påverkan och skalbarhet. Ändå är en sak klar: den grönare AI‑framtiden är möjlig och är på väg!

Klicka här för att lära dig allt om att investera i artificiell intelligens.

Studier som refereras:

1. Yu, H., Huang, Z., Lamon, S., Wu, J., Zhao, Z., Lin, D., Zhao, H., Zhang, J., Lu, C., Liu, H., Zhang, X., & Zhang, C. (2025). All‑optisk bildtransport genom en multimodalfiber med ett miniatyriserat diffraktivt neuralt nätverk på den distala fasaden. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, M. J., Lukin, M. D., & Lončar, M. (2024). Enkelt‑chip fotoniskt djupt neuralt nätverk med enbart framåtriktad träning. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, B. R., Bloom, R. P., Roy, A., Vaddi, K., Shang, L., & Manipatruni, S. (2024). Experimentell demonstration av magnetisk tunneljunction‑baserat beräknings‑random‑access‑minne. npj Unconventional Computing, 1, 3. https://doi.org/10.1038/s44335-024-00003-3