Kan AI efficiënt opereren? Onderzoekers hebben mogelijk een oplossing gevonden

Kunstmatige intelligentie (AI) blijft onze toekomst vormgeven in bijna elke sector nu de adoptie toeneemt om cruciale bedrijfsprocessen te automatiseren, kosten te verlagen en de productiviteit te verhogen. 

Data toont dat meer dan 80% van de bedrijven AI tot op zekere hoogte gebruiken, en het zien als een kerntechnologie binnen hun organisaties. De financiële toewijding aan AI is ook gestegen nu de adoptie aanzienlijke voordelen en een veel hoger rendement oplevert.

Daarmee groeide de AI-marktomvang in 2024 tot meer dan $184 miljard en wordt naar verwachting tegen het einde van dit decennium $826 miljard te overschrijden, volgens Statista.

Al deze groei en de explosie van interesse in AI heeft geleid tot een wapenwedloop om de technologie te ontwikkelen. AI-modellen zoals grote taalmodellen (LLM’s) die door organisaties worden gebouwd, gebruiken algoritmen om menselijke taal te begrijpen, samenvatten, vertalen en genereren en worden getraind op enorme hoeveelheden data met energie‑intensieve processors. 

Hiervoor investeren bedrijven en datacenterexploitanten veel kapitaal om nieuwe high‑capacity datacenters te bouwen. Investeringen in nieuwe datacenters, volgens het International Energy Agency (IEA), zijn de afgelopen twee jaar al sterk gestegen, geleid door de VS. In 2023 was de totale kapitaalinvestering van alleen Microsoft (MSFT ), Google en Amazon (AMZN ) hoger dan die van de volledige olie‑ en gasindustrie van het land.

Deze datacenters hebben veel elektriciteit nodig om ze van stroom te voorzien. In 2022 stelde de IEA dat datacenters 1,65 miljard gigajoule elektriciteit verbruikten, wat ongeveer 2% van de wereldwijde vraag is. 

De wereldwijde stroomvraag van datacenters wordt verder voorspeld te stijgen met 50% tegen 2027 en met 165% tegen 2030, volgens Goldman Sachs (GS ) Research van eerder deze maand. 

Het huidige stroomverbruik van datacenters wordt geschat op ongeveer 55 gigawatt (GW), bestaande uit cloud‑computing workloads (54%), traditionele workloads zoals opslag (32%) en AI (14%). Modellering van de toekomstige vraag naar deze workload‑typen geeft een voorspelde stroomvraag van 84 GW tegen 2027, waarbij AI zal groeien tot 27% terwijl cloud daalt tot 50% en traditionele workloads tot 23%.

De wereldwijde marktcapaciteit van datacenters staat ondertussen rond de 59 GW, waarvan 60% wordt geleverd door hyperscale cloudproviders zoals Google en Alibaba en door externe datacenterexploitanten, terwijl de rest afkomstig is van traditionele bedrijfs‑ en telecom‑eigendom datacenters.

De stroomvraag van deze grote hyperscale datacenters is 100 MW of meer met een jaarlijks elektriciteitsverbruik dat ongeveer gelijk is aan de elektriciteitsvraag van wel 400.000 elektrische auto’s.

Naarmate organisaties AI blijven omarmen, kunnen we ook een opkomst van AI‑specifieke datacenters verwachten, een opkomende klasse van infrastructuur die specifiek is ontworpen om te voldoen aan de unieke eisen van AI‑workloads. Hoewel er tot nu toe nog maar weinig bestaan, bevinden ze zich voornamelijk in de Azië‑Pacific en Noord‑Amerika, met name in Peking, Shanghai, Noord‑Virginia en de San Francisco Bay Area. 

Volgens schattingen van Goldman Sachs Research zal er tegen het einde van 2030 ongeveer 122 GW aan datacentercapaciteit online zijn. Door de hogere verwerkingsworkload‑eisen van AI zal de dichtheid van het stroomverbruik in datacenters naar verwachting ook groeien tot 176 kilowattuur per vierkante voet binnen twee jaar.

Aangezien datacenters bijdragen aan een groeiende behoefte aan stroom, zal het elektriciteitsnet ook aanzienlijke investeringen nodig hebben, geschat op $720 miljard aan netuitgaven tot 2030.

Daarnaast zijn er de kooldioxide‑emissies van datacenters, die tussen 2022 en 2030 meer dan kunnen verdubbelen. Het elektriciteitsverbruik van datacenters, dat momenteel 1‑2% van de totale stroom is en naar verwachting zal stijgen tot 3‑4% tegen het einde van het decennium, is daarom een punt van zorg, hoewel het niet volledig hopeloos is.

De cijfers, hoewel enorm, zijn bescheiden wanneer ze worden bekeken in de bredere context van de wereldwijde groei van het totale elektriciteitsverbruik, dat volgens de IEA zal toenemen met 6.750 TWh tegen 2030, gedreven door de opkomst van niet alleen AI maar ook door voortdurende economische groei, elektrische voertuigen, airconditioners en energie‑intensieve productie.

Bovendien blijft niet alleen de snelheid van AI‑gebruik onzeker, maar kunnen voortdurende efficiëntieverbeteringen in zowel hardware als software helpen de stroomvraag van AI‑technologie aan te pakken. 

De efficiëntie van AI‑gerelateerde computerchips verdubbelt ongeveer elke 2,5‑3 jaar. Een moderne AI‑chip verbruikt nu 99% minder stroom terwijl hij dezelfde berekeningen uitvoert als een model uit 2008. Bovendien worden AI‑modellen zelf efficiënter. In combinatie met nieuwe koelingstechnologieën en innovatieve wetenschappelijke oplossingen, verminderen deze ontwikkelingen het energieverbruik en beperken hun milieu‑impact.

Klik hier om te leren waarom traditionele opslag AI niet kan bijhouden.

Wetenschappers ontwikkelen een baanbrekende oplossing 

Illustratieve afbeelding. Geen echte foto.

Tegen de achtergrond van de AI‑evolutie en de groeiende energievraag hebben onderzoekers in Japan een innovatief spintronic‑apparaat ontwikkeld dat een aanzienlijke vermindering van het stroomverbruik belooft door elektrische controle van magnetische toestanden mogelijk te maken. 

Deze doorbraak kan AI‑hardware revolutioneren door chips te maken die de werking van neurale netwerken nabootsen en veel energie‑efficiënter zijn. In plaats van een elektrische stroom te gebruiken om informatie op te slaan, gebruiken deze apparaten de spin van elektronen voor hetzelfde, waardoor ze sneller en efficiënter zijn.

Spintronic‑apparaten worden gebruikt in mass‑storage apparaten en computers om de snelheid en prestaties van computers te verhogen.

Onderzoekers van het National Institute for Materials Science, Tohoku University en de Japan Atomic Energy Agency gebruiken het nu voor low‑power AI‑chips en hebben een proof‑of‑concept van een stroom‑geprogrammeerd spin‑orbit‑torque (SOT) apparaat aangetoond.

SOT biedt een veelbelovend mechanisme om informatie elektrisch te coderen in magnetische toestanden. In bestaande schema’s wordt dit echter passief bepaald door het materiaal en de apparaatstructuren. 

“Hoewel spintronic‑onderzoek aanzienlijke vooruitgang heeft geboekt in het elektrisch controleren van magnetische orden, scheiden de meeste bestaande spintronic‑apparaten de rol van het magnetische materiaal om gecontroleerd te worden en het materiaal dat de drijvende kracht levert.”

– Shunsuke Fukami, Tohoku University

Spintronic‑apparaten, eenmaal gefabriceerd, hebben een vast operationeel schema waarbij ze meestal informatie in een binaire manier schakelen; van “0” naar “1”. Het nieuwe onderzoek heeft echter vooruitgang geboekt in elektrisch programmeerbare schakeling van meerdere magnetische toestanden. Het manipuleren van de intrinsieke SOT‑polarisatie maakt flexibel programmeerbare SOT‑apparaten mogelijk.

Volgens de resultaten van de studie, gepubliceerd in Nature Communications¹ deze maand, maakt dit spintronic‑apparaat de elektrische wederzijdse controle van niet‑collineaire antiferromagneten en ferromagneten mogelijk voor efficiënte schakeling van magnetische toestanden. 

De elektrische controle van magnetische toestanden is de basis van magnetisch geheugen, logica en computing, en SOT biedt een efficiënte benadering om ze te controleren. 

Wat dit betekent is dat het baanbrekende SOT‑apparaat informatie kan opslaan en verwerken zoals een op het brein geïnspireerde AI‑chip, terwijl het aanzienlijk minder energie verbruikt, waardoor de deur wordt geopend voor een nieuwe generatie AI‑hardware die zeer efficiënt en energiebesparend is.

De studie gebruikte Mn3Sn, een niet‑collineaire antiferromagnet, als het belangrijkste magnetische materiaal en paste er een elektrische stroom op toe, waardoor het een spinstroom produceerde die de schakeling van CoFeB, de aangrenzende ferromagnet, aandreef. Dit werd gedaan via een proces dat het magnetische spin Hall‑effect wordt genoemd.

Het spin Hall‑effect (SHE) is een sleutelelement van moderne spintronica dat “koppeling tussen ladingsstromen en collectieve spin‑dynamica in magnetisch geordende systemen” realiseert.

Eerder onderzoek² van Tohoku University, in samenwerking met andere instituten, toonde aan dat in vergelijking met niet‑magnetische materialen antiferromagneten sterkere spin Hall‑eigenschappen hebben. Ook heeft het SHE in Mn3Sn een anomalie tekenverandering wanneer de driehoekig geordende momenten van oriëntatie veranderen. Het werd ook toegeschreven aan Mn3Sn’s hoge magnetische mechanisme door de spin‑splijting, die afhankelijk is van momentum en wordt gegenereerd door de niet‑collineaire magnetische ordening, waardoor de reikwijdte van antiferromagnetische spintronica wordt uitgebreid.

In het nieuwste onderzoek reageerde de ferromagnet op de spin‑gepolariseerde stroom en beïnvloedde bovendien de magnetische toestand van Mn3Sn. Dit maakte de elektrische wederzijdse schakeling tussen de twee materialen mogelijk.

Het team toonde in hun experiment aan dat informatie die in de ferromagnet is geschreven elektrisch kan worden gecontroleerd met behulp van de magnetische toestand van Mn3Sn. Ze konden de magnetisatie van CoFeB in verschillende sporen die meerdere toestanden vertegenwoordigen schakelen door de ingestelde stroom aan te passen.

Deze stroompolarisatie die het teken van de geschreven informatie verandert, een analoog schakelmecanisme, is een sleuteloperatie in neurale netwerken en bootst de manier na waarop analoge waarden functioneren in AI‑verwerking.

De ontdekking, volgens Fukami, is een cruciale stap vooruit in het produceren van energie‑efficiëntere AI‑chips. 

“Door de elektrische wederzijdse schakeling tussen een niet‑collineaire antiferromagnet en een ferromagnet te realiseren, hebben we nieuwe mogelijkheden geopend voor stroom‑programmeerde neurale netwerken,” voegde hij toe, waarbij hij opmerkte dat hun focus nu ligt op “het verder verlagen van operationele stromen en het verhogen van uitleessignalen, wat cruciaal zal zijn voor praktische toepassingen in AI‑chips.”

Aangezien datacenters zoveel energie verbruiken, richtte een andere studie zich op het verminderen van het stroomverbruik met SOT Magnetic Random-Access Memory (MRAM).

Deze afzonderlijke studie³, die vorige maand in Nature Communications werd gepubliceerd, kwam van onderzoekers van de Johannes Gutenberg Universiteit Mainz (JGU), die een krachtige en zeer efficiënte oplossing voor gegevensverwerking en -opslag ontwikkelden terwijl ze het energieverbruik verminderden.

Het prototype “baant de weg voor snellere, efficiëntere geheugentoepassingen,” zei de hoofdonderzoeker, Dr. Rahul Gupta, een voormalig postdoctoraal onderzoeker aan het JGU Institute of Physics.

Het is gebaseerd op SOT MRAM, dat bekend staat om zijn superieure energie‑efficiëntie, niet‑volatiliteit en prestaties vergeleken met statisch RAM. De technologie die elektrische stromen gebruikt om magnetische toestanden te schakelen, staat voor uitdagingen bij het verminderen van de hoge invoerstroom die nodig is tijdens het schrijfproces. Dit betekent dat er voldoende thermische stabiliteit moet worden behouden om de gegevens langdurig op te slaan en dat de energie die nodig is om de opslagtaak uit te voeren, geminimaliseerd moet worden.

In plaats van SHE gebruikte deze studie het Orbital Hall Effect (OHE), waarbij een transversale stroom van orbitale impulsmoment wordt geproduceerd in een materiaal wanneer een elektrische stroom wordt toegepast. Met dit fenomeen konden onderzoekers een grotere energie‑efficiëntie bereiken zonder afhankelijk te zijn van dure of zeldzame materialen.

Het unieke magnetische materiaal dat is ontwikkeld, gebruikt elementen zoals Ruthenium als een SOT‑kanaal om de prestaties te verbeteren. Daarmee slaagde het team erin een vermindering van 20% in de invoerstroom te realiseren, een toename van 30% in efficiëntie, en een reductie van meer dan 50% in het totale energieverbruik.

Bedrijven die de weg wijzen

Laten we nu een kijkje nemen bij prominente namen die de AI‑sector vooruit helpen:

1. NVIDIA Corporation

Nvidia (NVDA ) ontwerpt en produceert grafische verwerkingseenheden of GPU’s. Een GPU is een elektronische schakeling die wiskundige berekeningen met hoge snelheid uitvoert en is een populaire keuze voor het ontwikkelen van AI‑modellen.

In het afgelopen decennium heeft het bedrijf de prestaties-per-watt van zijn GPU’s aanzienlijk verbeterd, tot wel 4.000 keer, volgens zijn hoofdwetenschapper William Dally, en blijft het gespecialiseerde circuits in deze chips ontwikkelen die specifiek zijn ontworpen voor AI‑berekeningen.

Nvidia is ‘s werelds op één na grootste bedrijf qua marktkapitalisatie van $3,21 biljoen. De aandelen worden momenteel verhandeld tegen $130,86, een daling van 2,35% jaar‑tot‑datum. De EPS (TTM) van het bedrijf is 2,54 en de P/E (TTM) ratio is 51,67, terwijl het dividendrendement 0,03% bedraagt.

Wat de bedrijfsfinanciën betreft, zal Nvidia de resultaten van het 4e kwartaal FY25 op 26 februari bekendmaken. Voor Q3 waren de GAAP winst per verwaterde aandeel $0,78 en de non‑GAAP winst per verwaterde aandeel $0,81.

Voor dit kwartaal kondigde Nvidia een recordomzet van $35,1 miljard aan, een stijging van 17% ten opzichte van Q2 en 94% ten opzichte van een jaar geleden. De omzet uit datacenters bedroeg $30,8 miljard daarvan. Voor Q4 gaf het een vooruitzicht van $37,5 miljard omzet.

“Het tijdperk van AI is in volle gang en drijft een wereldwijde verschuiving naar NVIDIA‑computing,” zei CEO en oprichter Jensen Huang destijds terwijl hij een “ongelooflijke” vraag naar de Hopper opmerkte, evenals de anticipatie op Blackwell, die high‑performance computing (HPC) mogelijk maakt voor versnelde training, inferentie en efficiëntie in generatieve AI.

Nvidia heeft een fantastische reis doorgemaakt, waarbij de aandelenprijs steeg van onder de $11 in oktober 2022 tot boven de $152 begin januari 2025. Recentelijk verloor het wat momentum nadat de Chinese AI‑startup DeepSeek zijn nieuwste AI‑model lanceerde. De eerste perceptie was dat DeepSeek de vraag naar Nvidia’s high‑performance GPU’s zou ondermijnen, maar dit kan eigenlijk positief zijn voor Nvidia, aangezien de lagere rekencapaciteit van de startup meer AI‑kansen kan openen, waardoor de prijzen van de grootste chipfabrikant stijgen.

“AI transformeert elke industrie, elk bedrijf en elk land,” zei Huang tijdens de financiële resultaten van het afgelopen kwartaal en voegde toe dat ondernemingen agent‑AI adopteren terwijl doorbraken in fysieke AI worden gezien in industriële robotica. Landen, voegde hij toe, zijn zich ook bewust geworden van het belang om hun eigen AI‑infrastructuur op te bouwen.

#2. Broadcom Inc.

Broadcom (AVGO ) behoort tot de top 10 grootste bedrijven, met een marktkapitalisatie van $1,1 biljoen. Het is betrokken bij het ontwerpen, ontwikkelen en leveren van een breed scala aan halfgeleider- en infrastructuursoftwareoplossingen. Het bedrijf heeft partnerschappen met grote spelers zoals Google, Meta Platforms (META ) en ByteDance. Het werkt ook samen met OpenAI en Apple (AAPL ) om hun eigen AI‑chips te bouwen.

Op het moment van schrijven worden Broadcom‑aandelen verhandeld tegen $235, een stijging van 1,95% jaar‑tot‑datum. De EPS (TTM) van het bedrijf is 1,28 en de P/E (TTM) ratio is 184,78, terwijl het dividendrendement 1% bedraagt.

In Q4 van 2024 behaalde Broadcom een omzet van meer dan $14 miljard, een stijging van 51% ten opzichte van de voorgaande jaarperiode, terwijl de GAAP nettowinst $4,324 miljard bedroeg. Voor Q1 van het fiscale jaar 2025 gaf het bedrijf een omzetverwachting van ongeveer $14,6 miljard.

In het vierde kwartaal bereikte de halfgeleideromzet van de chipfabrikant een record van $30,1 miljard, wat CEO en president Hock Tan opmerkte dat het werd gedreven door AI‑omzet van $12,2 miljard. De jaar‑op‑jaar groei van 220% in AI‑omzet werd gestimuleerd door hun XPUs.

Broadcom’s GAAP verwaterde EPS kwam uit op $0,90 en de non‑GAAP verwaterde EPS was $1,42. De operationele cashflow bedroeg ondertussen $5,6 miljard. Het bedrijf rapporteerde ook een stijging van 11% in de kwartaaldividend op gewone aandelen tot $0,59 per aandeel, wat de veertiende opeenvolgende verhoging was. De vrije cashflow exclusief herstructurering kwam ook “sterk” uit op $21,9 miljard, terwijl cash en kasequivalenten $9,348 miljard bedroegen.

“We zien onze kans in AI de komende drie jaar als enorm. Specifieke hyperscalers zijn hun respectieve trajecten begonnen om hun eigen aangepaste AI‑versnellers te ontwikkelen.”

– Tan zei tijdens de winstrapportage

Hij deelde ook mee dat het bedrijf AI‑chips ontwikkelt met drie grote cloudklanten, van wie wordt verwacht dat ze tegen 2027 1 miljoen AI‑chips in netwerkclusters zullen inzetten.

Conclusie

Naarmate de populariteit en het gebruik van kunstmatige intelligentie blijven groeien, groeit ook hun energieverbruik. AI‑modellen, vooral deep learning, vereisen een aanzienlijke hoeveelheid energie voor berekeningen, en conventionele oplossingen ondervinden grenzen in energie‑efficiëntie.

Tegen deze achtergrond kan onderzoek dat gericht is op het verbeteren van de energie‑efficiëntie van AI‑chips en het minimaliseren van hun milieu‑impact de wereld helpen het volledige potentieel van de technologie te realiseren, terwijl de negatieve effecten worden verminderd.

De op SOT gebaseerde geheugen‑ en logische apparaten kunnen hier een groot verschil maken door een low‑power oplossing te bieden die magnetische toestanden gebruikt voor berekeningen in plaats van op lading gebaseerde logica. Het behouden van gegevens zonder constante stroom kan de energiekosten voor AI‑inference verlagen, meer energie‑efficiënte AI‑versnellers mogelijk maken voor realtime AI‑besluitvorming door het brein na te bootsen, en de verwerkingssnelheid voor AI‑taken verhogen door logica en geheugen te integreren.

Continue inspanningen zoals deze maken AI‑hardware en -software energie‑efficiënter, sneller en in staat om complexe berekeningen aan te kunnen, wat op zijn beurt een bredere AI‑adoptie in verschillende sectoren stimuleert terwijl de CO₂‑voetafdruk wordt verminderd!

Klik hier om te leren waarom 2025 het jaar van AI‑gedreven investeringen is.