Voor AI om zijn potentieel te realiseren, moeten energievraagstukken worden aangepakt

Artificial Intelligence (AI) blijft de vierde industriële revolutie aandrijven, samen met haar energiebehoeften. Vandaag de dag kan iedereen geavanceerde AI-tools gebruiken en integreren in hun systemen om de efficiëntie te verbeteren en de werklast te verminderen. De energie die nodig is om deze algoritmen van stroom te voorzien, neemt toe naarmate de vraag naar AI-toepassingen groeit. Daarom wijzen milieuactivisten al op duurzaamheidsproblemen rond de technologie. Gelukkig heeft een team van onderzoekers een zeer efficiënte alternatieve oplossing gecreëerd. Dit is wat u moet weten.

Groeiende energiebehoeften van AI creëren een energiecrisis

Nieuwe AI-systemen blijven met toenemende frequentie worden gelanceerd. De meest recente wereldwijde energiegebruikvoorspelling voorspelt dat het energieverbruik van AI zal verdubbelen van 460 terawattuur (TWh) in 2022 naar 1.000 TWh tegen 2026. Deze protocollen omvatten aanbevelingssystemen, grote taalmodellen (LLM’s), beeld- en videobewerking en -creatie, Web3-diensten en meer.

Volgens de studie van de onderzoekers vereisen AI-systemen gegevensoverdracht die gelijkstaat aan “200 keer de energie die wordt gebruikt voor berekeningen bij het lezen van drie 64-bit bronoperanden en het schrijven van één 64-bit doeloperande naar een off-chip hoofdgeheugen.” Als zodanig is het verminderen van het energieverbruik voor kunstmatige intelligentie (AI) rekenapplicaties een belangrijke zorg voor ontwikkelaars die dit obstakel moeten overwinnen om grootschalige adoptie te bereiken en de technologie te laten rijpen.

Gelukkig heeft een groep innovatieve ingenieurs van de Universiteit van Minnesota een mogelijke oplossing aangedragen die het stroomverbruik van AI-protocollen met orders van grootte kan verminderen. Om deze taak te volbrengen, introduceren de onderzoekers een nieuw chipontwerp dat een verbetering biedt op de Von Neumann-architectuur die in de meeste chips van vandaag wordt gebruikt.

Von Neumann-architectuur

John von Neumann revolutieserde de computersector in 1945 toen hij logische en geheugenunits scheidde, waardoor destijds efficiënter werd berekend. In deze opstelling worden logica en data op verschillende fysieke locaties opgeslagen. Zijn uitvinding verbeterde de prestaties omdat beide gelijktijdig konden worden benaderd.

Bron – University of Minnesota Twin Cities

RAM

Tegenwoordig gebruiken de meeste computers nog steeds de Von Neumann-structuur, waarbij uw harde schijf (HD) uw programma’s opslaat en het random-access geheugen (RAM) programmeerinstructies en tijdelijke gegevens bevat. Het huidige RAM voert deze taak uit met verschillende methoden, waaronder DRAM, dat condensatoren gebruikt, en SRAM, dat uit meerdere schakelingen bestaat.
Opmerkelijk genoeg werkte deze structuur decennialang uitstekend. Echter, de constante overdracht van gegevens tussen logica en geheugen vereist veel energie. Deze energietransfer neemt toe naarmate de gegevensvereisten en de rekencapaciteit toenemen. Hierdoor ontstaat een prestatieknelpunt dat de efficiëntie beperkt naarmate de rekenkracht toeneemt.

Pogingen om de energiebehoeften te verbeteren

In de loop der jaren zijn er vele pogingen ondernomen om de Von Neumann-architectuur te verbeteren. Deze pogingen hebben verschillende variaties van het geheugenproces gecreëerd met als doel de twee acties fysiek dichter bij elkaar te brengen. Momenteel omvatten de drie belangrijkste variaties.

Near-memory verwerking

Deze upgrade brengt de logica fysiek dichter bij het geheugen. Dit werd gerealiseerd met een 3D-stacked infrastructuur. Het dichterbij brengen van de logica verkort de afstand en de energie die nodig is om de gegevens die nodig zijn voor berekeningen over te dragen. Deze architectuur leverde verbeterde efficiëntie op.

In-memory computing

Een andere huidige methode om de computationele architectuur te verbeteren is in-memory computing. Opmerkelijk is dat er twee varianten van dit type chip bestaan. De oorspronkelijke integreert clusters van logica naast het geheugen op één chip. Deze implementatie maakt het mogelijk om transistors die in eerdere versies werden gebruikt, te elimineren. Echter, velen beschouwen deze methode niet als “waarachtig” voor de in-memory-structuur omdat er nog steeds afzonderlijke geheugenlocaties zijn, wat betekent dat de oorspronkelijke prestatieproblemen die voortkwamen uit de gegevensoverdracht nog bestaan, zij het op een kleinere schaal.

Echte in-memory

Het laatste type chiparchitectuur is “echte in-memory”. Om als dit type architectuur te kwalificeren, moet het geheugen direct berekeningen uitvoeren. Deze structuur verbetert mogelijkheden en prestaties omdat de gegevens voor logische bewerkingen op hun plaats blijven. De nieuwste versie van de echte in-memory-architectuur van de onderzoekers is CRAM.

(CRAM)

Computational random-access memory (CRAM) maakt echte in-memory berekeningen mogelijk doordat de gegevens binnen dezelfde array worden verwerkt. De onderzoekers hebben een standaard 1T1M STT-MRAM-architectuur aangepast om CRAM mogelijk te maken. Het CRAM‑ontwerp integreert micro‑transistors in elke cel en bouwt voort op op magnetische tunneljunction gebaseerde CPU’s.
Deze benadering biedt betere controle en prestaties. Het team stapelde vervolgens een extra transistor, logische lijn (LL) en logische bitlijn (LBL) in elke cel, waardoor realtime berekeningen binnen dezelfde geheugenbank mogelijk zijn.

Geschiedenis van CRAM

De AI-systemen van vandaag hebben een nieuwe structuur nodig die aan hun computationele eisen kan voldoen zonder de duurzaamheidszorgen te verminderen. Door deze vraag te erkennen, besloten ingenieurs voor het eerst dieper in de mogelijkheden van CRAM te duiken. Hun resultaten werden gepubliceerd in het wetenschappelijke tijdschrift NPJ onder het rapport “Experimentele demonstratie van op magnetische tunneljunction gebaseerde computationele random-access memory.”

De eerste CRAM maakte gebruik van een MTJ‑apparaatstructuur. Deze spintronic‑apparaten verbeterden eerdere opslagmethoden door het gebruik van elektronen‑spin in plaats van transistors om gegevens over te dragen en op te slaan met de MTJ‑methode. Deze methode maakt gebruik van een dunne tunneling‑barrière die zich tussen twee ferromagnetische (FM) lagen bevindt. Een kleine spanning zorgt ervoor dat deze elektronen worden geëxciteerd en tussen de lagen worden overgedragen.

Deze overdracht creëert stroom. Het biedt ook een efficiënte manier om geheugen te lezen en te schrijven. De nieuwste CRAM‑upgrade brengt dit concept verder, levert hoge‑prestatie resultaten op terwijl het energiebehoeften vermindert.

CRAM‑studie

Het CRAM‑concept wordt al jaren ontwikkeld. Er is echter tot nu toe weinig diepgaand getest op de mogelijkheden ervan. Opmerkelijk is dat de studie een verscheidenheid aan gepatenteerde concepten heeft benut die door het team en haar voorgangers zijn ontwikkeld. Bijvoorbeeld, Magnetic Random Access Memory (MRAM), een essentieel onderdeel van de huidige smartwatches, sensoren en microcontrollers, werd gebruikt in combinatie met aangepaste MTJ‑apparaten om de prestaties te verbeteren.

CRAM‑tests

De testfase vereiste dat onderzoekers de prestaties van chips tijdens logische uitvoering maten. De onderzoekers maakten gebruik van diverse strategieën om zo diepgaand mogelijk inzicht te krijgen, waaronder scalair optellen, vermenigvuldigen en matrixvermenigvuldiging.
De eerste stap van het proces was het meten van activiteit bij basisgeheugenbewerkingen. Vervolgens verhoogde het team de berekeningen met 2‑, 3‑ en 5‑invoerlogische bewerkingen. Na deze fase werd een 1‑bit volledige adder met twee verschillende ontwerpen geïntroduceerd en opnieuw getest. De laatste test omvatte een 1 × 7‑array, die interessante resultaten opleverde.

CRAM-testresultaten tonen lagere energiebehoeften

De testresultaten toonden aan hoe efficiënt het nieuwe proof‑of‑concept proces is in vergelijking met de huidige modellen. De gegevens lieten een gemiddeld 1000‑voudig lager stroomverbruik tijdens berekeningen zien. In combinatie met andere energiebesparende methoden liet de aanpak energiebesparingen van respectievelijk 2.500‑ en 1.700‑maal minder zien ten opzichte van traditionele methoden.

Aanvullende functies

Een andere interessante ontdekking was dat CRAM gelijktijdige random‑access van gegevens en operanden mogelijk maakt. Dit voordeel verbetert de parallelle rekenmogelijkheden aanzienlijk, wat in de toekomst kan leiden tot veiligere en stabielere protocollen.

Voordelen die CRAM op de markt brengt

Het onderzoeken van de voordelen die CRAM biedt, helpt u beter te begrijpen waarom dit een baanbrekende doorbraak is die binnenkort een directe impact kan hebben op de dagelijkse activiteiten van de gemiddelde persoon. CRAM stelt ontwikkelaars en fabrikanten in staat hardware te creëren die perfect is afgestemd op de primaire taak, waardoor energiebehoeften worden verminderd en de prestaties worden verbeterd.

AI – Focus

Kunstmatige Intelligentie verandert al zoveel. Deze systemen zijn zeer gewild, maar vereisen specifieke hardware en software om correct te functioneren. CRAM biedt fabrikanten de mogelijkheid om vanaf dag één hardware te creëren die is ontworpen om data‑intensieve, geheugen‑centrische of energie‑gevoelige toepassingen te ondersteunen.
In de toekomst zal CRAM geavanceerde AI‑algoritmen aandrijven, zoals bio‑informatica, signaalverwerking, neurale netwerken, edge computing en de meest geavanceerde militaire hardware. De CRAM‑array stelt ontwikkelaars in staat machine‑learning‑applicaties te creëren met betere prestaties die flexibel genoeg zijn om aan de behoeften van de gemeenschap te voldoen.

Gebruikt een bewezen structuur

Een ander groot voordeel dat CRAM een slimme optie maakt, is het gebruik van bewezen hardware‑systemen. Opmerkelijk is dat CRAM gebruikmaakt van gangbare en volwassen technologie, wat het vertrouwen van consumenten vergroot. Het zorgt er bovendien voor dat hardware‑problemen een minimaal zorgpunt voor gebruikers vormen.

Flexibel

CRAM biedt echte flexibiliteit aan ontwikkelaars. Programmeurs kunnen gegevens overal binnen de geheugenarray berekenen met behulp van verschillende populaire logische bewerkingen. Specifiek ondersteunt CRAM AND, OR, NAND, NOR en MAJ, wat bijdraagt aan de veelzijdigheid.

Sneller

Snelheid is een ander voordeel dat niet over het hoofd kan worden gezien. Het kost tijd om gegevens over te dragen tussen logica‑ en geheugenopslaglocaties. Hoewel deze tijd slechts een fractie van een seconde kan zijn, kan het zich opstapelen en leiden tot een verminderde gebruikerservaring. CRAM elimineert de noodzaak van trage en energie‑intensieve gegevensoverdrachten door hetzelfde geheugen deze taken te laten uitvoeren.

Parallelisme

Parallelisme is het vermogen om dezelfde code gelijktijdig parallel uit te voeren. Het is een essentieel onderdeel van veel productie‑, veiligheids‑ en industriële processen. Door de structuur van CRAM kan dezelfde logica parallel over dezelfde geheugenarray worden uitgevoerd.

Productiekosten

CRAM zal ook de productiekosten voor high‑end apparaten verlagen door het aantal onderdelen dat nodig is om een product te bouwen te verminderen. CRAM gebruikt hetzelfde geheugen voor logica en data, wat betekent dat fabrikanten chips met minder componenten kunnen maken. Deze structuur verlaagt de kosten en verbetert de betrouwbaarheid en prestaties.

Onderzoekers

Dit onderzoek werd geleid door Tema van de Universiteit van Minnesota. De hoofdonderzoekers waren onder andere Jian-Ping Wang, McKnight‑professor, en Robert F. Hartmann. Daarnaast speelden Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert en Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury en Salonik Resch een cruciale rol in de studie. Een team van de Universiteit van Arizona assisteerde ook, waaronder Pravin Khanal, Ali Habiboglu en professor Weigang Wang.
Het onderzoek werd mogelijk gemaakt door subsidies van de U.S. Defense Advanced Research Projects Agency (DARPA), het National Institute of Standards and Technology (NIST), de National Science Foundation (NSF) en Cisco Inc. Het project voerde ook tests en studies uit bij het Minnesota Nano Center en het Minnesota Supercomputing Institute van de Universiteit van Minnesota.

Twee bedrijven die kunnen profiteren van verminderde AI‑energiebehoeften

Er zijn veel fabrikanten die extra inkomsten kunnen genereren of hun productlijn kunnen verbeteren door simpelweg CRAM‑opties te integreren. Deze bedrijven hebben een sterke marktpositie en de mogelijkheid om nieuwe technologie op een manier te integreren die hun aanbod aanzienlijk verbetert.

Microsoft

MSFT Prijsgrafiek

Microsoft (MSFT ) is een belangrijke speler op de AI‑ en computermarkten. Het bedrijf blijft een pionier in de sector en is al meer dan een decennium een belangrijke bijdrager aan technologie. Vandaag heeft Microsoft een grote positie in de AI‑sector en streeft ernaar een levensvatbare concurrent te blijven.
Microsoft AI‑diensten hebben een groot voordeel ten opzichte van concurrenten omdat het nog steeds het belangrijkste besturingssysteem is dat wereldwijd wordt gebruikt. Daardoor hebben Microsoft AI‑systemen een enorm publiek van gebruikers en toegankelijke data. Deze data heeft Microsoft geholpen krachtige nieuwe AI‑algoritmen te creëren die op een dag de kern zullen vormen van de nieuwste Windows‑besturingssystemen.

Arm Holdings

ARM Prijsgrafiek

Arm Holdings betrad de markt in 1990. Het werd opgericht door Sophie Wilson en Steve Furber. Oorspronkelijk heette het bedrijf Advanced RISC Machines (ARM) Ltd., voordat het in 1998 werd hernoemd tot Arm Holdings. In het begin van de jaren 2000 verwierf Arm Holdings een reputatie als kwaliteitsfabrikant die GPU’s en andere producten op de markt bracht.
Vandaag blijft het een toonaangevende IP‑leverancier en halfgeleiderfabrikant. Het bedrijf werd in 2016 door Softbank gekocht voor $32 miljard en heeft sindsdien aanzienlijke groei doorgemaakt. De fabrikant zou zijn ecologische voetafdruk aanzienlijk kunnen verkleinen terwijl hij de prestaties en inkomsten verbetert door CRAM in hun huidige aanbod te integreren.

De toekomst van AI zal afhangen van haar energiebehoeften

De belangrijkste factor die de adoptie van AI beperkt, zijn de energiebehoeften. Deze eisen dwingen mensen om buiten de gebaande paden te denken en oplossingen te creëren voor knelpunten die de prestaties beperken. Deze nieuwste studie opent de deur naar een betere toekomst waarin AI‑diensten toegang krijgen tot low‑power oplossingen die de hele gemeenschap versterken.

Leer nu over andere coole kunstmatige‑intelligentieprojecten nu.