For at AI kan realisere sit potentiale, skal energikravene adresseres

Artificial Intelligence (AI) fortsætter med at drive den fjerde industrielle revolution, samtidig med sine energikrav. I dag kan alle få adgang til avancerede AI‑værktøjer og integrere dem i deres systemer for at forbedre effektiviteten og reducere arbejdsbyrden. Den energi, der kræves for at drive disse algoritmer, stiger, efterhånden som efterspørgslen efter AI‑applikationer vokser. Som følge heraf påpeger miljøforkæmpere allerede bæredygtighedsproblemer omkring teknologien. Heldigvis har et team af forskere skabt et yderst effektivt alternativ. Her er, hvad du behøver at vide.

Stigende AI-energikrav skaber en energikrise

Nye AI-systemer fortsætter med at blive lanceret med stigende hyppighed. Den seneste globale energiforbrugsprognose forudsiger, at AI-energiforbruget vil fordobles fra 460 terawatt‑timer (TWh) i 2022 til 1.000 TWh i 2026. Disse protokoller omfatter anbefalingssystemer, store sprogmodeller (LLM’er), billed‑ og videobehandling og -oprettelse, Web3‑tjenester og mere.

I henhold til forskerens undersøgelse kræver AI-systemer dataoverførsel, der svarer til “200 gange den energi, der bruges til beregning, når man læser tre 64‑bit kildeoperander og skriver én 64‑bit destinationsoperand til en ekstern hovedhukommelse.”  Derfor er reduktion af energiforbruget for kunstig intelligens (AI) beregningsapplikationer en central bekymring for udviklere, som skal overvinde denne hindring for at opnå storskala adoption og modne teknologien.

Heldigvis har en gruppe innovative ingeniører fra University of Minnesota trædt frem med en mulig løsning, der kan reducere strømforbruget for AI‑protokoller med størrelsesordener. For at opnå dette introducerer forskerne et nyt chipdesign, der forbedrer Von Neumann‑arkitekturen, som findes i de fleste chips i dag.

Von Neumann-arkitektur

John von Neumann revolutionerede computersektoren i 1945, da han adskilte logik‑ og hukommelsesenheder, hvilket muliggør mere effektiv beregning på den tid. I denne opsætning gemmes logik og data på forskellige fysiske steder. Hans opfindelse forbedrede ydeevnen, fordi begge kunne tilgås samtidigt.

Kilde – University of Minnesota Twin Cities

RAM

I dag bruger de fleste computere stadig Von Neumann‑strukturen, hvor din harddisk gemmer dine programmer, og random access memory (RAM) indeholder programinstruktioner og midlertidige data. Nutidens RAM udfører denne opgave ved hjælp af forskellige metoder, herunder DRAM, som udnytter kondensatorer, og SRAM, som har flere kredsløb.
Bemærkelsesværdigt har denne struktur fungeret fremragende i årtier. Dog kræver den konstante dataoverførsel mellem logik og hukommelse meget energi. Denne energioverførsel stiger, efterhånden som datakrav og beregningsbelastning øges. Som følge heraf skaber den en præstationsflaskehals, der begrænser effektiviteten, når computerkraften vokser.

Forsøgte forbedringer af energikrav

Gennem årene er der gjort mange forsøg på at forbedre Von Neumann‑arkitekturen. Disse forsøg har skabt forskellige variationer af hukommelsesprocessen med målet at bringe de to handlinger fysisk tættere på hinanden. I øjeblikket omfatter de tre hovedvariationer.

Nær-hukommelsesbehandling

Dette opgradering flytter logik fysisk tættere på hukommelsen. Det blev opnået ved brug af en 3D‑stablet infrastruktur. At flytte logikken tættere reducerede afstanden og den energi, der kræves for at overføre de data, der er nødvendige for at drive beregninger. Denne arkitektur leverede forbedret effektivitet.

In‑memory computing

En anden nuværende metode til at forbedre beregningsarkitekturen er in‑memory computing. Bemærkelsesværdigt er der to variationer af denne chiptype. Den oprindelige integrerer logikklustre ved siden af hukommelsen på en enkelt chip. Denne implementering muliggør fjernelse af transistorer, der blev brugt i forgængerne. Dog mener mange, at denne metode ikke er “ægte” i‑memory‑struktur, fordi den stadig har separate hukommelseslokationer, hvilket betyder, at de oprindelige præstationsproblemer, der skyldtes dataoverførslen, stadig eksisterer, omend i mindre skala.

Ægte in‑memory

Den sidste type chiparkitektur er “ægte in‑memory”. For at kvalificere som denne arkitekturtype skal hukommelsen udføre beregninger direkte. Denne struktur forbedrer kapaciteter og ydeevne, fordi dataene til logikoperationer forbliver på deres placering. Forskerens seneste version af ægte in‑memory‑arkitektur er CRAM.

(CRAM)

Computational random-access memory (CRAM) muliggør ægte in‑memory‑beregninger, da dataene behandles inden for samme array. Forskerne modificerede en standard 1T1M STT‑MRAM‑arkitektur for at gøre CRAM muligt. CRAM‑layoutet integrerer mikratransistorer i hver celle og bygger på de magnetiske tunneljunction‑baserede CPU’er.
Dette tilgang giver bedre kontrol og ydeevne. Holdet stablede derefter en ekstra transistor, logiklinje (LL) og logikbitlinje (LBL) i hver celle, hvilket muliggør realtidsberegning inden for samme hukommelsesbank.

Historie om CRAM

Nutidens AI-systemer kræver en ny struktur, der kan imødekomme deres beregningskrav uden at forværre bæredygtighedsbekymringer. Med erkendelse af dette behov besluttede ingeniørerne at dykke dybt ned i CRAM’s kapaciteter for første gang. Deres resultater blev offentliggjort i det videnskabelige tidsskrift NPJ under rapporten “Eksperimentel demonstration af magnetisk tunneljunction‑baseret computational random-access memory.”

Den første CRAM udnyttede en MTJ‑enhedsstruktur. Disse spintronic‑enheder forbedrede tidligere lagringsmetoder ved at bruge elektronspins i stedet for transistorer til at overføre og gemme data ved hjælp af MTJ‑metoden. Denne metode anvender en tynd tunnellag, der ligger mellem to ferromagnetiske (FM) lag. En lille spænding får disse elektroner til at blive exciteret og overføre mellem lagene.

Dette overførsel skaber strøm. Det giver også en effektiv måde at læse og skrive hukommelse på. Den seneste CRAM‑opgradering tager dette koncept videre, leverer højtydende resultater samtidig med at energikravene reduceres.

CRAM‑undersøgelse

CRAM‑konceptet har været under udvikling i flere år. Der har dog indtil nu ikke været meget dybdegående testning af dets kapaciteter. Bemærkelsesværdigt udnyttede undersøgelsen en række patenterede koncepter udviklet af holdet og dets forgængere undervejs. For eksempel blev Magnetic Random Access Memory (MRAM), som er en vital komponent i nutidens smartwatches, sensorer og mikrokontrollere, brugt sammen med modificerede MTJ‑enheder for at forbedre ydeevnen.

CRAM‑test

Testfasen krævede, at forskerne målte chippræstationerne under logisk udførelse. Forskerne anvendte en række strategier for at opnå den dybeste indsigt, herunder skalaraddition, multiplikation og matrixmultiplikation.
Det første trin i processen var at måle aktivitet under grundlæggende hukommelsesoperationer. Derfra steg holdet op i beregning ved brug af 2‑, 3‑ og 5‑input logikoperationer. Efter denne fase blev en 1‑bit fuldadder med to forskellige designs introduceret og testet igen. Den endelige test omfattede et 1 × 7‑array, som gav interessante resultater.

CRAM‑testresultater viser lavere energikrav

Testresultaterne demonstrerede, hvor effektiv den nye proof‑of‑concept‑proces er sammenlignet med nutidens modeller. Dataene viste et gennemsnit på 1000‑gange mindre strømforbrug under beregning. Når den kombineres med andre energibesparende metoder, viste tilgangen energibesparelser på 2.500 og 1.700 gange mindre sammenlignet med traditionelle metoder.

Yderligere funktioner

En anden interessant opdagelse var, at CRAM muliggør simultan tilfældig adgang til data og operander. Denne fordel forbedrer i høj grad parallelle beregningskapaciteter, hvilket kan resultere i mere sikre og stabile protokoller i fremtiden.

Fordele CRAM bringer til markedet

Undersøgelse af de fordele, som CRAM bringer til bordet, vil hjælpe dig med bedre at forstå, hvorfor dette er et banebrydende gennembrud, der snart kan have en umiddelbar indvirkning på den gennemsnitlige persons daglige aktiviteter. CRAM gør det muligt for udviklere og producenter at skabe hardware, der er perfekt konfigureret til sin primære opgave, hvilket reducerer energikravene og forbedrer ydeevnen.

AI – Fokus

Kunstig intelligens ændrer allerede så meget. Disse systemer er i høj efterspørgsel, men kræver specifik hardware og software for at fungere korrekt. CRAM giver producenter mulighed for at skabe hardware fra dag ét, designet til at understøtte datatunge, hukommelsescentrerede eller energisensitive applikationer.
I fremtiden vil CRAM drive avancerede AI-algoritmer såsom bioinformatik, signalbehandling, neurale netværk, edge computing og den mest avancerede militære hardware. CRAM‑arrayet vil gøre det muligt for udviklere at skabe bedre præsterende maskinlæringsapplikationer, der er fleksible nok til at imødekomme samfundets behov.

Bruger en gennemprøvet struktur

En anden stor fordel, der gør CRAM til et smart valg, er brugen af gennemprøvede hardware‑systemer. Bemærkelsesværdigt bruger CRAM almindelig og moden teknologi, hvilket øger forbrugertilliden. Det sikrer også, at hardwareproblemer er en minimal bekymring for brugerne.

Fleksibel

CRAM giver ægte fleksibilitet til udviklere. Programmører kan beregne data hvor som helst inden for memory‑arrayet ved brug af en række populære logikoperationer. Specifikt understøtter CRAM AND, OR, NAND, NOR og MAJ, hvilket tilføjer til dets alsidighed.

Hurtigere

Hastighed er en anden fordel, der ikke kan overses. Det tager tid for data at overføre mellem logik‑ og hukommelseslagringssteder. Selvom denne tid kun er en brøkdel af et sekund, kan den ophobes og føre til en forringet brugeroplevelse. CRAM eliminerer behovet for langsomme og energikrævende dataoverførsler ved at lade den samme hukommelse stå for disse opgaver.

Parallelisme

Parallelisme er evnen til at køre den samme kode parallelt på samme tid. Det er en vital komponent i mange fremstillings-, sikkerheds- og industrielle operationer. På grund af CRAM’s struktur kan den køre den samme logik parallelt over det samme memory‑array samtidigt.

Produktionsomkostninger

CRAM vil også sænke produktionsomkostningerne for high‑end‑enheder ved at reducere antallet af dele, der er nødvendige for at bygge et produkt. CRAM bruger den samme hukommelse til logik og data, hvilket betyder, at producenter kan skabe chips med færre komponenter. Denne struktur reducerer omkostninger og forbedrer pålidelighed og ydeevne.

Forskere

Dette forskningsprojekt blev ledet af Tema fra University of Minnesota. De ledende forskere omfattede Jian-Ping Wang, McKnight‑professor, og Robert F. Hartmann. Derudover spillede Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert og Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury og Salonik Resch vitale roller i undersøgelsen. Et team fra Arizona University assisterede også, herunder Pravin Khanal, Ali Habiboglu og professor Weigang Wang.
Forskningen blev muliggjort af tilskud fra U.S. Defense Advanced Research Projects Agency (DARPA), National Institute of Standards and Technology (NIST), National Science Foundation (NSF) og Cisco Inc. Projektet udførte også tests og undersøgelser ved Minnesota Nano Center og Minnesota Supercomputing Institute på University of Minnesota.

To virksomheder, der kunne drage fordel af reducerede AI-energikrav

Der er mange producenter, der kunne sikre ekstra indtægter eller forbedre deres produktlinje blot ved at integrere CRAM‑muligheder. Disse virksomheder har stærke positioner på markedet og har evnen til at integrere ny teknologi på en måde, der væsentligt forbedrer deres tilbud.

Microsoft

MSFT Prisdiagram

Microsoft (MSFT ) er en vigtig aktør på AI‑ og computermarkedet. Virksomheden forbliver en pioner i sektoren og har i over et årti været en væsentlig bidragyder til teknologi. I dag har Microsoft en betydelig andel i AI‑sektoren og søger at forblive en levedygtig konkurrent fremadrettet.
Microsofts AI‑tjenester har en stor fordel i forhold til konkurrenterne, da de fortsat er det primære operativsystem i brug globalt. Derfor har Microsofts AI‑systemer et enormt publikum af brugere og tilgængelige data. Disse data har hjulpet Microsoft med at skabe kraftfulde nye AI‑algoritmer, som en dag vil fungere som kernen i de nyeste Windows‑operativsystemer.

Arm Holdings

ARM Prisdiagram

Arm Holdings gik ind på markedet i 1990. Det blev grundlagt af Sophie Wilson og Steve Furber. Oprindeligt blev virksomheden kaldt Advanced RISC Machines (ARM) Ltd., før den i 1998 skiftede navn til Arm Holdings. I begyndelsen af 2000’erne sikrede Arm Holdings sig et ry som en kvalitetsproducent, der leverer GPU’er og andre produkter til markedet.
I dag er den fortsat en førende IP‑udbyder og halvlederproducent. Virksomheden blev købt i 2016 af Softbank for $32 mia. og har oplevet betydelig vækst siden. Producenten kunne i høj grad reducere sit miljømæssige fodaftryk, samtidig med at den forbedrer ydeevne og indtægter ved at integrere CRAM i deres nuværende tilbud.

AI’s fremtid vil afhænge af dens energikrav

Hovedfaktoren, der begrænser AI‑adoption, er dens energikrav. Disse krav kræver, at folk tænker ud af boksen for at skabe løsninger på flaskehalse, der begrænser ydeevnen. Denne seneste undersøgelse åbner døren til en lysere fremtid, hvor AI‑tjenester får adgang til lav‑strøm‑løsninger, der styrker hele samfundet.

Lær om andre spændende kunstig intelligens‑projekter nu.