For at AI skal realisere sitt potensial, må energikravene adresseres

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Økende AI-energikrav skaper en energikrise

New AI systems continue to launch at an increasing frequency. The most recent global energy use forecast predicts that AI energy consumption will double from 460 terawatt-hours (TWh) in 2022 to 1,000 TWh by 2026. These protocols include recommenders, large language models (LLMs), image and video processing and creation, Web3 services, and more.

Ifølge forskerens studie krever AI-systemer datatransfer som tilsvarer «200 ganger mer energi enn beregning når man leser tre 64‑bits kildeoperander og skriver én 64‑bits destinasjonsoperand til minne utenfor chipen.»  Derfor er reduksjon av energiforbruket for kunstig intelligens (AI)‑databehandlingsapplikasjoner et viktig fokus for utviklere som må overvinne dette hinderet for å oppnå storskalig adopsjon og modne teknologien.

Heldigvis har en gruppe innovative ingeniører fra University of Minnesota tatt initiativet med en mulig løsning som kan redusere strømforbruket til AI-protokoller med flere størrelsesordener. For å oppnå dette introduserer forskerne et nytt chipdesign som forbedrer Von Neumann‑arkitekturen som finnes i de fleste chipper i dag.

Von Neumann‑arkitektur

John von Neumann revolusjonerte datasektoren i 1945 da han skilte logikk‑ og minneenheter, noe som muliggjorde mer effektiv databehandling på den tiden. I denne ordningen lagres logikk og data på ulike fysiske steder. Oppfinnelsen hans forbedret ytelsen fordi begge kunne nås samtidig.

Kilde – University of Minnesota Twin Cities

RAM

I dag bruker de fleste datamaskiner fortsatt Von Neumann‑strukturen med harddisken som lagrer programmene dine og den tilfeldige tilgangshukommelsen (RAM) som inneholder programinstruksjoner og midlertidige data. Dagens RAM utfører denne oppgaven ved hjelp av ulike metoder, inkludert DRAM som bruker kondensatorer, og SRAM som har flere kretser.

Dette oppsettet har fungert utmerket i flere tiår. Imidlertid krever den konstante overføringen av data mellom logikk og minne mye energi. Denne energioverføringen øker etter hvert som datakravene og den beregningsmessige belastningen øker. Dermed skaper det en ytelsesflaskehals som begrenser effektiviteten når datakraften øker.

Forsøk på forbedringer av energikravene

Gjennom årene har mange forsøk blitt gjort for å forbedre Von Neumann‑arkitekturen. Disse forsøkene har skapt ulike varianter av minneprosessen med mål om å bringe de to handlingene fysisk nærmere hverandre. For øyeblikket inkluderer de tre hovedvariantene.

Nær-minne‑behandling

Denne oppgraderingen flytter logikken fysisk nærmere minnet. Dette ble oppnådd ved bruk av en 3D‑stablet infrastruktur. Å flytte logikken nærmere reduserte avstanden og energien som trengs for å overføre dataene som kreves for å drive beregningene. Denne arkitekturen ga forbedret effektivitet.

In‑minne‑databehandling

En annen nåværende metode for å forbedre beregningsarkitekturen er in‑minne‑databehandling. Merk at det finnes to varianter av denne chip‑stilen. Den opprinnelige integrerer klynger av logikk ved siden av minnet på én chip. Denne implementeringen gjør det mulig å eliminere transistorer som ble brukt i forgjengerne. Imidlertid mener mange at denne metoden ikke er «ekte» i‑minne‑struktur fordi den fortsatt har separate minnelokasjoner, noe som betyr at de opprinnelige ytelsesproblemene som oppsto på grunn av datatransfer fortsatt eksisterer, om enn i mindre skala.

Ekte in‑minne

Den siste typen chip‑arkitektur er «ekte in‑minne». For å kvalifisere som denne typen arkitektur må minnet utføre beregninger direkte. Denne strukturen forbedrer muligheter og ytelse fordi dataene for logikkoperasjoner forblir på sin plass. Forskernes nyeste versjon av ekte in‑minne‑arkitektur er CRAM.

(CRAM)

Computational random-access memory (CRAM) gjør ekte in‑minne‑beregninger mulig ettersom dataene behandles innenfor samme array. Forskerne modifiserte en standard 1T1M STT‑MRAM‑arkitektur for å gjøre CRAM mulig. CRAM‑layouten integrerer mikrøtransistorer i hver celle og bygger på CPU‑er basert på magnetisk tunnel‑junction.
This approach provides better control and performance. The team then stacked an additional transistor, logic line (LL), and logic bit line (LBL) in each cell, enabling real-time computation within the same memory bank.

Historie om CRAM

Dagens AI‑systemer krever en ny struktur som kan møte deres beregningskrav uten å forverre bærekraftsspørsmål. Etter å ha erkjent dette behovet, bestemte ingeniørene seg for å gå i dybden på CRAM‑kapasiteter for første gang. Resultatene deres ble publisert i det vitenskapelige tidsskriftet NPJ under rapporten «Experimental demonstration of magnetic tunnel junction-based computational random-access memory.»

Den første CRAM utnyttet en MTJ‑enhetsstruktur. Disse spintronic‑enhetene forbedret tidligere lagringsmetoder ved å bruke elektronspinn i stedet for transistorer for å overføre og lagre data ved hjelp av MTJ‑metoden. Denne metoden bruker en tynn tunnellbarriere som ligger mellom to ferromagnetiske (FM) lag. En liten spenning får disse elektronene til å bli eksitert og overføre mellom lagene.

This transfer creates current. It also provides an efficient way to read and write memory. The latest CRAM upgrade takes this concept further, providing high-performance results while reducing energy demands.

CRAM‑studie

CRAM‑konseptet har vært under utvikling i flere år. Det har imidlertid ikke vært mye grundig testing av dets kapasiteter før nå. Merk at studien utnyttet en rekke patenterte konsepter utviklet av teamet og deres forgjengere underveis. For eksempel ble Magnetic Random Access Memory (MRAM), som er en viktig komponent i dagens smartklokker, sensorer og mikrokontrollere, brukt sammen med modifiserte MTJ‑enheter for å forbedre ytelsen.

CRAM‑tester

Testfasen krevde at forskerne målte ytelsen til chipper under logikkutførelse. Forskerne benyttet en rekke strategier for å oppnå så dyp innsikt som mulig, inkludert skalaraddisjon, multiplikasjon og matrise‑multiplikasjon.
Det første trinnet i prosessen var å måle aktivitet under grunnleggende minneoperasjoner. Derfra økte teamet beregningene ved å bruke 2‑, 3‑ og 5‑inngangs logikkoperasjoner. Etter denne fasen ble en 1‑bits fulladder med to ulike design introdusert og testet på nytt. Den siste testen inkluderte et 1 × 7‑array, som ga interessante resultater.

CRAM‑testresultater viser lavere energikrav

Testresultatene viste hvor effektiv den nye proof‑of‑concept‑prosessen er sammenlignet med dagens modeller. Dataene viste i gjennomsnitt 1000‑ganger mindre strømforbruk under beregning. Når den kombineres med andre strømsparende metoder, demonstrerte tilnærmingen energisparing på 2 500‑ og 1 700‑ganger mindre sammenlignet med tradisjonelle metoder.

Tilleggsfunksjoner

En annen interessant oppdagelse var at CRAM muliggjorde samtidig tilfeldig tilgang til data og operander. Denne fordelen forbedrer i stor grad parallelle beregningskapasiteter, noe som kan føre til sikrere og mer stabile protokoller i fremtiden.

Fordeler CRAM gir til markedet

Å undersøke fordelene som CRAM bringer til bordet vil hjelpe deg å forstå bedre hvorfor dette er et spillendrende gjennombrudd som snart kan ha en umiddelbar effekt på den gjennomsnittlige personens daglige aktiviteter. CRAM gjør det mulig for utviklere og produsenter å lage maskinvare som er perfekt konfigurert for sin primære oppgave, noe som reduserer energikravene og forbedrer ytelsen.

AI – Fokus

Kunstig intelligens endrer allerede så mye. Disse systemene er i høy etterspørsel, men krever spesifikk maskinvare og programvare for å fungere korrekt. CRAM gir produsenter muligheten til å lage maskinvare fra dag én som er designet for å støtte dataintensive, minne‑sentrerte eller strømsensitive applikasjoner.

I fremtiden vil CRAM drive avanserte AI‑algoritmer som bioinformatikk, signalbehandling, nevrale nettverk, edge‑computing og den mest avanserte militære maskinvaren. CRAM‑arrayet vil gjøre det mulig for utviklere å lage bedre ytende maskinlæringsapplikasjoner som er fleksible nok til å møte samfunnets behov.

Bruker en velprøvd struktur

En annen stor fordel som gjør CRAM til et smart valg er bruken av velprøvde maskinvaresystemer. Merk at CRAM bruker vanlig og moden teknologi, noe som øker forbrukertilliten. Det sikrer også at maskinvareproblemer er et minimalt bekymringspunkt for brukerne.

Fleksibel

CRAM gir ekte fleksibilitet til utviklere. Programmerere kan beregne data hvor som helst innenfor minnearrayet ved hjelp av en rekke populære logikkoperasjoner. Spesielt støtter CRAM AND, OR, NAND, NOR og MAJ, noe som øker allsidigheten.

Raskere

Hastighet er en annen fordel som ikke kan overses. Det tar tid for data å overføres mellom logikk‑ og minnelagringssteder. Selv om denne tiden kun er en brøkdel av et sekund, kan den bygge seg opp og føre til en redusert brukeropplevelse. CRAM eliminerer behovet for langsomme og energikrevende dataoverføringer ved å la samme minne håndtere disse oppgavene.

Parallelisme

Parallelisme er evnen til å kjøre den samme koden parallelt samtidig. Det er en viktig komponent i mange produksjons‑, sikkerhets‑ og industrielle operasjoner. På grunn av CRAM‑strukturen kan den kjøre den samme logikken parallelt over samme minnearray samtidig.

Produksjonskostnader

CRAM vil også senke produksjonskostnadene for avanserte enheter ved å redusere antall deler som trengs for å bygge et produkt. CRAM bruker samme minne for logikk og data, noe som betyr at produsenter kan lage chipper med færre komponenter. Denne strukturen reduserer kostnader og forbedrer pålitelighet og ytelse.

Forskere

Denne forskningen ble ledet av Tema fra University of Minnesota. De ledende forskerne inkluderte Jian-Ping Wang, McKnight‑professor, og Robert F. Hartmann. I tillegg spilte Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert og Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury og Salonik Resch viktige roller i studien. Et team fra Arizona University bidro også, inkludert Pravin Khanal, Ali Habiboglu og professor Weigang Wang.

Forskningen ble muliggjort av tilskudd fra U.S. Defense Advanced Research Projects Agency (DARPA), National Institute of Standards and Technology (NIST), National Science Foundation (NSF) og Cisco Inc. Prosjektet gjennomførte også tester og studier ved Minnesota Nano Center og Minnesota Supercomputing Institute ved University of Minnesota.

To selskaper som kan dra nytte av reduserte AI‑energikrav

Det finnes mange produsenter som kan sikre ekstra inntekter eller forbedre produktlinjen sin ved å integrere CRAM‑alternativer. Disse selskapene har sterke posisjoner i markedet og har evnen til å integrere ny teknologi på en måte som betydelig forbedrer deres tilbud.

Microsoft

MSFT Prisdiagram

Microsoft (MSFT ) er en viktig aktør i AI‑ og datamarkederne. Selskapet er fortsatt en pioner i sektoren og har vært en betydelig bidragsyter til teknologi i over et tiår. I dag har Microsoft en stor andel i AI‑sektoren og søker å forbli en levedyktig konkurrent fremover.

Microsofts AI‑tjenester har en stor fordel over konkurrentene fordi de fortsatt er det viktigste operativsystemet i bruk globalt. Dermed har Microsofts AI‑systemer et enormt publikum av brukere og tilgjengelige data. Disse dataene har hjulpet Microsoft med å skape kraftige nye AI‑algoritmer som en dag vil fungere som kjernen i de nyeste Windows‑operativsystemene.

Arm Holdings

ARM Prisdiagram

Arm Holdings kom inn på markedet i 1990. Det ble grunnlagt av Sophie Wilson og Steve Furber. Opprinnelig het selskapet Advanced RISC Machines (ARM) Ltd. før det ble omdøpt til Arm Holdings i 1998. På begynnelsen av 2000‑tallet sikret Arm Holdings seg et rykte som en kvalitetsprodusent som tilbyr GPU‑er og andre produkter til markedet.

I dag er det fortsatt en ledende IP‑leverandør og halvlederprodusent. Selskapet ble kjøpt opp i 2016 av Softbank for $32 milliarder og har opplevd betydelig vekst siden. Produsenten kunne kraftig redusere sitt miljøavtrykk samtidig som de forbedrer ytelse og inntekter ved å integrere CRAM i sine nåværende tilbud.

AIs fremtid vil avhenge av energikravene

Den viktigste faktoren som begrenser AI‑adopsjon er energikravene. Disse kravene krever at folk tenker utenfor boksen for å skape løsninger på flaskehalser som begrenser ytelsen. Denne siste studien åpner døren til en lysere fremtid hvor AI‑tjenester vil få tilgang til lav‑strøm‑løsninger som styrker hele samfunnet.

Lær om andre kule kunstig intelligens‑prosjekter nå.