Jotta tekoäly voisi toteuttaa potentiaalinsa, energian tarpeet on ratkaistava

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Kasvavat tekoälyn energian tarpeet aiheuttavat energiakriisin

Uudet tekoälyjärjestelmät julkaistaan yhä useammin. Viimeisin maailmanlaajuinen energian käyttöennuste ennustaa, että tekoälyn energiankulutus kaksinkertaistuu 460 terawattitunnista (TWh) vuonna 2022 1 000 TWh:iin vuoteen 2026 mennessä. Nämä protokollat sisältävät suositusjärjestelmiä, suuria kielimalleja (LLM), kuva- ja videonkäsittelyä ja -luontia, Web3-palveluita ja paljon muuta.

Tutkijan tutkimuksen mukaan tekoälyjärjestelmät vaativat datansiirtoa, joka vastaa “200-kertaista energiaa, joka käytetään laskentaan, kun luetaan kolme 64-bittistä lähdeoperanda ja kirjoitetaan yksi 64-bittinen kohdeoperandi off-chip päämuistiin.” Tämän vuoksi energian kulutuksen vähentäminen tekoälyn (AI) laskentasovelluksissa on keskeinen huolenaihe kehittäjille, joiden on voitava ylittää tämä este saavuttaakseen laajamittaisen käyttöönoton ja teknologian kypsymisen.
Onneksi Minnesotan yliopiston innovaattorit insinöörit ovat astuneet esiin mahdollisella ratkaisulla, joka voisi vähentää tekoälyprotokollien energiankulutusta kymmenien kertaluokassa. Saavuttaakseen tämän tehtävän tutkijat esittelevät uuden sirurakenteen, joka parantaa nykyisin useimmissa siruissa käytettävää Von Neumann -arkkitehtuuria.

Von Neumann -arkkitehtuuri

John von Neumann mullisti tietokonealaa vuonna 1945 erottaessaan logiikka- ja muistiyksiköt, mikä mahdollisti tehokkaamman laskennan. Tässä järjestelyssä logiikka ja data tallennetaan eri fyysisiin paikkoihin. Hänen keksintönsä paransi suorituskykyä, koska molempiin päästiin samanaikaisesti käsiksi.

Lähde – University of Minnesota Twin Cities

RAM

Nykyään useimmat tietokoneet käyttävät edelleen Von Neumann -rakennetta, jossa kiintolevy (HD) tallentaa ohjelmat ja satunnaiskäyttömuisti (RAM) sisältää ohjelmoinnin ohjeet ja väliaikaiset tiedot. Nykyinen RAM toteuttaa tämän tehtävän eri menetelmillä, kuten DRAM, joka hyödyntää kondensaattoreita, ja SRAM, jossa on useita piirejä.
Huomionarvoista on, että tämä rakenne toimi erinomaisesti vuosikymmeniä. Kuitenkin jatkuva datansiirto logiikan ja muistin välillä vaatii paljon energiaa. Tämä energiansiirto kasvaa datavaatimusten ja laskentakuorman lisääntyessä. Näin ollen se luo suorituskykyesteen, joka rajoittaa tehokkuutta laskentatehon kasvaessa.

Yritetyt parannukset energian tarpeisiin

Vuosien varrella on tehty lukuisia yrityksiä parantaa Von Neumannin arkkitehtuuria. Nämä yritykset ovat luoneet erilaisia muistin prosessin variaatioita pyrkimyksenä tuoda kaksi toimintoa fyysisesti lähemmäs toisiaan. Tällä hetkellä kolme päävaihtoehtoa ovat.

Lähi-muistiprosessointi

Tämä päivitys siirtää logiikan fyysisesti lähemmäs muistia. Tämä toteutettiin 3D-pinottua infrastruktuuria käyttäen. Logiikan lähempänä siirtäminen vähensi etäisyyttä ja energiaa, joka tarvitaan laskentaa varten tarvittavan datan siirtoon. Tämä arkkitehtuuri tarjosi parantunutta tehokkuutta.

Muistissa tapahtuva laskenta

Toinen nykyinen tapa parantaa laskenta-arkkitehtuuria on muistissa tapahtuva laskenta. Huomionarvoista on, että tästä sirutyypistä on kaksi variaatiota. Alkuperäinen integroi logiikkaklusterit muistin viereen yhdelle sirulle. Tämä toteutus mahdollistaa edeltäjissä käytettyjen transistoreiden poistamisen. Kuitenkin monet pitävät tätä menetelmää ei‑”todellisena” muistissa tapahtuvana rakenteena, koska sillä on edelleen erilliset muistipaikat, mikä tarkoittaa, että alkuperäiset suorituskykyongelmat, jotka johtuvat datansiirrosta, säilyvät, vaikkakin pienemmässä mittakaavassa.

Todellinen muistissa

Viimeinen siruarkkitehtuurin tyyppi on “todellinen muistissa”. Tämän arkkitehtuurin tyypiksi kelpuuttaakseen muistin on suoritettava laskenta suoraan. Tämä rakenne parantaa kykyjä ja suorituskykyä, koska logiikkaoperaatioiden data pysyy omassa paikassaan. Tutkijan uusin versio todellisesta muistissa -arkkitehtuurista on CRAM.

(CRAM)

Laskennallinen satunnaiskäyttömuisti (CRAM) mahdollistaa todelliset muistissa -laskelmat, kun data käsitellään samassa matriisissa. Tutkijat muokkasivat standardia 1T1M STT-MRAM -arkkitehtuuria tehdäkseen CRAM:ista mahdollisen. CRAM-asettelu integroi mikros transistorit jokaiselle solulle ja perustuu magneettisen tunneliliitoksen pohjaisiin suoritinpiireihin.
Tämä lähestymistapa tarjoaa paremman hallinnan ja suorituskyvyn. Tiimi lisäsi jokaisen solun päälle ylimääräisen transistorin, logiikkalinjan (LL) ja logiikkabittilinjan (LBL), mahdollistaen reaaliaikaisen laskennan samassa muistipankissa.

CRAM:n historia

Nykyiset tekoälyjärjestelmät tarvitsevat uuden rakenteen, joka pystyy täyttämään niiden laskentavaatimukset ilman kestävyyshuolien heikentymistä. Tunnistaen tämän tarpeen, insinöörit päättivät tutkia CRAM:n kykyjä ensimmäistä kertaa. Heidän tuloksensa julkaistiin NPJ-tieteellisessä lehdessä raportissa “Kokeellinen demonstraatio magneettisen tunneliliitoksen pohjaisesta laskennallisesta satunnaiskäyttömuistista.”

Ensimmäinen CRAM hyödynsi MTJ-laiteen rakennetta. Nämä spintroniikka-laitteet paransivat aiempia tallennusmenetelmiä käyttämällä elektronin spiniä transistoreiden sijaan datan siirtoon ja tallentamiseen MTJ-menetelmällä. Tämä menetelmä käyttää ohutta tunnelointikerrosta, joka sijaitsee kahden ferromagneettisen (FM) kerroksen välissä. Pieni jännite saa nämä elektronit innostumaan ja siirtymään kerrosten välillä.

Tämä siirto luo virran. Se tarjoaa myös tehokkaan tavan lukea ja kirjoittaa muistia. Viimeisin CRAM-päivitys vie tämän konseptin pidemmälle, tarjoten korkean suorituskyvyn tuloksia samalla kun energian tarve vähenee.

CRAM-tutkimus

CRAM-konsepti on ollut kehitteillä vuosia. Kuitenkin sen kykyjen perusteellista testausta ei ole tehty ennen tätä. Huomionarvoista on, että tutkimus hyödynsi monia tiimin ja sen edeltäjien kehittämiä patentoituja konsepteja. Esimerkiksi magneettista satunnaiskäyttömuistia (MRAM), joka on olennainen osa nykyisiä älykelloja, antureita ja mikrokontrollereita, käytettiin yhdessä muokattujen MTJ-laitteiden kanssa suorituskyvyn parantamiseksi.

CRAM-testit

Testivaiheessa tutkijoiden täytyi mitata sirujen suorituskykyä logiikan suorituksen aikana. Tutkijat käyttivät erilaisia strategioita saadakseen mahdollisimman syvällisen näkemyksen, mukaan lukien skalaarinen yhteenlasku, kertolasku ja matriisikertolasku.
Prosessin ensimmäinen vaihe oli mitata toiminta perusmuistitoiminnoissa. Sieltä tiimi siirtyi laskentaan käyttäen 2-, 3- ja 5-sisääntöisiä logiikkaoperaatioita. Tämän vaiheen jälkeen otettiin käyttöön 1‑bittinen täysi summaaja kahdella eri rakenteella ja testattiin uudelleen. Lopullinen testaus sisälsi 1 × 7 -matriisin, joka tuotti mielenkiintoisia tuloksia.

CRAM-testitulokset osoittavat alhaisempaa energian tarvetta

Testitulokset osoittivat, kuinka tehokas uusi konseptin todistusprosessi on verrattuna nykyisiin malleihin. Tiedot näyttivät keskimäärin 1000‑kerran vähemmän energiankulutusta laskennan aikana. Kun yhdistetään muihin energiansäästömenetelmiin, lähestymistapa osoitti energiansäästöjä 2 500‑ ja 1 700‑kertaisesti perinteisiin menetelmiin verrattuna.

Lisäominaisuudet

Toinen mielenkiintoinen löytö oli, että CRAM mahdollisti datan ja operandien samanaikaisen satunnaiskäytön. Tämä etu parantaa merkittävästi rinnakkaislaskennan kykyjä, mikä voi johtaa turvallisempiin ja vakaampiin protokolliin tulevaisuudessa.

CRAM:n markkinoille tuomat hyödyt

CRAM:n tarjoamien hyötyjen tarkastelu auttaa ymmärtämään paremmin, miksi tämä on pelin muuttava läpimurto, joka voi pian vaikuttaa keskimääräisen henkilön päivittäisiin toimintoihin. CRAM mahdollistaa kehittäjien ja valmistajien luoda laitteistoja, jotka on konfiguroitu täydellisesti ensisijaiseen tehtäväänsä, vähentäen energian tarvetta ja parantaen suorituskykyä.

AI – Keskittyminen

Tekoäly muuttaa jo paljon. Näiden järjestelmien kysyntä on suuri, mutta ne vaativat erityistä laitteistoa ja ohjelmistoja toimiakseen oikein. CRAM tarjoaa valmistajille mahdollisuuden luoda laitteistoja alusta alkaen, jotka on suunniteltu tukemaan dataintensiivisiä, muistikeskeisiä tai energiatehokkaita sovelluksia.
Tulevaisuudessa CRAM ohjaa edistyneitä tekoälyalgoritmeja, kuten bioinformatiikkaa, signaalinkäsittelyä, neuroverkkoja, reunalaskentaa ja kaikkein kehittyneintä sotilasteknologiaa. CRAM-matriisi mahdollistaa kehittäjien luoda paremmin toimivia koneoppimissovelluksia, jotka ovat tarpeeksi joustavia vastaamaan yhteisön tarpeita.

Käyttää todistettua rakennetta

Toinen merkittävä etu, joka tekee CRAM:ista älykkään vaihtoehdon, on todistettujen laitteistojärjestelmien käyttö. Huomionarvoista on, että CRAM käyttää yleistä ja kypsää teknologiaa, mikä lisää kuluttajien luottamusta. Se myös varmistaa, että laitteisto-ongelmat ovat käyttäjille minimaalisia huolia.

Joustava

CRAM tarjoaa todellista joustavuutta kehittäjille. Ohjelmoijat voivat suorittaa laskentaa missä tahansa muistimatriisissa käyttäen erilaisia suosittuja logiikkaoperaatioita. Erityisesti CRAM tukee AND, OR, NAND, NOR ja MAJ -operaatioita, mikä lisää sen monipuolisuutta.

Nopeampi

Nopeus on toinen etu, jota ei voi sivuuttaa. Datan siirtyminen logiikan ja muistin tallennuspaikkojen välillä vie aikaa. Vaikka tämä aika on vain murto-osa sekunnista, se voi kertyä ja heikentää käyttökokemusta. CRAM poistaa hitaiden ja energiaintensiivisten datansiirtojen tarpeen tekemällä samasta muistista vastuullisen näistä tehtävistä.

Rinnakkaisuus

Rinnakkaisuus on kyky suorittaa sama koodi rinnakkain samanaikaisesti. Se on olennainen osa monia valmistus-, turvallisuus- ja teollisuusprosesseja. CRAM:n rakenteen ansiosta se voi suorittaa saman logiikan rinnakkain samassa muistimatriisissa samanaikaisesti.

Valmistuskustannukset

CRAM myös alentaa huippuluokan laitteiden valmistuskustannuksia vähentämällä tuotteen rakentamiseen tarvittavien osien määrää. CRAM käyttää samaa muistia logiikalle ja datalle, mikä tarkoittaa, että valmistajat voivat luoda siruja vähemmillä komponenteilla. Tämä rakenne vähentää kustannuksia ja parantaa luotettavuutta sekä suorituskykyä.

Tutkijat

Tätä tutkimusta johti Tema Minnesotan yliopistolta. Johtavina tutkijoina olivat Jian-Ping Wang, McKnight-professori, ja Robert F. Hartmann. Lisäksi Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert ja Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury ja Salonik Resch olivat keskeisessä roolissa tutkimuksessa. Arizonan yliopiston tiimi avusti myös, mukaan lukien Pravin Khanal, Ali Habiboglu ja professori Weigang Wang.
Tutkimus sai mahdollisuuden Yhdysvaltain Defense Advanced Research Projects Agency (DARPA), National Institute of Standards and Technology (NIST), National Science Foundation (NSF) ja Cisco Inc. -rahoituksista. Projekti myös suoritti testejä ja tutkimuksia Minnesota Nano Centerissä ja Minnesota Supercomputing Institute -laitoksessa Minnesotan yliopistossa.

Kaksi yritystä, jotka voisivat hyötyä vähentyneistä tekoälyn energian tarpeista

On monia valmistajia, jotka voisivat saada lisätuloja tai parantaa tuotevalikoimaansa yksinkertaisesti integroimalla CRAM-vaihtoehdot. Nämä yritykset omaavat vahvan aseman markkinoilla ja pystyvät integroimaan uutta teknologiaa tavalla, joka parantaa merkittävästi heidän tarjontaansa.

Microsoft

MSFT Hintakaavio

Microsoft (MSFT ) on merkittävä toimija tekoäly- ja laskentamarkkinoilla. Yritys on edelleen edelläkävijä alalla ja on ollut merkittävä teknologian edistäjä yli vuosikymmenen ajan. Nykyään Microsoftilla on suuri osuus tekoälysektorista ja se pyrkii pysymään kilpailukykyisenä tulevaisuudessa.
Microsoftin AI-palveluilla on merkittävä etu kilpailijoihinsa nähden, koska se on edelleen maailmanlaajuisesti käytetty pääkäyttöjärjestelmä. Tästä syystä Microsoftin AI-järjestelmillä on valtava käyttäjä- ja data-aineisto. Tämä data on auttanut Microsoftia luomaan voimakkaita uusia AI-algoritmeja, jotka tulevaisuudessa toimivat uusimpien Windows-käyttöjärjestelmien ytimenä.

Arm Holdings

ARM Hintakaavio

Arm Holdings astui markkinoille vuonna 1990. Se perustettiin Sophie Wilsonin ja Steve Furberin toimesta. Alun perin yrityksen nimi oli Advanced RISC Machines (ARM) Ltd., ennen kuin se uudelleennimettiin Arm Holdingsiksi vuonna 1998. 2000-luvun alussa Arm Holdings saavutti maineen laadukkaana valmistajana, joka tarjoaa GPU:ita ja muita tuotteita markkinoille.
Nykyään se on edelleen johtava IP:n tarjoaja ja puolijohdevalmistaja. Yritys ostettiin vuonna 2016 Softbankin toimesta 32 miljardia dollaria, ja se on sen jälkeen kasvanut merkittävästi. Valmistaja voisi merkittävästi vähentää ympäristöjalanjälkeään samalla kun parantaa suorituskykyä ja tuloja integroimalla CRAM:n nykyisiin tarjouksiinsa.

Tekoälyn tulevaisuus riippuu sen energian tarpeista

Tekoälyn käyttöönottoa rajoittava tärkein tekijä on sen energian tarve. Nämä vaatimukset edellyttävät, että ihmiset ajattelevat laatikon ulkopuolelta luodakseen ratkaisuja suorituskykyä rajoittaviin pullonkauloihin. Tämä viimeisin tutkimus avaa oven valoisammalle tulevaisuudelle, jossa tekoälypalvelut pääsevät käyttämään vähävirtaisia ratkaisuja, jotka vahvistavat koko yhteisöä.

Tutustu muihin hienoihin tekoälyprojekteihin nyt.