Valvomaton energiankulutus – AI:n käyttäminen AI:n parantamiseen

Kasvaen nopeasti, tekoäly (AI) -markkinat on ennustettu saavuttamaan 1,8 biljoonaa dollaria tämän vuosikymmenen loppuun mennessä. 

Vaikka AI-hullutus alkoi saada varhaista huomiota vuonna 2021, vasta viime vuonna AI todella löysi läpimurron. Itse asiassa sen kasvu oli niin valtava, että kaikki AI:hin liittyvä, ratkaisuista käyttöön, alkoi räjähtää, työntäen generatiivisen AI:n investoinnit kattoon. 

Kun generatiiviset AI-järjestelmät kuten ChatGPT osoittivat uusia kykyjä, kaikki halusivat osansa tästä nopeasti kasvavasta piirakasta. Lisäksi suurin osa tästä yksityisestä investoinnista tapahtuu Yhdysvalloissa.

Näiden suositun työkalujen taustalla ovat perustamismallit, kuten GPT-4 OpenAI:n ChatGPT:n tapauksessa. Nämä suuret monikäyttöiset mallit vaativat valtavia tietoaineistoja ja resursseja koulutukseen. Perustamismallit toimivat lähtökohtana koneoppimismallien (ML) kehittämiselle, jotka mahdollistavat uusien sovellusten toteuttamisen kustannustehokkaasti ja nopeammin.

Teknologiagigantti Google on julkaissut useita perustamismalleja; Imagen, Muse ja Parti ovat teksti-kuva -malleja, MedLM terveydenhuollolle, koodausmalli nimeltä Codey, ja yleinen puhemalli Chirp.

Nämä mallit kuluttavat ennennäkemättömän määrän muistia, mukaan lukien paljon enemmän muistia todellisten tietojen tallentamiseen ja hakemiseen, joilla ne toimivat. Esimerkiksi GPT-3 on koulutettu noin 500 miljardilla sanalla ja käyttää 175 miljardia parametria. Tämä on johtanut AI:n energiakysynnän räjähdysmäiseen kasvuun.

Viimeisten vuosien aikana AI:n ympäristövaikutuksista on raportoitu laajasti. Viime vuoden lopulla vertaisarvioitu analyysi yritti kvantifioida tätä kysyntää. 

Keskusteltuaan valtavista energialaskuista kryptovaluuttojen louhinnasta, Alex de Vries, Alankomaiden keskuspankin datatieteilijä ja Vrije University Amsterdamin tohtoriopiskelija, on kääntänyt huomionsa viimeisimpään teknologiatrendiin: AI:n käyttöönottoon. Tietojen mukaan hänen viimeisin arviointinsa, NVIDIA (NVDA ) toimittaa 1,5 miljoonaa AI-palvelinyksikköä vuodessa vuoteen 2027 mennessä. Kun ne toimivat täyskapasiteetilla, näiden palvelimien odotetaan kuluttavan vähintään 85,4 terawattituntia sähköä vuodessa. 

De Vries arvioi, että AI voisi mahdollisesti olla huonommassa tilanteessa kuin Proof-of-Work (PoW) -verkot kuten Bitcoin. Nämä ovat kuitenkin vain arvioita, ja asiantuntijat huomauttavat, että luvut eivät ole täydellisiä ja riippuvaisia olosuhteista.

Viime joulukuussa Sasha Luccioni AI-yrityksestä Hugging Face ja hänen kollegansa yrityksestä sekä Carnegie Mellon -yliopistosta suorittivat testejä 88 eri mallilla. He suorittivat tehtävän 1 000 kertaa ja löysivät että suurin osa tehtävistä käyttää pienen määrän energiaa, kuten 0,047 kWh, tekstin tuottamiseen. Kuitenkin kuvanluontimalleille energiankulutus oli huomattavasti suurempaa, keskimäärin 2,907 kWh per 1 000 inferenssiä. Vertailun vuoksi he totesivat, että keskimääräinen älypuhelin kuluttaa 0,012 kWh lataukseen.

Sillä välin äskettäinen tutkimus arvioi, että suuret kielimallit käyttävät noin 1 300 megawattituntia sähköä, mikä on yhtä kuin 130 Yhdysvaltain kodin vuotuinen energiankulutus.

Kansainvälinen energiajärjestö (IEA) myös huomautti raportissaan aikaisemmin tänä vuonna, että AI:n ja krypton kysyntä johtaa merkittävästi lisääntyneeseen sähkönkulutukseen datakeskuksissa lähitulevaisuudessa. Kasvun odotetaan olevan 460 terawattitunnista vuonna 2022 välillä 620–1 050 TWh vuoteen 2026 mennessä.

Tämä on kiinnittänyt sääntelijöiden huomion, jotka varoittavat nyt AI:n kasvavasta kustannuksesta. Massachusettsin senaattori Edward Markey (D):

“Seuraavan sukupolven AI-työkalujen kehitys ei voi tapahtua planeettamme terveyden kustannuksella.” 

Tämä tapahtui sen jälkeen, kun hän yhdessä muiden senaattorien ja edustajien kanssa esitti lakiehdotuksen, jonka mukaan liittovaltion on arvioitava AI:n ympäristöjalanjälki ja kehitettävä standardoitu järjestelmä tulevien vaikutusten raportoimiseksi. Euroopassa AI-asetus on jo hyväksytty, mikä vaatii voimakkaita perustamismalleja raportoimaan resurssien käyttö, energiankulutus ja muut vaikutukset.

Kaiken tämän keskellä Kansainvälinen standardisoimisjärjestö (ISO) aikoo julkaista myöhemmin tänä vuonna kriteerit “kestävän AI:n” materiaalinkäytön, vesikulutuksen ja energiatehokkuuden mittaamiseksi.

Tehdään AI:sta energiatehokkaampaa 

Jotta ne olisivat käyttökelpoisia laajassa mittakaavassa, AI-mallien on oltava energiatehokkaampia ja kyettävä toimimaan energirajoitteisilla laitteilla, jotka kuluttavat merkittävästi vähemmän virtaa kuin datakeskukset. 

Nämä datakeskukset vaativat valtavan määrän energiaa tietokoneiden pitämiseksi käynnissä, ja suurin osa siitä tulee fossiilisista polttoaineista. Tämä aiheuttaa merkittäviä CO2e-päästöjä. Tämän ratkaisemiseksi tutkijat ja organisaatiot ovat työskennelleet AI:n energiatehokkuuden parantamiseksi. 

Yksi merkittävä yritys, joka on edistynyt merkittävästi ratkaisun löytämisessä tähän ongelmaan, on Lontoossa toimiva koodin optimointiin erikoistunut TurinTech. TurinTech tekee edistysaskelia yhdistämällä syväoppimista ja evoluutiollisia algoritmeja. Tämä järjestelmä mukauttaa jatkuvasti olemassa olevaa mallia uuteen tietoon perustuen sen sijaan, että se luotaisiin alusta alkaen uudelleen. 

Ernst & Young UK:n Harvey Lewisin mukaan evoluutiolliset tai geneettiset algoritmit ja bayesilaiset tilastolliset menetelmät voivat tehdä syväoppimisesta tehokkaampaa, ja erikoislaitteisto voi vähentää sen kustannuksia.

Toinen ehdotettu menetelmä on yhdistää dataohjattu AI muihin tieteellisiin tai ihmisen antamiin syötteisiin sovelluksen toimialasta. Pushkar P. Apte, CITRIS:n strategisten aloitteiden johtaja, ja Costas J. Spanos, CITRIS:n johtaja, kirjoitti neljästä tavasta tämän saavuttamiseksi:

• AI:n yhdistäminen tieteellisiin lakeihin.
• Datan täydentäminen asiantuntijoiden ihmistietämyksellä.
• Laitteiden käyttö AI:n päätöksenteon selittämiseen.
• Muiden mallien käyttäminen käyttäytymisen ennustamiseen.

Viime aikoina startup EnCharge teki AI-läpimurron, joka voisi dramaattisesti parantaa näiden AI-mallien energiankulutusta ennusteita tehdessä. Yritys käytti DARPA-rahoituksensa vähentääkseen muistin käyttöä tekemällä osan työstä analogisessa muistikytkennässä, joka voi suorittaa matriisikertolaskuja rinnakkain alhaisella energialla perinteisten transistoreiden sijaan. 

“Näin ratkaistaan datan siirto-ongelma.” 

– Naveen Verma, EnCharge AI:n toimitusjohtaja ja Princetonin sähkötekniikan laitoksen professori 

Hän lisäsi, että sen sijaan että kommunikoitaisiin yksittäisiä bittejä, vähennetty tulos välitetään monien rinnakkaisten kertolaskujen kertymänä.

EnCharge AI on pystynyt käsittelemään 150 triljoonaa operaatioita sekunnissa per watti. Analoginen laskenta on kuitenkin äärimmäisen vaikeaa toteuttaa, eikä aiemmat yritykset ole olleet menestyksekkäitä.

Sillä välin, tutkimus tohtoriopettaja Raghavendra Selvanin (UCPH:n tietojenkäsittelytieteen laitoksen) toimesta viime vuonna tutki erilaisia tapoja pienentää ML:n hiilijalanjälkeä. Mikro-tasolla algoritmeja voidaan tehdä nopeammiksi ja tehokkaammiksi resurssien käytön vähentämiseksi. Hän totesi, että tämän voi saavuttaa tarkastelemalla, kuinka vähentää laskennassa käytettyjen bittien määrää ja miten vähentää turhia laskutoimituksia. 

Hän ehdotti lisäksi tarpeen arvioimista kaikelle tallennetulle datalle. Makrotasolla tarkastelemalla, milloin ja missä laskennat (joista monet eivät ole aikakriittisiä) tehdään, voidaan valita huippukuormituksen ulkopuoliset ajat AI-järjestelmien kouluttamiseen, mikä vähentää koulutussessioiden kustannuksia ja hiilijalanjälkeä. 

AI:n käyttäminen AI:n parantamiseen 

Nyt Selvan on luonut vertailukriteerin AI-mallien suunnittelemiseksi, jotka kuluttavat paljon vähemmän energiaa vaikuttamatta niiden suorituskykyyn. Tämä kuitenkin edellyttää energian kulutuksen ja hiilijalanjäljen käyttöä suunnittelun ja koulutuksen standardina näille AI-malleille.

Tätä varten tutkittiin 429 000 AI-alatyypin mallia. Nämä konvoluutiohermoverkot, joita käytetään kielten kääntämiseen, kasvojentunnistukseen, kohteiden havaitsemiseen ja lääketieteelliseen kuvantamiseen, arvioidaan vaativan jopa 263 000 kWh energiaa pelkästään koulutukseen. 

Vertailun vuoksi 263 000 kWh on suunnilleen yhtä paljon energiaa kuin keskimääräinen tanskalainen kuluttaa yli neljän vuosikymmenen aikana. Tietokoneen kestäisi vuosisata suorittaa kaikki nämä koulutukset. 

Tämä valtava energiankulutus on saanut alan työskentelemään ilmastoystävällisyyden puolesta; kuitenkin energiatehokkaiden AI-mallien kehitys ei ole vielä todellisuutta. Selvanin mukaan, joka tutkii mahdollisuuksia AI:n hiilijalanjäljen vähentämiseen:

“Nykyään kehittäjät keskittyvät kapeasti rakentamaan AI-malleja, jotka ovat tehokkaita tulostensa tarkkuuden suhteen.” 

Hän vertasi tätä käyttäytymistä autoon, jota pidetään hyväksi vain siksi, että se pääsee nopeasti määränpäähänsä ilman, että sen polttoaineenkulutusta otetaan huomioon. Hän lisäsi:

“Tämän seurauksena AI-mallit ovat usein energiatehokkuudeltaan puutteellisia.” 

Hänen uusi tutkimuksensa, jonka hän teki tietojenkäsittelytieteen opiskelijan Pedram Bakhtiarifardin kanssa, pyrkii muuttamaan tätä osoittamalla, että on mahdollista rajoittaa merkittävästi CO2e-päästöjä säilyttäen AI-mallin tarkkuus.

Tämän saavuttamiseksi UCPH:n tutkijat totesi, että energiatehokas malli on oltava läsnä alusta alkaen. Tämä tarkoittaa ilmastokustannusten huomioon ottamista mallin suunnittelussa ja energiatehokkaassa koulutusprosessissa. Selvanin mukaan näin hiilijalanjälkeä voidaan vähentää mallin “elinkaaren” jokaisessa vaiheessa, mukaan lukien sekä mallin koulutus että käyttöönotto.

Tutkijat laskivat siis energian, joka tarvitaan satojen tuhansien näiden AI-mallien kouluttamiseen. Mielenkiintoista on, että UCPH:n tutkijat eivät itse kouluttaneet malleja, vaan arvioivat ne toisen AI-mallin avulla. Näin he pystyivät säästämään valtavan 99 % energiasta, jonka muutoin olisi kulunut.

Nyt, laskelmien perusteella tiimi on esittänyt vertailukokoelman AI-malleja, jotka toimivat suunnilleen samalla tasolla, mutta kuluttavat vähemmän energiaa tehtävän suorittamiseen.

Tutkimuksen mukaan mallien säätäminen tai muiden mallien käyttäminen voi säästää jopa 80 % energiasta koulutus- ja sovellusvaiheessa. Suorituskyvyn osalta on tapahtunut vähän tai ei lainkaan heikkenemistä (vain 1 % tai vähemmän). Nämä luvut ovat itse asiassa konservatiivisia, tutkijoiden mukaan. 

“Pidä tuloksiamme kuin reseptikirjaa AI-ammattilaisille. Reseptit eivät kuvaa vain eri algoritmien suorituskykyä, vaan myös niiden energiatehokkuutta.” 

– Bakhtiarifard

Hän lisäsi, että vaihtamalla vain yhden ainesosan mallin suunnittelussa toiseen, “voimme usein saavuttaa saman tuloksen.” Tämä tarkoittaa, että käytännön tekijöiden ei tarvitse kouluttaa jokaista mallia alusta; sen sijaan he voivat valita yhden sekä suorituskyvyn että energian kulutuksen perusteella.

Koska useita malleja koulutetaan ennen sopivimman vaihtoehdon löytämistä tiettyyn tehtävään, AI-kehitys on “äärimmäisen energiatehokasta”. Bakhtiarifardin mukaan “olisi ilmastoystävällisempaa valita oikea malli alusta alkaen”, ja lisäksi valita sellainen, joka ei kuluta merkittävää virtaa koulutusvaiheessa.

Vaikka itseohjautuvissa autoissa ja lääketieteessä mallin tarkkuus on kriittinen turvallisuuden kannalta, eikä suorituskykyä voida siellä heikentää, tutkijat huomauttavat, että tämä ei saisi estää meitä pyrkimästä korkeaan energiatehokkuuteen muilla aloilla. 

Tutkimuksen mukaan voidaan löytää parempi tasapaino, kun energiatehokkuus otetaan standardiksi AI-mallien kehityksessä, kuten monilla muilla aloilla. Selvanin mukaan:

“AI:lla on uskomaton potentiaali. Mutta jos haluamme varmistaa kestävän ja vastuullisen AI-kehityksen, tarvitsemme kokonaisvaltaisemman lähestymistavan, joka huomioi paitsi mallin suorituskyvyn myös ilmastovaikutuksen.” 

Vertailukriteeri, nimeltään EC-NAS, on avoimen lähdekoodin ja sitä voivat käyttää muut tutkijat ja yritykset edistääkseen neuroarkkitehtuurin hakua (NAS) -tutkimusta. Tutkimus totesi, että monen tavoitteen optimointialgoritmit tasapainottavat energian käytön ja tarkkuuden. “Monipuolisten mittareidensa avulla EC-NAS kutsuu lisää tutkimusta energiatehokkaiden ja ympäristön kannalta kestävien mallien kehittämiseen,” tutkimus totesi.

AI-pohjaiset energiaratkaisut

Tarkastellaan nyt yrityksiä, jotka käsittelevät energia-alaa teknologian avulla ja työskentelevät aktiivisesti AI-pohjaisten energiaratkaisujen tarjoamiseksi:

#1. GE Renewable Energy

Yritys hyödyntää sisäisesti kehitettyä AI/ML-teknologiaa tarkasti ennustaakseen ja virtaviivaistaakseen logistisia kustannuksia tuuliturbiinien logistiikkaprosessissa. Tänä vuonna GE julkaisi Proficy:n valmistajille kestävyyden saavuttamiseksi samalla maksimoiden kannattavuuden. Se myös otti käyttöön AI-pohjaisen CERius:n parantaakseen raportoinnin tarkkuutta.

Tämän kuukauden alussa General Electric (GE.TO ) jakautui kolmeen erilliseen yhtiöön, jotka keskittyvät ilmailuun, energiaan ja terveydenhuoltoon, ja alkoi kaupankäynnin NYSE:ssä erillisinä toimijoina. Näin sen energialinja on nyt nimeltään GE Vernova (GEV ) (GEV) ja sillä on markkina-arvo 36 miljardia dollaria, osakkeet kaupankäynnissä hintaan 131,75. Vuonna 2023 yhtiö varmistui suurimmaksi tilauksekseen tukemaan Yhdysvaltain tuuliprojektia, joka toimittaa 2,4 GW SunZia-projektille. Goldman Sachs (GS ) ennustaa yhtiön EBITDA:n olevan 4 miljardia dollaria vuoteen 2026 mennessä.

#2. Schneider Electric

34,2 miljardia dollaria arvoinen Ranskaan perustuva yritys hyödyntää AI:ta parantaakseen tehokkuutta ja tuottavuutta sekä vastatakseen ilmastonmuutoksen haasteeseen. Schneider Electricin AI:n käyttö keskittyy datan visualisointiin ja suunnitteluun, optimointiin ja simulointiin sekä luotettavuusmallinnukseen. 

Yritys kirjasi 36 miljardia euroa liikevaihtoa tilikaudelle 2023, mikä on 13 % kasvu. Schneider Electric (SND.DE ) raportoi myös 4 miljardia euroa nettotulosta ja 4,6 miljardia euroa vapaan kassavirran. 

Yhteenveto

AI on tämän vuosikymmenen teknologinen vallankumous. Koska AI:n integroinnin on osoitettu alentavan kustannuksia ja lisäävän yritysten liikevaihtoa samalla kun se tarjoaa parempia tehokkuusetuja työntekijöille, se on selvästi enemmän kuin pelkkä muotisana. AI-järjestelmät ylittävät itse asiassa ihmiset monilla tehtävillä, vaikka meillä on edelleen etumatkaa monimutkaisissa kognitiivisissa tehtävissä.

Kuitenkin siihen liittyy omat riskinsä yksityisyyden, algoritmiset vinoumat ja, kuten yllä keskustelimme, negatiivinen ympäristövaikutus. Maailmanlaajuinen kysely AI:n suhtautumisesta osoittaa, että ihmiset ovat hermostuneita tästä uudesta teknologiasta, vaikka suurin osa näkee sen muuttavan heidän arkeaan tulevina vuosina. Nuorempi sukupolvi on AI:sta optimistisempi. 

Kun AI jatkaa kasvuaan osana elämäämme, hallitukset, tutkijat ja yritykset yhdistävät voimansa riskien hallitsemiseksi. Sääntelijät ovat jo alkaneet kohdistaa toimia alaan, yli 30 maassa on hyväksynyt vähintään yhden AI:ta koskevan lain viimeisen seitsemän vuoden aikana. Kun teknologinen kehitys etenee, näemme AI:n tulevan entistä energiatehokkaammaksi ja muuttavan maailmaamme. 

Klikkaa tästä oppiaksesi kaiken tekoälyyn sijoittamisesta.