Hindi Nasusubaybayang Konsumo ng Enerhiya – Paggamit ng AI para Pahusayin ang AI

Mabilis na lumalago, ang pamilihan ng artificial intelligence (AI) ay tinantya na maabot ang $1.8 trilyon sa pagtatapos ng dekadang ito. 

Habang nagsimulang kumalat ang AI mania noong 2021, ito ay noong nakaraang taon lamang na tunay na nakamit ng AI ang kanyang breakthrough. Sa katunayan, ganoon kalaki ang paglago nito na lahat ng kaugnay sa AI, mula sa mga solusyon hanggang sa paggamit, ay sumabog, itinutulak ang pamumuhunan sa generative AI sa napakataas. 

Nang ipakita ng mga generative AI system tulad ng ChatGPT ang mga bagong kakayahan, nais ng lahat na makakuha ng bahagi ng mabilis na lumalaking bahagi nito. Gayundin, karamihan ng pribadong pamumuhunan ay nagaganap sa US.

Ang mga pundasyong modelo tulad ng GPT-4 para sa ChatGPT ng OpenAI ang sumusuporta sa mga popular na tool na ito. Ang malalaking multipurpose na modelong ito ay nangangailangan ng napakalaking dataset at malawak na mapagkukunan para sa pagsasanay. Ang mga pundasyong modelo ay nagsisilbing panimulang punto para sa pagbuo ng mga machine learning (ML) model na nagpapagana ng mga bagong aplikasyon nang matipid at mas mabilis.

Ang higanteng teknolohiya na Google ay naglabas ng ilang pundasyong modelo; ang Imagen, Muse, at Parti ay mga text-to-image na modelo, MedLM para sa industriya ng pangangalagang pangkalusugan, ang coding model na tinatawag na Codey, at ang pangkalahatang speech model na Chirp.

Ang mga modelong ito ay kumokonsumo ng hindi pa nagagawang dami ng memorya, kabilang ang mas maraming memorya para mag-imbak at kumuha ng real-world na data na kanilang pinoproseso. Halimbawa, ang GPT-3 ay sinanay sa humigit-kumulang 500 bilyong salita at gumagamit ng 175 bilyong parameter. Dahil dito, tumaas nang husto ang pangangailangan ng enerhiya ng AI.

Sa nakaraang ilang taon, malawak na naiulat ang epekto ng AI sa kapaligiran. Sa huling bahagi ng nakaraang taon, isang peer-reviewed na pagsusuri ang sinubukang sukatin ang pangangailangang ito. 

Pagkatapos talakayin ang napakalaking gastos sa enerhiya ng cryptocurrency mining, si Alex de Vries, isang data scientist sa central bank ng Netherlands at Ph.D. candidate sa Vrije University Amsterdam, ay lumipat ng pansin sa pinakabagong trend sa teknolohiya: pag-aampon ng AI. Ayon sa kanyang pinakabagong pagtatasa, magpapadala ang NVIDIA (NVDA ) ng 1.5 milyong AI server units bawat taon hanggang 2027. Kapag tumatakbo nang buong kapasidad, inaasahang gagamit ang mga server na ito ng hindi bababa sa 85.4 terawatt-oras ng kuryente taun-taon. 

Tinatantiya ni De Vries na maaaring mas masama pa ang AI kaysa sa Proof-of-Work (PoW) na mga network tulad ng Bitcoin. Gayunpaman, mga pagtatantya lamang ito, at binibigyang-diin ng mga eksperto na hindi kumpleto at may kundisyon ang mga bilang na ito.

Noong nakaraang Disyembre, si Sasha Luccioni ng AI firm na Hugging Face at ang kanyang mga kasamahan mula sa firm at Carnegie Mellon University ay nagsagawa rin ng mga pagsubok sa 88 iba’t ibang modelo. Inulit nila ang gawain ng 1,000 beses at natuklasan na karamihan ng mga gawain ay gumagamit ng maliit na halaga ng enerhiya, tulad ng 0.047 kWh, upang lumikha ng teksto. Gayunpaman, mas malaki ang mga bilang para sa mga modelo ng pagbuo ng imahe, na gumamit ng average na 2.907 kWh bawat 1,000 inference. Bilang konteksto, binanggit nila na ang karaniwang smartphone ay gumagamit ng 0.012 kWh para mag-charge.

Samantala, isang kamakailang paper ay tinantiya na ang malalaking language model ay gumagamit ng humigit-kumulang 1,300 megawatt oras ng kuryente, na katumbas ng enerhiya na kinokonsumo ng 130 tahanan sa US bawat taon.

Ang International Energy Agency ay nagtala sa ulat nito noong unang bahagi ng taong ito na ang pangangailangan para sa AI at crypto ay magdudulot ng malaki ang pagtaas ng paggamit ng kuryente ng mga data center sa malapit na hinaharap. Inaasahan na ang pagtaas ay mula 460 terawatt oras noong 2022 hanggang sa pagitan ng 620 at 1,050 TWh noong 2026.

Nabigyan nito ng pansin ang mga regulator, na ngayon ay nagbabala tungkol sa tumataas na gastos ng AI. Ayon kay Massachusetts Senator Edward Markey (D):

“Ang pag-unlad ng susunod na henerasyon ng mga kasangkapan ng A.I. ay hindi maaaring magdulot ng pinsala sa kalusugan ng ating planeta.” 

Ito ay naganap matapos niyang, kasama ang iba pang mga senador at kinatawan, magpanukala ng isang batas na nag-aatas sa pamahalaang pederal na suriin ang environmental footprint ng AI at bumuo ng isang standardisadong sistema para iulat ang mga magiging epekto. Sa Europa, naipasa na ang AI Act, na nag-aatas sa mga makapangyarihang pundasyong modelo na iulat ang kanilang paggamit ng mga mapagkukunan, konsumo ng enerhiya, at iba pang epekto.

Sa gitna ng lahat ng ito, maglalabas ang International Organization for Standardization mamaya ngayong taon ng mga pamantayan para sukatin ang paggamit ng materyales, konsumo ng tubig, at kahusayan sa enerhiya para sa “sustainable A.I.” 

Pagpapahusay ng AI para Maging Mas Epektibo 

Upang maging praktikal sa napakalawak na sukat, kailangang maging mas matipid sa enerhiya ang mga AI model at kayang tumakbo sa mga device na may limitadong enerhiya na gumagamit ng mas kaunting kapangyarihan kumpara sa mga data center. 

Ang mga data center na ito ay nangangailangan ng napakalaking dami ng kapangyarihan upang mapanatiling tumatakbo ang mga computer, na kadalasang nagmumula sa fossil fuels. Ito ay nagdudulot ng malalaking CO2e emissions. Upang tugunan ito, ang mga mananaliksik at organisasyon ay nagsusumikap na gawing mas epektibo ang AI.

Isang kilalang kumpanya na nagkaroon ng malaking progreso sa paghahanap ng solusyon sa problemang ito ay ang TurinTech, isang espesyalista sa code optimization na nakabase sa London. Ang TurinTech ay umuunlad sa pamamagitan ng pagsasama ng deep learning at evolutionary algorithms. Ang sistemang ito ay patuloy na inaangkop ang isang umiiral na modelo batay sa bagong impormasyon sa halip na muling likhain ito mula sa simula.

Ayon kay Harvey Lewis ng Ernst and Young UK, ang evolutionary o genetic algorithms at Bayesian statistical methods ay maaaring gawing mas epektibo ang deep learning, at ang espesyal na hardware ay maaaring magpababa ng gastos nito.

Isa pang iminungkahing paraan ay ang pag-uugnay ng data-driven AI sa iba pang siyentipiko o pantao na input tungkol sa domain ng aplikasyon. Sina Pushkar P. Apte, direktor ng strategic initiatives sa CITRIS, at Costas J. Spanos, direktor ng CITRIS, sumulat tungkol sa apat na paraan upang makamit ito:

• Pag-synergize ng AI sa mga batas na siyentipiko.
• Pagdagdag ng data gamit ang ekspertong pananaw ng tao.
• Paggamit ng mga aparato upang ipaliwanag kung paano gumagawa ng desisyon ang AI.
• Paggamit ng iba pang mga modelo upang hulaan ang pag-uugali.

Kamakailan, ang startup na EnCharge ay nagkaroon ng AI breakthrough na maaaring lubos na mapabuti ang konsumo ng enerhiya ng mga AI model na ito kapag gumagawa ng mga prediksyon. Ginamit ng kumpanya ang kanilang pondo mula sa DARPA upang bawasan ang paggamit ng memorya sa pamamagitan ng paggawa ng ilang gawain sa analog memory circuitry, na maaaring magsagawa ng matrix-multiply accumulations nang sabay-sabay sa mababang enerhiya kumpara sa tradisyunal na mga transistor.

“Ganyan mo nalulutas ang problema sa paggalaw ng data.” 

– Naveen Verma, CEO ng EnCharge AI at propesor sa Department of Electrical Engineering sa Princeton 

Dagdag pa niya na sa halip na magpadala ng indibidwal na mga bit, ang nabawasang resulta ay ipinapadala sa anyo ng pag-accumulate ng maraming sabay-sabay na multiplications.

Nakaya ng EnCharge AI na magproseso ng 150 trilyong operasyon kada segundo kada watt. Gayunpaman, ang analog computing ay napakahirap makamit, at ang mga naunang pagsubok ay hindi nagbunga.

Samantala, ang research na isinagawa ng tenure-track assistant professor na si Raghavendra Selvan mula sa Department of Computer Science ng UCPH noong nakaraang taon ay nag-explore ng iba’t ibang paraan upang pababain ang carbon footprint ng ML. Sa micro level, maaaring gawing mas mabilis at mas epektibo ang mga algorithm upang mabawasan ang paggamit ng mapagkukunan. Ayon sa kanya, maaaring gawin ito sa pamamagitan ng pagsusuri kung paano mababawasan ang bilang ng mga bit na ginagamit sa mga kalkulasyon at kung paano mababawasan ang mga redundant na kalkulasyon. 

Dagdag pa niya na sa macro level, sa pamamagitan ng pagtingin kung kailan at saan ginagawa ang mga kalkulasyon (marami sa mga ito ay hindi time-critical), maaaring piliin ang mga non-peak na oras para sa pagsasanay ng mga AI system upang mabawasan ang gastos ng mga training session at ang kanilang carbon footprint.

Paggamit ng AI para Gawing Mas Mahusay ang AI 

Ngayon, lumikha si Selvan ng isang benchmark para sa pagdidisenyo ng mga AI model na kumokonsumo ng napakakaunting enerhiya nang hindi naaapektuhan ang kanilang performance. Gayunpaman, ito ay nangangailangan ng paggamit ng dami ng enerhiya at carbon footprint bilang pamantayan sa pagdidisenyo at pagsasanay ng mga AI model na ito.

Para dito, 429,000 na mga AI subtype model ang pinag-aralan. Ang mga convolutional neural networks, na ginagamit para sa pagsasalin ng wika, pagkilala sa mukha, object detection, at medikal na pagsusuri ng imahe, ay tinatayang nangangailangan ng hanggang 263,000 kWh ng enerhiya para lamang sa pagsasanay.

Upang ihambing, ang 263,000 kWh ay halos katumbas ng enerhiya na kinokonsumo ng karaniwang mamamayan ng Denmark sa loob ng higit sa apat na dekada. Ang isang computer ay aabutin ng isang siglo upang matapos ang lahat ng pagsasanay na ito.

Ang napakalaking paggamit ng enerhiya na ito ay nagtulak sa industriya na gawing climate-friendly; gayunpaman, ang pag-develop ng energy-efficient na AI model ay hindi pa nagiging realidad. Ayon kay Selvan, na nag-aaral ng mga posibilidad para bawasan ang carbon footprint ng AI:

“Sa kasalukuyan, ang mga developer ay nakatuon lamang sa paggawa ng mga AI model na epektibo pagdating sa katumpakan ng kanilang mga resulta.”

Inihambing niya ang pag-uugaling ito sa isang kotse, na itinuturing na maganda dahil mabilis nitong dinadala ang tao sa destinasyon nang hindi iniisip ang konsumo ng gasolina. Dagdag pa niya:

“Bilang resulta, madalas na hindi epektibo ang mga AI model pagdating sa konsumo ng enerhiya.”

Ang kanyang bagong study na ginawa kasama ang mag-aaral ng CS na si Pedram Bakhtiarifard, ay naglalayong baguhin ito sa pamamagitan ng pagpapakita na posible na limitahan ang malaking bahagi ng CO2e habang pinananatili ang katumpakan ng isang AI model.

Upang makamit ito, binigyang-diin ng mga mananaliksik ng UCPH na kailangan natin ng energy-efficient na modelo mula pa sa simula. Ibig sabihin, isaalang-alang ang mga gastos sa klima kapag nagdidisenyo at sa panahon ng energy-intensive na proseso ng pagsasanay ng mga AI model. Ayon kay Selvan, sa ganitong paraan, maaaring mabawasan ang carbon footprint sa “bawat yugto ng ‘life cycle’ ng modelo,” na kinabibilangan ng parehong pagsasanay at pag-deploy ng modelo.

Kaya, kinuwenta ng mga mananaliksik ang enerhiya na kinakailangan upang sanayin ang daan-daang libong mga AI model na ito. Nakakatawang, hindi nila sinanay ang mga modelo kundi tinantiya gamit ang isa pang AI model. Sa ganitong paraan, nakapag-save sila ng halos 99% ng enerhiya na sana ay nagamit.

Ngayon, batay sa kanilang mga kalkulasyon, nagpakita ang koponan ng isang benchmark collection ng mga AI model na nagtatanghal ng halos kaparehong antas ngunit gumagamit ng mas kaunting enerhiya upang matapos ang isang gawain.

Ayon sa pag-aaral, ang pag-aayos ng mga modelo o paggamit ng ibang uri ng mga modelo ay maaaring makatipid ng hanggang 80% ng enerhiya sa panahon ng pagsasanay at aplikasyon. Tungkol sa performance, halos walang kompromiso (sa 1% o mas mababa pa). Ang mga numerong ito ay talagang konserbatibo, ayon sa mga mananaliksik.

“Ituring ang aming mga resulta bilang isang recipe book para sa mga propesyonal ng AI. Ang mga recipe ay hindi lamang naglalarawan ng performance ng iba’t ibang algorithm, kundi kung gaano ito ka-energy efficient.”

– Bakhtiarifard

Dagdag pa niya na sa pamamagitan ng simpleng pagpapalit ng isang sangkap sa disenyo ng modelo ng isa pa, “madalas naming nakakamit ang parehong resulta.” Ibig sabihin, hindi na kailangang magsimula muna sa pagsasanay ng bawat modelo; sa halip, maaari na silang pumili batay sa parehong performance at konsumo ng enerhiya.

Dahil ilang modelo ang sinasanay bago mahanap ang pinaka-angkop na opsyon para sa isang partikular na gawain, ginagawa nitong “lubhang energy-intensive” ang pag-develop ng AI, sinabi ni Bakhtiarifard, “mas magiging climate-friendly kung pipiliin ang tamang modelo mula sa simula,” at bukod pa rito, piliin ang isa na hindi kumokonsumo ng malaking kapangyarihan sa yugto ng pagsasanay.

Habang sa mga larangan tulad ng self-driving cars at medisina, kritikal ang precision ng modelo para sa kaligtasan, kaya hindi maaaring isakripisyo ang performance doon, ayon sa mga mananaliksik, hindi ito dapat humadlang sa pagsisikap na makamit ang mataas na energy efficiency sa ibang mga domain.

Ayon sa pag-aaral, ipinapakita nito na maaaring makahanap ng mas mahusay na trade-off kung ang energy efficiency ay magiging pamantayan sa pag-develop ng AI model, tulad ng sa maraming sektor. Ayon kay Selvan:

“May kamangha-manghang potensyal ang AI. Ngunit kung nais nating matiyak ang sustainable at responsible na pag-develop ng AI, kailangan natin ng mas holistic na pamamaraan na hindi lamang nakatuon sa performance ng modelo, kundi pati na rin sa epekto sa klima.”

Ang benchmark, na tinatawag na EC-NAS, ay open-source at maaaring magamit ng iba pang siyentipiko at kumpanya upang itaguyod ang pananaliksik sa neural architecture search (NAS). Ayon sa pag-aaral, ang paggamit ng multi-objective optimization algorithms ay nagtataguyod ng balanse sa pagitan ng paggamit ng enerhiya at katumpakan. “Sa iba’t ibang metric nito, ang EC-NAS ay nag-aanyaya ng karagdagang pananaliksik sa pag-develop ng mga energy-efficient at environmentally sustainable na modelo,” ayon sa pag-aaral.

Mga Solusyong Enerhiya Batay sa AI

Ngayon, tingnan natin ang mga kumpanya na humaharap sa sektor ng enerhiya gamit ang teknolohiya at aktibong nagtatrabaho upang mag-alok ng mga solusyong enerhiya batay sa AI:

#1. GE Renewable Energy

Gumagamit ang kumpanya ng AI/ML technology na binuo internamente upang tumpak na mahulaan at pasimplehin ang mga gastos sa logistics para sa proseso ng logistics ng wind turbine. Sa taong ito, inilabas ng GE ang Proficy para sa mga manufacturer upang makamit ang sustainability habang tumutulong na mapalaki ang profitability. Nag-deploy din ito ng AI-powered na CERius upang mapabuti ang katumpakan ng pag-uulat.

Noong unang bahagi ng buwang ito, ang General Electric (GE.TO ) ay nahati sa tatlong hiwalay na kumpanya, nakatuon sa aviation, enerhiya, at health care, at nagsimulang mag-trade sa NYSE bilang hiwalay na entidad. Kaya, ang energy wing nito ay tinawag na ngayon GE Vernova (GEV ) (GEV) at may market cap na $36 bilyon habang ang mga shares nito ay nagte-trade sa 131.75. Noong 2023, ang kumpanya ay naka-secure ang pinakamalaking order nito upang suportahan ang US wind project na magbibigay ng 2.4 GW sa SunZia project. Inaasahan ng Goldman Sachs (GS ) na magkakaroon ang kumpanya ng EBITDA na $4bln pagsapit ng 2026.

#2. Schneider Electric

Ang $34.2 bilyong kumpanyang nakabase sa Pransya ay gumagamit ng AI upang mapabuti ang kahusayan at produktibidad pati na rin tugunan ang hamon ng pagbabago ng klima. Ang paggamit ng AI ng Schneider Electric (SND.DE ) ay umiikot sa data visualization at engineering, optimization at simulation, at dependability modeling. 

Naitala ng kumpanya ang €36 bilyong kita para sa fiscal year 2023, na isang pagtaas ng 13%. Iniulat din ng Schneider Electric ang net income na €4 bilyon at free cash flow na €4.6 bilyon. 

Konklusyon

Ang AI ay ang teknolohikal na rebolusyon ng dekadang ito. Dahil napatunayan na ang integrasyon ng AI ay nagbabawas ng gastos at nagpapataas ng kita para sa mga kumpanya habang nagbibigay ng mas mahusay na kahusayan para sa mga manggagawa, malinaw na higit pa ito sa isang buzzword. Ang mga AI system ay talagang humahigitan ang mga tao sa iba’t ibang gawain, bagaman mas magaling pa rin tayo sa kanila sa mga komplikadong cognitive na gawain.

Gayunpaman, ito ay may kasamang sariling mga panganib pagdating sa privacy, algorithmic biases, at, tulad ng tinalakay natin kanina, ang negatibong epekto sa kapaligiran. Ipinapakita rin ng isang global na survey sa mga saloobin patungkol sa AI na ang mga tao ay nag-aalala sa bagong teknolohiyang ito, bagaman ang karamihan ay nakikita itong magbabago ng kanilang pang-araw-araw na buhay sa mga darating na taon. Ang mas batang henerasyon ay mas optimistiko tungkol sa AI. 

Habang patuloy na nagiging malaking bahagi ng ating buhay ang AI, nagsasama-sama ang mga gobyerno, siyentipiko, at kumpanya upang tugunan ang mga panganib nito. Nagsimula na ang mga regulator na targetin ang industriya, na may higit sa 30 bansa na nagpasa ng hindi bababa sa isang AI-related na batas sa nakaraang pitong taon. Habang mas marami pang teknolohikal na pag-unlad ang magaganap, makikita natin ang AI na nagiging mas epektibo at binabago ang ating mundo. 

I-click dito upang matutunan ang lahat tungkol sa pamumuhunan sa artificial intelligence.