Consumo energetico incontrollato – Utilizzare l’IA per migliorare l’IA

Crescente rapidamente, il mercato dell’intelligenza artificiale (IA) è previsto a raggiungere $1.8 trillion entro la fine di questo decennio. 

Mentre la mania per l’IA ha iniziato a guadagnare trazione precoce nel 2021, è stato solo lo scorso anno che l’IA ha davvero trovato il suo punto di svolta. In effetti, la sua crescita è stata tale che tutto ciò che riguarda l’IA, dalle soluzioni all’uso, ha iniziato a decollare, spingendo gli investimenti nell’IA generativa alle stelle. 

Quando i sistemi di IA generativa come ChatGPT hanno dimostrato nuove capacità, tutti volevano una fetta di questa torta in rapida crescita. Inoltre, la maggior parte di questi investimenti privati avviene negli Stati Uniti.

Alla base di questi strumenti popolari ci sono i modelli di base come GPT-4 nel caso di ChatGPT di OpenAI. Questi grandi modelli multiuso richiedono enormi set di dati e vaste risorse per l’addestramento. I modelli di base fungono da punto di partenza per sviluppare modelli di machine learning (ML) che alimentano nuove applicazioni in modo economico e più rapido.

Il gigante tecnologico Google ha rilasciato diversi modelli di base; Imagen, Muse e Parti sono modelli testo‑immagine, MedLM per l’industria sanitaria, il modello di codifica chiamato Codey e il modello universale di voce Chirp.

Questi modelli consumano quantità senza precedenti di memoria, incluso molto più spazio per archiviare e recuperare i dati del mondo reale su cui operano. Per esempio, GPT-3 è addestrato su circa 500 miliardi di parole e utilizza 175 miliardi di parametri. Questo ha portato a un’impennata della domanda energetica dell’IA.

Negli ultimi due anni, l’impatto ambientale dell’IA è stato ampiamente riportato. Alla fine dello scorso anno, un’analisi peer‑review ha cercato di quantificare questa domanda. 

Dopo aver discusso gli enormi costi energetici del mining di criptovalute, Alex de Vries, data scientist presso la banca centrale dei Paesi Bassi e candidato dottorato alla Vrije University Amsterdam, ha rivolto la sua attenzione all’ultima tendenza tecnologica: l’adozione dell’IA. Secondo la sua ultima valutazione, NVIDIA spedirà 1.5 milioni di unità di server IA all’anno entro il 2027. Quando operano a piena capacità, si prevede che questi server consumino almeno 85.4 terawatt‑ora di elettricità all’anno. 

De Vries stima che l’IA potrebbe potenzialmente essere peggiore delle reti Proof‑of‑Work (PoW) come Bitcoin. Tuttavia, queste sono solo stime, con gli esperti che notano che questi dati non sono completi e sono soggetti a condizioni.

Lo scorso dicembre, Sasha Luccioni della società di IA Hugging Face e i suoi colleghi della stessa azienda e della Carnegie Mellon University hanno anche eseguito test su 88 diversi modelli. Hanno eseguito il compito 1.000 volte e hanno scoperto che la maggior parte dei compiti utilizza una piccola quantità di energia, come 0,047 kWh, per generare testo. Tuttavia, i valori risultano molto più alti per i modelli di generazione di immagini, che hanno utilizzato in media 2,907 kWh per 1.000 inferenze. Per contestualizzare, hanno osservato che uno smartphone medio utilizza 0,012 kWh per la ricarica.

Nel frattempo, un recente articolo ha stimato che i grandi modelli linguistici utilizzano circa 1.300 megawatt‑ora di elettricità, equivalenti al consumo energetico di 130 abitazioni negli Stati Uniti all’anno.

L’Agenzia Internazionale dell’Energia ha anche notato nel suo rapporto all’inizio di quest’anno che la domanda di IA e cripto porterà a un notevole aumento del consumo di elettricità da parte dei data center nel prossimo futuro. L’incremento dovrebbe passare da 460 terawatt‑ora nel 2022 a tra 620 e 1.050 TWh nel 2026.

Questo ha attirato l’attenzione dei regolatori, che ora avvertono del crescente costo dell’IA. Secondo il senatore del Massachusetts Edward Markey (D):

“Lo sviluppo della prossima generazione di strumenti IA non può avvenire a spese della salute del nostro pianeta.” 

Questo è avvenuto dopo che lui, insieme ad altri senatori e rappresentanti, ha introdotto una legge che richiede al governo federale di valutare l’impronta ambientale dell’IA e sviluppare un sistema standardizzato per segnalare gli impatti futuri. In Europa, l’AI Act è già stato approvato, il quale richiede ai potenti modelli di base di segnalare il loro utilizzo di risorse, consumo energetico e altri impatti.

Nel mezzo di tutto ciò, l’Organizzazione Internazionale per la Standardizzazione emetterà entro quest’anno criteri per misurare l’uso dei materiali, il consumo d’acqua e l’efficienza energetica per l'”IA sostenibile”. 

Rendere l’IA più efficiente 

Per essere sostenibili su larga scala, i modelli di IA devono diventare più efficienti dal punto di vista energetico e capaci di funzionare su dispositivi con limitazioni energetiche che consumano significativamente meno energia rispetto ai data center. 

Questi data center richiedono enormi quantità di energia per mantenere i computer in funzione, proveniente prevalentemente da combustibili fossili. Ciò causa significative emissioni di CO2e. Per affrontare questo problema, ricercatori e organizzazioni stanno lavorando per rendere l’IA più efficiente. 

Una società di spicco che ha fatto notevoli progressi nella ricerca di una soluzione a questo problema è il specialistico di ottimizzazione del codice con sede a Londra, TurinTech. TurinTech sta facendo progressi grazie a una combinazione di deep learning e algoritmi evolutivi. Questo sistema adatta continuamente un modello esistente basandosi su nuove informazioni invece di rigenerarlo da zero. 

Secondo Harvey Lewis di Ernst and Young UK, gli algoritmi evolutivi o genetici e i metodi statistici bayesiani possono rendere il deep learning più efficiente, e l’hardware specializzato può ridurne i costi.

Un altro metodo suggerito è collegare l’IA basata sui dati con altri input scientifici o umani riguardo al dominio dell’applicazione. Pushkar P. Apte, direttore delle iniziative strategiche presso CITRIS, e Costas J. Spanos, direttore di CITRIS, hanno scritto su quattro modi per raggiungere questo obiettivo:

• Sinergizzare l’IA con le leggi scientifiche.
• Arricchire i dati con approfondimenti esperti umani.
• Utilizzare dispositivi per spiegare come l’IA prende decisioni.
• Usare altri modelli per prevedere il comportamento.

Più recentemente, la startup EnCharge ha realizzato una svolta nell’IA che potrebbe migliorare drasticamente il consumo energetico di questi modelli IA durante le predizioni. L’azienda ha utilizzato i finanziamenti DARPA per ridurre l’uso di memoria eseguendo parte del lavoro in circuiti di memoria analogica, che possono effettuare accumuli di moltiplicazione di matrici in parallelo a bassa energia invece dei transistor tradizionali. 

“Ecco come risolvi il problema del movimento dei dati.” 

– Naveen Verma, CEO di EnCharge AI e professore presso il Dipartimento di Ingegneria Elettrica di Princeton 

Ha aggiunto inoltre che, invece di comunicare bit individuali, il risultato ridotto viene comunicato sotto forma di accumulo di numerose moltiplicazioni parallele.

EnCharge AI è riuscita a elaborare 150 trilioni di operazioni al secondo per watt. Tuttavia, il calcolo analogico è estremamente difficile da realizzare, e i tentativi precedenti non sono stati fruttuosi.

Nel frattempo, ricerca del professore assistente tenure‑track Raghavendra Selvan del Dipartimento di Informatica dell’UCPH lo scorso anno ha esplorato diversi modi per ridurre l’impronta di carbonio del ML. A livello micro, gli algoritmi possono essere resi più veloci e più efficienti per ridurre l’uso delle risorse. Questo, ha osservato, potrebbe essere fatto esaminando come ridurre il numero di bit utilizzati per eseguire i calcoli e come ridurre i calcoli ridondanti. 

Ha suggerito inoltre di valutare la necessità di tutti i dati memorizzati. Quindi, a livello macro, osservando quando e dove vengono eseguiti i calcoli (molti dei quali non sono critici dal punto di vista temporale), si possono scegliere ore non di punta per addestrare i sistemi IA, riducendo i costi delle sessioni di addestramento e la loro impronta di carbonio. 

Utilizzare l’IA per migliorare l’IA 

Ora, Selvan ha creato un benchmark per progettare modelli IA che consumano molto meno energia senza influire sulle loro prestazioni. Tuttavia, ciò richiede l’uso della quantità di energia consumata e dell’impronta di carbonio come standard per progettare e addestrare questi modelli IA.

Per questo, sono stati studiati 429.000 modelli di sottotipo IA. Queste reti neurali convoluzionali, utilizzate per la traduzione linguistica, il riconoscimento facciale, il rilevamento di oggetti e l’analisi di immagini mediche, richiedono una stima di fino a 263.000 kWh di energia solo per l’addestramento. 

Per fare un paragone, 263.000 kWh corrispondono all’energia consumata dall’utente medio danese in più di quattro decenni. Un computer impiegherebbe un secolo per completare tutto questo addestramento. 

Questo consumo energetico colossale ha spinto l’industria a lavorare per renderlo più ecologico; tuttavia, lo sviluppo di modelli IA a basso consumo energetico non è ancora una realtà. Secondo Selvan, che sta esplorando le possibilità di ridurre l’impronta di carbonio dell’IA:

“Oggi, gli sviluppatori sono strettamente concentrati sulla costruzione di modelli IA che siano efficaci in termini di accuratezza dei risultati.” 

Ha paragonato questo comportamento a un’auto, considerata buona solo perché porta rapidamente a destinazione senza considerare il consumo di carburante. Ha aggiunto inoltre:

“Di conseguenza, i modelli IA sono spesso inefficienti dal punto di vista del consumo energetico.” 

Il suo nuovo studio , realizzato con lo studente di CS Pedram Bakhtiarifard, mira a cambiare questo dimostrando che è possibile limitare una grande quantità di CO2e mantenendo intatta la precisione di un modello IA.

Per raggiungere questo obiettivo, i ricercatori dell’UCPH hanno osservato che è necessario un modello a basso consumo energetico fin dall’inizio. Ciò significa considerare i costi climatici durante la progettazione e nel processo ad alta intensità energetica di addestramento dei modelli IA. Selvan ha affermato che in questo modo l’impronta di carbonio può essere ridotta in “ogni fase del ‘ciclo di vita’ del modello”, che comprende sia l’addestramento che il deployment.

Quindi, i ricercatori hanno calcolato l’energia necessaria per addestrare centinaia di migliaia di questi modelli IA. Curiosamente, i ricercatori dell’UCPH non hanno addestrato i modelli ma li hanno stimati usando un altro modello IA. In questo modo, sono riusciti a risparmiare la stragrande maggioranza, il 99%, dell’energia che altrimenti sarebbe stata necessaria.

Ora, basandosi sui loro calcoli, il team ha presentato una collezione di benchmark di modelli IA che offrono prestazioni simili ma consumano meno energia per completare un compito.

Secondo lo studio, modificare i modelli o utilizzare altri tipi di modelli può far risparmiare fino all’80% di energia durante le fasi di addestramento e applicazione. Per quanto riguarda le prestazioni, c’è stato poco o nessun compromesso (solo l’1% o meno). Questi numeri sono in realtà conservativi, secondo i ricercatori. 

“Considerate i nostri risultati come un libro di ricette per i professionisti dell’IA. Le ricette non descrivono solo le prestazioni dei diversi algoritmi, ma anche la loro efficienza energetica.” 

– Bakhtiarifard

Ha inoltre affermato che semplicemente scambiando un ingrediente nella progettazione del modello con un altro, “si può spesso ottenere lo stesso risultato”. Questo significa che i professionisti non devono addestrare ogni modello prima; possono semplicemente sceglierne uno basandosi sia sulle prestazioni che sul consumo energetico.

Dato che diversi modelli vengono addestrati prima di trovare l’opzione più adatta per un determinato compito, rendendo lo sviluppo dell’IA “estremamente intensivo dal punto di vista energetico”, Bakhtiarifard ha affermato: “sarebbe più ecologico scegliere il modello giusto fin dall’inizio”, e inoltre scegliere quello che non consuma energia significativa durante la fase di addestramento.

Mentre in settori come le auto a guida autonoma e la medicina, la precisione del modello è fondamentale per la sicurezza, e quindi non possiamo compromettere le prestazioni, i ricercatori hanno osservato che ciò non dovrebbe scoraggiarci dal cercare di raggiungere un’alta efficienza energetica in altri ambiti.

Lo studio, secondo loro, dimostra che è possibile trovare un migliore compromesso con l’efficienza energetica come standard nello sviluppo dei modelli IA, come avviene in molti settori. Secondo Selvan:

“L’IA ha un potenziale straordinario. Ma se vogliamo garantire uno sviluppo sostenibile e responsabile dell’IA, abbiamo bisogno di un approccio più olistico che non consideri solo le prestazioni del modello, ma anche l’impatto climatico.” 

Il benchmark, chiamato EC-NAS, è open‑source e può essere utilizzato da altri scienziati e aziende per avanzare la ricerca nella ricerca di architetture neurali (NAS). Lo studio ha affermato che l’utilizzo di algoritmi di ottimizzazione multi‑obiettivo trova un equilibrio tra consumo energetico e accuratezza. “Con le sue metriche diversificate, EC-NAS invita ulteriori ricerche nello sviluppo di modelli energeticamente efficienti e ambientalmente sostenibili,” ha dichiarato lo studio.

Soluzioni energetiche basate sull’IA

Ora, diamo un’occhiata alle aziende che stanno affrontando il settore energetico utilizzando la tecnologia e lavorando attivamente per offrire soluzioni energetiche basate sull’IA:

#1. GE Renewable Energy

L’azienda utilizza tecnologia AI/ML sviluppata internamente per prevedere con precisione e ottimizzare i costi logistici del processo logistico delle turbine eoliche. Quest’anno, GE ha rilasciato Proficy per i produttori per raggiungere la sostenibilità aiutando al contempo a massimizzare la redditività. Ha inoltre implementato CERius, alimentato dall’IA, per migliorare l’accuratezza dei report.

All’inizio di questo mese, General Electric si è divisa in tre società separate, focalizzate su aviazione, energia e assistenza sanitaria, e ha iniziato a quotarsi al NYSE come entità separate. Quindi, la sua divisione energetica è ora chiamata GE Vernova (GEV) e ha una capitalizzazione di mercato di 36 miliardi di dollari con le azioni che scambiano a 131,75. Nel 2023, l’azienda ha assicurato il suo ordine più grande per supportare un progetto eolico negli Stati Uniti che fornirà 2,4 GW al progetto SunZia. Goldman Sachs prevede che l’azienda avrà un EBITDA di 4 miliardi di dollari entro il 2026.

#2. Schneider Electric

L’azienda francese da 34,2 miliardi di dollari sfrutta l’IA per migliorare efficienza e produttività oltre ad affrontare la sfida del cambiamento climatico. L’uso dell’IA da parte di Schneider Electric ruota attorno a visualizzazione dei dati e ingegneria, ottimizzazione e simulazione, e modellazione dell’affidabilità. 

L’azienda ha registrato 36 miliardi di euro di fatturato per l’anno fiscale 2023, con un aumento del 13%. Schneider Electric ha anche riportato un utile netto di 4 miliardi di euro e un flusso di cassa libero di 4,6 miliardi di euro. 

Conclusione

L’IA è la rivoluzione tecnologica di questo decennio. Considerato che l’integrazione dell’IA ha dimostrato di ridurre i costi e aumentare i ricavi per le aziende, fornendo al contempo migliori guadagni di efficienza per i lavoratori, è chiaramente più di una semplice parola d’ordine. I sistemi IA stanno effettivamente superando gli esseri umani in una serie di compiti, sebbene noi rimaniamo migliori di loro nei compiti cognitivi complessi.

Tuttavia, comporta una serie di rischi in termini di privacy, bias algoritmici e, come discusso sopra, l’impatto ambientale negativo. Un sondaggio globale sugli atteggiamenti verso l’IA mostra anche che le persone sono preoccupate per questa nuova tecnologia, sebbene la maggioranza la veda cambiare la loro vita quotidiana nei prossimi anni. La generazione più giovane è più ottimista riguardo all’IA. 

Man mano che l’IA continua a diventare una parte importante delle nostre vite, governi, scienziati e aziende si stanno unendo per affrontare i suoi rischi. I regolatori hanno già iniziato a puntare sull’industria, con oltre 30 paesi che hanno approvato almeno una legge relativa all’IA negli ultimi sette anni. Con l’avanzare della tecnologia, vedremo l’IA diventare più efficiente e trasformare il nostro mondo. 

Clicca qui per scoprire tutto sull’investimento nell’intelligenza artificiale.