Per l’AI realizzare il suo potenziale, è necessario affrontare le richieste energetiche

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Crescita della domanda energetica dell’AI che crea una crisi energetica

New AI systems continue to launch at an increasing frequency. La più recente previsione sull’uso globale dell’energia prevede che il consumo energetico dell’AI raddoppierà da 460 terawattora (TWh) nel 2022 a 1.000 TWh entro il 2026. Questi protocolli includono raccomandatori, grandi modelli linguistici (LLM), elaborazione e creazione di immagini e video, servizi Web3 e altro.

Secondo lo studio del ricercatore, i sistemi AI richiedono un trasferimento di dati che equivale a “200 volte l’energia utilizzata per il calcolo quando si leggono tre operandi sorgente da 64 bit e si scrive un operando di destinazione da 64 bit su una memoria principale esterna.” Pertanto, ridurre il consumo energetico per le applicazioni di calcolo dell’intelligenza artificiale (AI) è una preoccupazione primaria per gli sviluppatori che dovranno superare questo ostacolo per raggiungere un’adozione su larga scala e far maturare la tecnologia.

Fortunatamente, un gruppo di ingegneri innovativi dell’Università del Minnesota ha proposto una possibile soluzione che potrebbe ridurre il consumo energetico dei protocolli AI di ordini di grandezza. Per realizzare questo compito, i ricercatori presentano un nuovo design di chip che migliora l’architettura di Von Neumann presente nella maggior parte dei chip odierni.

Architettura di Von Neumann

John von Neumann rivoluzionò il settore informatico nel 1945 quando separò le unità logica e di memoria, consentendo un calcolo più efficiente all’epoca. In questa configurazione, logica e dati sono archiviati in posizioni fisiche diverse. La sua invenzione migliorò le prestazioni perché permise di accedervi simultaneamente.

Fonte – University of Minnesota Twin Cities

RAM

Oggi, la maggior parte dei computer utilizza ancora la struttura di Von Neumann con il tuo disco rigido che memorizza i programmi e la memoria ad accesso casuale (RAM) che contiene le istruzioni di programmazione e i dati temporanei. La RAM odierna svolge questo compito utilizzando vari metodi, tra cui DRAM, che sfrutta i condensatori, e SRAM, che utilizza più circuiti.
È evidente che questa struttura ha funzionato bene per decenni. Tuttavia, il costante trasferimento di dati tra logica e memoria richiede molta energia. Questo trasferimento energetico aumenta con l’aumento delle esigenze di dati e del carico computazionale. Di conseguenza, crea un collo di bottiglia di prestazioni che limita l’efficienza man mano che la potenza di calcolo aumenta.

Miglioramenti tentati sulla domanda energetica

Nel corso degli anni, sono stati fatti numerosi tentativi per migliorare l’architettura di Von Neumann. Questi tentativi hanno creato diverse varianti del processo di memoria con l’obiettivo di avvicinare fisicamente le due azioni. Attualmente, le tre principali varianti includono.

Elaborazione Near-memory

Questo aggiornamento avvicina fisicamente la logica alla memoria. È stato realizzato utilizzando un’infrastruttura impilata in 3D. Avvicinare la logica ha ridotto la distanza e l’energia necessarie per trasferire i dati richiesti per alimentare i calcoli. Questa architettura ha fornito una maggiore efficienza.

Calcolo In-memory

Un altro metodo attuale per migliorare l’architettura computazionale è il calcolo in-memory. Notare che esistono due varianti di questo tipo di chip. L’originale integra cluster di logica accanto alla memoria su un unico chip. Questa implementazione consente l’eliminazione dei transistor usati nei predecessori. Tuttavia, molti considerano questo metodo non “vero” rispetto alla struttura in-memory perché mantiene posizioni di memoria separate, il che significa che i problemi di prestazioni iniziali derivanti dal trasferimento dei dati persistono, sebbene su scala ridotta.

Vero In-memory

L’ultimo tipo di architettura di chip è il “vero in-memory”. Per qualificarsi come tale architettura, la memoria deve eseguire direttamente i calcoli. Questa struttura potenzia le capacità e le prestazioni perché i dati per le operazioni logiche rimangono nella loro posizione. L’ultima versione dell’architettura vero in-memory dei ricercatori è CRAM.

(CRAM)

La memoria ad accesso casuale computazionale (CRAM) consente veri calcoli in-memory poiché i dati vengono elaborati all’interno della stessa matrice. I ricercatori hanno modificato un’architettura standard 1T1M STT-MRAM per rendere possibile il CRAM. Il layout del CRAM integra microtransistor in ogni cella e si basa su CPU basate su giunzioni tunnel magnetiche.
Questo approccio offre un migliore controllo e prestazioni. Il team ha poi impilato un transistor aggiuntivo, una linea logica (LL) e una linea di bit logica (LBL) in ogni cella, consentendo il calcolo in tempo reale all’interno della stessa banca di memoria.

Storia del CRAM

I sistemi AI odierni richiedono una nuova struttura in grado di soddisfare le loro esigenze computazionali senza compromettere le preoccupazioni di sostenibilità. Riconoscendo questa esigenza, gli ingegneri hanno deciso di approfondire per la prima volta le capacità del CRAM. I loro risultati sono stati pubblicati sulla rivista scientifica NPJ con il rapporto “Dimostrazione sperimentale di memoria ad accesso casuale computazionale basata su giunzioni tunnel magnetiche.”
Il primo CRAM sfruttava una struttura a dispositivo MTJ. Questi dispositivi spintronici hanno migliorato i metodi di memorizzazione precedenti utilizzando lo spin degli elettroni anziché i transistor per trasferire e immagazzinare i dati con il metodo MTJ. Questo metodo utilizza una sottile barriera di tunneling posta tra due strati ferromagnetici (FM). Una piccola tensione fa eccitare questi elettroni e trasferirli tra gli strati.
Questo trasferimento genera corrente. Fornisce anche un modo efficiente per leggere e scrivere la memoria. L’ultimo aggiornamento del CRAM porta questo concetto oltre, offrendo risultati ad alte prestazioni riducendo al contempo le richieste energetiche.

Studio CRAM

Il concetto di CRAM è in sviluppo da anni. Tuttavia, finora non sono stati condotti molti test approfonditi delle sue capacità. In particolare, lo studio ha sfruttato una varietà di concetti brevettati sviluppati dal team e dai suoi predecessori. Ad esempio, la Magnetic Random Access Memory (MRAM), componente fondamentale degli smartwatch, sensori e microcontrollori odierni, è stata utilizzata insieme a dispositivi MTJ modificati per migliorare le prestazioni.

Test CRAM

La fase di test ha richiesto ai ricercatori di misurare le prestazioni dei chip durante l’esecuzione della logica. I ricercatori hanno impiegato una varietà di strategie per ottenere la massima comprensione possibile, includendo addizione scalare, moltiplicazione e moltiplicazione di matrici.
Il primo passo del processo è stato misurare l’attività sotto operazioni di memoria di base. Da lì il team ha aumentato il calcolo utilizzando operazioni logiche a 2, 3 e 5 ingressi. Dopo questa fase, è stato introdotto e ritestato un sommatore completo a 1 bit con due design differenti. Il test finale ha incluso una matrice 1 × 7, che ha prodotto risultati interessanti.

I risultati dei test CRAM mostrano richieste energetiche inferiori

I risultati dei test hanno dimostrato quanto sia efficiente il nuovo processo di prova di concetto rispetto ai modelli odierni. I dati hanno mostrato una media di consumo energetico 1000 volte inferiore durante il calcolo. Quando combinato con altri metodi di risparmio energetico, l’approccio ha dimostrato risparmi energetici di 2.500 e 1.700 volte inferiori rispetto ai metodi tradizionali.

Caratteristiche aggiuntive

Un’altra scoperta interessante è stata che il CRAM ha consentito l’accesso casuale simultaneo di dati e operandi. Questo vantaggio migliora notevolmente le capacità computazionali parallele, il che può tradursi in protocolli più sicuri e stabili in futuro.

Benefici che il CRAM porta al mercato

Esaminare i benefici che il CRAM offre aiuterà a comprendere meglio perché si tratta di una svolta rivoluzionaria che potrebbe avere un effetto immediato sulle attività quotidiane della persona media. Il CRAM consente a sviluppatori e produttori di creare hardware configurato perfettamente per il suo compito principale, riducendo le richieste energetiche e migliorando le prestazioni.

AI – Focus

L’intelligenza artificiale sta già cambiando molto. Questi sistemi sono molto richiesti ma richiedono hardware e software specifici per funzionare correttamente. Il CRAM offre ai produttori la possibilità di creare hardware fin dal primo giorno progettato per supportare applicazioni ad alta intensità di dati, centrate sulla memoria o sensibili al consumo energetico.
In futuro, il CRAM alimenterà algoritmi AI avanzati come bioinformatica, elaborazione del segnale, reti neurali, edge computing e l’hardware militare più avanzato. La matrice CRAM consentirà agli sviluppatori di creare applicazioni di machine learning più performanti, sufficientemente flessibili da soddisfare le esigenze della comunità.

Utilizza una struttura collaudata

Un altro grande vantaggio che rende il CRAM una scelta intelligente è l’uso di sistemi hardware collaudati. In particolare, il CRAM utilizza tecnologie comuni e mature, il che aumenta la fiducia dei consumatori. Garantisce inoltre che i problemi hardware siano una preoccupazione minima per gli utenti.

Flessibile

Il CRAM offre una vera flessibilità agli sviluppatori. I programmatori possono calcolare dati ovunque all’interno della matrice di memoria usando una varietà di operazioni logiche popolari. In particolare, il CRAM supporta AND, OR, NAND, NOR e MAJ, aumentando la sua versatilità.

Più veloce

La velocità è un altro vantaggio che non può essere trascurato. Il trasferimento dei dati tra logica e posizioni di memorizzazione richiede tempo. Sebbene questo tempo possa essere solo una frazione di secondo, può accumularsi e portare a un’esperienza utente ridotta. Il CRAM elimina la necessità di trasferimenti lenti e ad alto consumo energetico facendo sì che la stessa memoria si occupi di questi compiti.

Parallelismo

Il parallelismo è la capacità di eseguire lo stesso codice in parallelo allo stesso tempo. È un componente vitale di molte operazioni manifatturiere, di sicurezza e industriali. Grazie alla struttura del CRAM, può eseguire la stessa logica in parallelo sulla stessa matrice di memoria simultaneamente.

Costi di produzione

Il CRAM ridurrà anche i costi di produzione per dispositivi di fascia alta riducendo il numero di componenti necessari per costruire un prodotto. Il CRAM utilizza la stessa memoria per logica e dati, il che significa che i produttori possono creare chip con meno parti. Questa struttura riduce i costi e migliora l’affidabilità e le prestazioni.

Ricercatori

Questa ricerca è stata guidata da Tema dell’Università del Minnesota. I ricercatori principali includevano Jian-Ping Wang, professore McKnight, e Robert F. Hartmann. Inoltre, Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert e Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury e Salonik Resch hanno svolto ruoli fondamentali nello studio. Un team dell’Arizona University ha anche collaborato, includendo Pravin Khanal, Ali Habiboglu e il professor Weigang Wang.
La ricerca è stata resa possibile grazie a sovvenzioni della U.S. Defense Advanced Research Projects Agency (DARPA), del National Institute of Standards and Technology (NIST), del National Science Foundation (NSF) e di Cisco Inc. Il progetto ha inoltre condotto test e studi presso il Minnesota Nano Center e il Minnesota Supercomputing Institute dell’Università del Minnesota.

Due aziende che potrebbero beneficiare della riduzione delle richieste energetiche dell’AI

Ci sono molti produttori che potrebbero assicurarsi entrate aggiuntive o migliorare la loro linea di prodotti semplicemente integrando opzioni CRAM. Queste aziende occupano posizioni solide sul mercato e hanno la capacità di integrare nuove tecnologie in modo da migliorare notevolmente le loro offerte.

Microsoft

MSFT Grafico dei prezzi

Microsoft (MSFT ) è un attore importante nei mercati dell’AI e del computing. L’azienda rimane un pioniere nel settore e ha contribuito significativamente alla tecnologia per oltre un decennio. Oggi, Microsoft detiene una quota importante nel settore AI e cerca di rimanere un concorrente valido in futuro.
I servizi AI di Microsoft hanno un vantaggio significativo rispetto ai concorrenti poiché rimangono il principale sistema operativo in uso a livello globale. Di conseguenza, i sistemi AI di Microsoft hanno un vasto pubblico di utenti e dati accessibili. Questi dati hanno aiutato Microsoft a creare nuovi potenti algoritmi AI che un giorno costituiranno il nucleo dei più recenti sistemi operativi Windows.

Arm Holdings

ARM Grafico dei prezzi

Arm Holdings è entrata nel mercato nel 1990. È stata fondata da Sophie Wilson e Steve Furber. Originariamente, l’azienda si chiamava Advanced RISC Machines (ARM) Ltd. prima di rinominarsi Arm Holdings nel 1998. Nei primi anni 2000, Arm Holdings ha consolidato una reputazione come produttore di qualità offrendo GPU e altri prodotti sul mercato.
Oggi, rimane un fornitore leader di IP e un produttore di semiconduttori. L’azienda è stata acquistata nel 2016 da Softbank per 32 miliardi di dollari e ha registrato una notevole crescita da allora. Il produttore potrebbe ridurre notevolmente la sua impronta ambientale migliorando al contempo prestazioni e ricavi integrando il CRAM nelle offerte attuali.

Il futuro dell’AI dipenderà dalle sue richieste energetiche

Il principale fattore che limita l’adozione dell’AI sono le sue richieste energetiche. Queste esigenze spingono le persone a pensare fuori dagli schemi per creare soluzioni ai colli di bottiglia che limitano le prestazioni. Questo ultimo studio apre la porta a un futuro più luminoso in cui i servizi AI avranno accesso a soluzioni a basso consumo energetico che potenzieranno l’intera comunità.

Scopri altri interessanti progetti di intelligenza artificiale ora.