Para que a IA realize seu potencial, as demandas de energia devem ser atendidas

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Crescentes Demandas de Energia da IA Criando uma Crise Energética

Novos sistemas de IA continuam a ser lançados com frequência crescente. A mais recente previsão global de uso de energia prevê que o consumo de energia da IA dobrará de 460 terawatts-hora (TWh) em 2022 para 1.000 TWh até 2026. Esses protocolos incluem recomendadores, grandes modelos de linguagem (LLMs), processamento e criação de imagens e vídeos, serviços Web3 serviços e mais.

De acordo com o estudo do pesquisador, os sistemas de IA requerem transferência de dados que equivale a “200 vezes a energia usada para computação ao ler três operandos de origem de 64 bits e escrever um operando de destino de 64 bits em uma memória principal fora do chip.” Assim, reduzir o consumo de energia para aplicações de computação de inteligência artificial (IA) é uma preocupação primordial para os desenvolvedores que precisarão superar esse obstáculo para alcançar adoção em larga escala e amadurecer a tecnologia.

Felizmente, um grupo de engenheiros inovadores da Universidade de Minnesota se propôs a oferecer uma solução possível que poderia reduzir o consumo de energia dos protocolos de IA em ordens de magnitude. Para cumprir essa tarefa, os pesquisadores apresentam um novo design de chip que aprimora a Arquitetura de Von Neumann encontrada na maioria dos chips atuais.

Arquitetura de Von Neumann

John von Neumann revolucionou o setor de computação em 1945 ao separar as unidades de lógica e memória, permitindo computação mais eficiente na época. Nesse arranjo, a lógica e os dados são armazenados em locais físicos diferentes. Sua invenção melhorou o desempenho porque permitiu que ambos fossem acessados simultaneamente.

Fonte – Universidade de Minnesota Twin Cities

RAM

Hoje, a maioria dos computadores ainda usa a estrutura de Von Neumann, com seu HD armazenando seus programas e a memória de acesso aleatório (RAM) abrigando instruções de programação e dados temporários. A RAM atual realiza essa tarefa usando vários métodos, incluindo DRAM, que utiliza capacitores, e SRAM, que possui múltiplos circuitos.
Notavelmente, essa estrutura funcionou muito bem por décadas. No entanto, a transferência constante de dados entre lógica e memória requer muita energia. Essa transferência de energia aumenta à medida que os requisitos de dados e a carga computacional aumentam. Assim, cria um gargalo de desempenho que limita a eficiência à medida que o poder de computação cresce.

Tentativas de Melhorias nas Demandas de Energia

Ao longo dos anos, muitas tentativas foram feitas para melhorar a arquitetura de Von Neumann. Essas tentativas criaram diferentes variações do processo de memória com o objetivo de aproximar fisicamente as duas ações. Atualmente, as três principais variações incluem.

Processamento Near-Memory

Essa atualização move a lógica fisicamente mais próximo da memória. Isso foi realizado usando uma infraestrutura empilhada em 3D. Aproximar a lógica reduziu a distância e a energia necessárias para transferir os dados exigidos para alimentar os cálculos. Essa arquitetura proporcionou maior eficiência.

Computação In-Memory

Outro método atual de melhorar a arquitetura computacional é a computação in-memory. Notavelmente, há duas variações desse estilo de chip. O original integra clusters de lógica ao lado da memória em um único chip. Essa implementação permite a eliminação de transistores usados nos predecessores. No entanto, muitos consideram que esse método não é “verdadeiro” para a estrutura in-memory porque ainda possui locais de memória separados, o que significa que os problemas de desempenho iniciais resultantes da transferência de dados ainda existem, embora em escala menor.

Verdadeiro In-Memory

O tipo final de arquitetura de chip é “verdadeiro in-memory”. Para se qualificar como esse tipo de arquitetura, a memória precisa executar computações diretamente. Essa estrutura aprimora capacidades e desempenho porque os dados para operações lógicas permanecem em seu local. A versão mais recente da arquitetura verdadeira in-memory dos pesquisadores é a CRAM.

(CRAM)

A memória de acesso aleatório computacional (CRAM) permite computações verdadeiramente in-memory, pois os dados são processados dentro da mesma matriz. Os pesquisadores modificaram uma arquitetura padrão 1T1M STT-MRAM para tornar a CRAM possível. O layout da CRAM integra microtransistores em cada célula e baseia‑se em CPUs baseadas em junções de tunelamento magnético.
Essa abordagem oferece melhor controle e desempenho. A equipe então empilhou um transistor adicional, linha lógica (LL) e linha de bit lógica (LBL) em cada célula, permitindo computação em tempo real dentro do mesmo banco de memória.

História da CRAM

Os sistemas de IA atuais requerem uma nova estrutura que possa atender às suas demandas computacionais sem comprometer as preocupações de sustentabilidade. Reconhecendo essa demanda, os engenheiros decidiram aprofundar‑se nas capacidades da CRAM pela primeira vez. Seus resultados foram publicados na revista científica NPJ sob o relatório “Demonstração experimental de memória de acesso aleatório computacional baseada em junção de tunelamento magnético.”

O primeiro CRAM aproveitou uma estrutura de dispositivo MTJ. Esses dispositivos spintrônicos melhoraram os métodos de armazenamento anteriores ao usar o spin do elétron em vez de transistores para transferir e armazenar dados usando o método MTJ. Esse método utiliza uma fina barreira de tunelamento que fica entre duas camadas ferromagnéticas (FM). Uma pequena voltagem faz com que esses elétrons sejam excitados e se transfiram entre as camadas.

Essa transferência cria corrente. Também fornece um modo eficiente de ler e escrever na memória. A atualização mais recente da CRAM leva esse conceito adiante, proporcionando resultados de alto desempenho enquanto reduz as demandas de energia.

Estudo da CRAM

O conceito CRAM tem sido desenvolvido há anos. No entanto, não houve muitos testes aprofundados de suas capacidades até agora. Notavelmente, o estudo aproveitou uma variedade de conceitos patenteados desenvolvidos pela equipe e seus predecessores ao longo do caminho. Por exemplo, a Memória de Acesso Aleatório Magnética (MRAM), que é um componente vital dos smartwatches, sensores e microcontroladores atuais, foi usada juntamente com dispositivos MTJ modificados para melhorar o desempenho.

Testes da CRAM

A fase de testes exigiu que os pesquisadores medissem o desempenho dos chips durante a execução lógica. Os pesquisadores empregaram uma variedade de estratégias para obter a visão mais profunda possível, incluindo adição escalar, multiplicação e multiplicação de matrizes.
A primeira etapa do processo foi medir a atividade sob operações básicas de memória. A partir daí, a equipe aumentou a computação usando operações lógicas de 2, 3 e 5 entradas. Após essa fase, um somador completo de 1 bit com dois designs diferentes foi introduzido e retestado. O teste final incluiu uma matriz 1 × 7, que produziu resultados interessantes.

Resultados dos Testes da CRAM Mostram Demandas de Energia Mais Baixas

Os resultados dos testes demonstraram quão eficiente o novo processo de prova de conceito é em comparação com os modelos atuais. Os dados mostraram, em média, 1000 vezes menos consumo de energia durante a computação. Quando combinado com outros métodos de economia de energia, a abordagem demonstrou economias de energia de 2.500 e 1.700 vezes menores em comparação com os métodos tradicionais.

Recursos Adicionais

Outra descoberta interessante foi que a CRAM possibilitou o acesso aleatório simultâneo de dados e operandos. Esse benefício melhora consideravelmente as capacidades computacionais paralelas, o que pode resultar em protocolos mais seguros e estáveis no futuro.

Benefícios que a CRAM Traz ao Mercado

Examinar os benefícios que a CRAM traz à mesa ajudará a entender melhor por que essa é uma inovação revolucionária que pode ter um efeito imediato nas atividades diárias da pessoa média em breve. A CRAM permite que desenvolvedores e fabricantes criem hardware configurado perfeitamente para sua tarefa principal, reduzindo as demandas de energia e melhorando o desempenho.

IA – Foco

A Inteligência Artificial já está mudando muito. Esses sistemas estão em alta demanda, mas requerem hardware e software específicos para operar corretamente. A CRAM oferece aos fabricantes a capacidade de criar hardware desde o primeiro dia projetado para suportar aplicações intensivas em dados, centradas em memória ou sensíveis à energia.
No futuro, a CRAM alimentará algoritmos avançados de IA, como bioinformática, processamento de sinais, redes neurais, computação de borda e o hardware militar mais avançado. A matriz CRAM permitirá que desenvolvedores criem aplicações de aprendizado de máquina com melhor desempenho, suficientemente flexíveis para atender às necessidades da comunidade.

Usa uma Estrutura Comprovada

Outro grande benefício que torna a CRAM uma opção inteligente é o uso de sistemas de hardware comprovados. Notavelmente, a CRAM utiliza tecnologia comum e madura, o que aumenta a confiança do consumidor. Também garante que problemas de hardware sejam uma preocupação mínima para os usuários.

Flexível

A CRAM oferece verdadeira flexibilidade aos desenvolvedores. Programadores podem computar dados em qualquer parte da matriz de memória usando uma variedade de operações lógicas populares. Especificamente, a CRAM suporta AND, OR, NAND, NOR e MAJ, aumentando sua versatilidade.

Mais Rápida

Velocidade é outro benefício que não pode ser ignorado. Leva tempo para os dados serem transferidos entre os locais de armazenamento de lógica e memória. Embora esse tempo possa ser apenas uma fração de segundo, ele pode se acumular e levar a uma experiência de usuário reduzida. A CRAM elimina a necessidade de transferências de dados lentas e intensivas em energia ao tornar a mesma memória responsável por essas tarefas.

Paralelismo

Paralelismo é a capacidade de executar o mesmo código em paralelo ao mesmo tempo. É um componente vital de muitas operações de manufatura, segurança e industriais. Devido à estrutura da CRAM, ela pode executar a mesma lógica em paralelo na mesma matriz de memória simultaneamente.

Custos de Fabricação

A CRAM também reduzirá os custos de fabricação de dispositivos de alta qualidade ao diminuir a quantidade de peças necessárias para construir um produto. A CRAM usa a mesma memória para lógica e dados, o que significa que os fabricantes podem criar chips com menos componentes. Essa estrutura reduz custos e melhora a confiabilidade e o desempenho.

Pesquisadores

Esta pesquisa foi liderada por Tema, da Universidade de Minnesota. Os principais pesquisadores incluíram Jian-Ping Wang, professor McKnight, e Robert F. Hartmann. Além disso, Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert e Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury e Salonik Resch desempenharam papéis essenciais no estudo. Uma equipe da Universidade do Arizona também auxiliou, incluindo Pravin Khanal, Ali Habiboglu e o professor Weigang Wang.
A pesquisa foi viabilizada por subsídios da Agência de Projetos de Pesquisa Avançada de Defesa dos EUA (DARPA), do Instituto Nacional de Padrões e Tecnologia (NIST), da Fundação Nacional de Ciência (NSF) e da Cisco Inc. O projeto também realizou testes e estudos no Minnesota Nano Center e no Minnesota Supercomputing Institute da Universidade de Minnesota.

Duas Empresas que Poderiam se Beneficiar da Redução das Demandas de Energia da IA

Existem muitos fabricantes que poderiam garantir receita adicional ou melhorar sua linha de produtos simplesmente integrando opções de CRAM. Essas empresas ocupam posições fortes no mercado e têm a capacidade de integrar novas tecnologias de maneira que melhore significativamente suas ofertas.

Microsoft

MSFT Gráfico de preços

A Microsoft (MSFT ) é um grande player nos mercados de IA e computação. A empresa continua sendo pioneira no setor e tem sido um importante contribuinte para a tecnologia por mais de uma década. Hoje, a Microsoft tem uma participação significativa no setor de IA e busca permanecer um concorrente viável no futuro.
Os serviços de IA da Microsoft têm uma grande vantagem sobre seus concorrentes, pois permanecem o principal sistema operacional em uso globalmente. Dessa forma, os sistemas de IA da Microsoft têm um enorme público de usuários e dados acessíveis. Esses dados ajudaram a Microsoft a criar novos algoritmos de IA poderosos que, um dia, atuarão como o núcleo dos mais recentes sistemas operacionais Windows.

Arm Holdings

ARM Gráfico de preços

A Arm Holdings entrou no mercado em 1990. Foi fundada por Sophie Wilson e Steve Furber. Originalmente, a empresa se chamava Advanced RISC Machines (ARM) Ltd. antes de mudar o nome para Arm Holdings em 1998. No início dos anos 2000, a Arm Holdings conquistou reputação como fabricante de qualidade, oferecendo GPUs e outros produtos ao mercado.
Hoje, continua sendo um fornecedor líder de IP e fabricante de semicondutores. A empresa foi adquirida em 2016 pela Softbank por US$ 32 bilhões e tem apresentado crescimento considerável desde então. O fabricante poderia reduzir drasticamente sua pegada ambiental enquanto melhora o desempenho e a receita ao integrar a CRAM em suas ofertas atuais.

O Futuro da IA dependerá de suas Demandas de Energia

O principal fator que limita a adoção da IA são suas demandas de energia. Essas demandas exigem que as pessoas pensem fora da caixa para criar soluções para os gargalos que limitam o desempenho. Este estudo mais recente abre a porta para um futuro mais promissor, onde os serviços de IA terão acesso a soluções de baixo consumo que capacitam toda a comunidade.

Saiba mais sobre outros projetos legais de inteligência artificial agora.