Consumo de Energia Descontrolado – Usando IA para Melhorar a IA

Crescendo rapidamente, o mercado de inteligência artificial (IA) está projetado para alcançar $1.8 trilhão até o final desta década. 

Embora a mania por IA tenha começado a ganhar tração inicial em 2021, foi somente no ano passado que a IA realmente encontrou seu grande avanço. De fato, seu crescimento foi tão grande que tudo relacionado à IA, desde soluções até uso, começou a disparar, impulsionando o investimento em IA generativa às alturas. 

Quando sistemas de IA generativa como o ChatGPT demonstraram novas capacidades, todos quiseram uma parte desse bolo em rápido crescimento. Além disso, a maior parte desse investimento privado está ocorrendo nos EUA.

A base dessas ferramentas populares são modelos fundacionais como o GPT-4, no caso do ChatGPT da OpenAI. Esses grandes modelos multipropósito exigem conjuntos de dados massivos e vastos recursos para treinamento. Modelos fundacionais servem como ponto de partida para desenvolver modelos de aprendizado de máquina (ML) que alimentam aplicações inovadoras de forma econômica e mais rápida.

O gigante tecnológico Google lançou vários modelos fundacionais; Imagen, Muse e Parti são modelos de texto para imagem, MedLM para a indústria de saúde, o modelo de codificação chamado Codey e o modelo universal de fala Chirp.

Esses modelos consomem quantidades sem precedentes de memória, incluindo muito mais memória para armazenar e recuperar os dados do mundo real nos quais operam. Por exemplo, o GPT-3 foi treinado com cerca de 500 bilhões de palavras e usa 175 bilhões de parâmetros. Isso fez com que a demanda de energia da IA disparasse.

Nos últimos dois anos, o impacto ambiental da IA tem sido amplamente divulgado. No final do ano passado, uma análise revisada por pares tentou quantificar essa demanda.

Depois de discutir os enormes custos energéticos da mineração de criptomoedas, Alex de Vries, cientista de dados do banco central dos Países Baixos e candidato a Ph.D. na Vrije University Amsterdam, voltou sua atenção para a mais recente tendência tecnológica: a adoção de IA. Segundo sua última avaliação, a NVIDIA (NVDA ) enviará 1,5 milhão de unidades de servidores de IA por ano até 2027. Quando operando em plena capacidade, projeta‑se que esses servidores consumam pelo menos 85,4 terawatts‑hora de eletricidade anualmente.

De Vries estima que a IA poderia ser potencialmente pior que redes de Prova de Trabalho (PoW) como o Bitcoin. No entanto, são apenas estimativas, com especialistas observando que esses números não são completos e são contingentes.

Em dezembro passado, Sasha Luccioni, da empresa de IA Hugging Face, e seus colegas da empresa e da Carnegie Mellon University também realizaram testes em 88 modelos diferentes. Eles executaram a tarefa 1.000 vezes e descobriram que a maioria das tarefas usa uma pequena quantidade de energia, como 0,047 kWh, para gerar texto. No entanto, os números foram muito maiores para modelos de geração de imagens, que usaram em média 2,907 kWh por 1.000 inferências. Para contextualizar, observaram que um smartphone médio consome 0,012 kWh ao ser carregado.

Enquanto isso, um artigo recente estimou que grandes modelos de linguagem utilizam cerca de 1.300 megawatts‑hora de eletricidade, o que equivale ao consumo de energia de 130 residências nos EUA anualmente.

A Agência Internacional de Energia também observou em seu relatório no início deste ano que a demanda por IA e criptomoedas levará a um aumento considerável no consumo de eletricidade pelos data centers no futuro próximo. Espera‑se que o aumento passe de 460 terawatts‑hora em 2022 para entre 620 e 1.050 TWh em 2026.

Isso chamou a atenção dos reguladores, que agora alertam sobre o crescente custo da IA. Segundo o senador de Massachusetts Edward Markey (D):

“O desenvolvimento da próxima geração de ferramentas de IA não pode ocorrer às custas da saúde do nosso planeta.”

Isso ocorreu depois que ele, juntamente com outros senadores e representantes, apresentou um projeto de lei exigindo que o governo federal avalie a pegada ambiental da IA e desenvolva um sistema padronizado para relatar impactos futuros. Na Europa, o AI Act já foi aprovado, o que exige que modelos fundacionais poderosos relatem seu uso de recursos, consumo de energia e outros impactos.

Em meio a tudo isso, a Organização Internacional de Normalização (ISO) emitirá critérios ainda este ano para medir o uso de materiais, consumo de água e eficiência energética para “IA sustentável”.

Tornando a IA Mais Eficiente 

Para ser viável em grande escala, os modelos de IA precisam se tornar mais eficientes em termos de energia e capazes de operar em dispositivos com restrição de energia que utilizam significativamente menos energia que os data centers.

Esses data centers exigem enormes quantidades de energia para manter os computadores em funcionamento, que provém predominantemente de combustíveis fósseis. Isso causa emissões significativas de CO2e. Para enfrentar isso, pesquisadores e organizações têm trabalhado para tornar a IA mais eficiente.

Uma empresa proeminente que fez progressos significativos na busca de uma solução para esse problema é a especialista em otimização de código baseada em Londres, TurinTech. A TurinTech tem avançado por meio de uma combinação de deep learning e algoritmos evolutivos. Esse sistema adapta continuamente um modelo existente com base em novas informações, em vez de regenerá‑lo do zero.

De acordo com Harvey Lewis, da Ernst and Young UK, algoritmos evolutivos ou genéticos e métodos estatísticos bayesianos podem tornar o deep learning mais eficiente, e hardware especializado pode reduzir seu custo.

Outro método sugerido é conectar a IA orientada por dados com outras entradas científicas ou humanas sobre o domínio da aplicação. Pushkar P. Apte, diretor de iniciativas estratégicas no CITRIS, e Costas J. Spanos, diretor do CITRIS, escreveram sobre quatro maneiras de alcançar isso:

• Sinergizando IA com leis científicas.
• Aumentando os dados com insights humanos especializados.
• Utilizando dispositivos para explicar como a IA toma decisões.
• Usando outros modelos para prever comportamentos.

Mais recentemente, a startup EnCharge fez um avanço em IA que pode melhorar drasticamente o consumo de energia desses modelos de IA ao realizar previsões. A empresa utilizou seu financiamento da DARPA para reduzir o uso de memória ao realizar parte do trabalho em circuitos de memória analógica, que podem executar acumulações de multiplicação de matrizes em paralelo com baixa energia, em vez de transistores tradicionais.

“É assim que você resolve o problema de movimentação de dados.”

– Naveen Verma, CEO da EnCharge AI e professor do Departamento de Engenharia Elétrica em Princeton 

Ele acrescentou ainda que, em vez de comunicar bits individuais, o resultado reduzido é comunicado na forma de acumulação de muitas multiplicações paralelas.

A EnCharge AI conseguiu processar 150 trilhões de operações por segundo por watt. No entanto, a computação analógica é extremamente difícil de alcançar, e tentativas anteriores não foram bem‑sucedidas.

Enquanto isso, pesquisa do professor assistente em tenure‑track Raghavendra Selvan, do Departamento de Ciência da Computação da UCPH, no ano passado explorou diferentes maneiras de reduzir a pegada de carbono do ML. Em nível micro, algoritmos podem ser tornados mais rápidos e eficientes para reduzir o uso de recursos. Isso, ele observou, poderia ser feito analisando como reduzir o número de bits usados nas computações e como reduzir computações redundantes.

Ele sugeriu ainda avaliar a necessidade de todos os dados armazenados. Assim, em nível macro, ao observar quando e onde as computações (muitas das quais não são críticas em tempo) são realizadas, podem ser escolhidas horas fora de pico para treinar sistemas de IA, reduzindo os custos das sessões de treinamento e sua pegada de carbono.

Usando IA para Melhorar a IA 

Agora, Selvan criou um benchmark para projetar modelos de IA que consomem muito menos energia sem afetar seu desempenho. No entanto, isso requer usar a quantidade de energia consumida e a pegada de carbono como padrão para projetar e treinar esses modelos de IA.

Para isso, 429.000 dos subtipos de modelos de IA foram estudados. Essas redes neurais convolucionais, usadas para tradução de idiomas, reconhecimento facial, detecção de objetos e análise de imagens médicas, estimam‑se que requerem até 263.000 kWh de energia apenas para treinar.

Para fazer uma analogia, 263.000 kWh correspondem aproximadamente à energia que o cidadão dinamarquês médio consome ao longo de mais de quatro décadas. Um computador levaria um século para concluir todo esse treinamento.

Esse consumo de energia colossal tem a indústria trabalhando para torná‑lo amigável ao clima; no entanto, o desenvolvimento de modelos de IA energeticamente eficientes ainda não se tornou realidade. Segundo Selvan, que está investigando possibilidades de reduzir a pegada de carbono da IA:

“Hoje, os desenvolvedores estão focados estreitamente em construir modelos de IA que sejam eficazes em termos da precisão de seus resultados.”

Ele comparou esse comportamento a um carro, que é considerado bom apenas porque leva rapidamente ao destino sem considerar o consumo de combustível. Ele acrescentou ainda:

“Como resultado, os modelos de IA são frequentemente ineficientes em termos de consumo de energia.”

Seu novo estudo, realizado com o estudante de CS Pedram Bakhtiarifard, visa mudar isso ao demonstrar que é possível limitar uma grande quantidade de CO2e enquanto mantém a precisão de um modelo de IA intacta.

Para alcançar isso, os pesquisadores da UCPH observaram que precisamos de um modelo energeticamente eficiente desde o início. Isso significa considerar os custos climáticos ao projetar e durante o processo intensivo em energia de treinamento de modelos de IA. Selvan disse que, dessa forma, a pegada de carbono pode ser reduzida em “cada fase do ‘ciclo de vida’ do modelo”, que inclui tanto o treinamento quanto a implantação do modelo.

Assim, os pesquisadores calcularam a energia necessária para treinar centenas de milhares desses modelos de IA. Curiosamente, os pesquisadores da UCPH não treinaram os modelos, mas estimaram usando outro modelo de IA. Dessa forma, conseguiram economizar a grande maioria, 99%, da energia que de outra forma seria necessária.

Agora, com base em seus cálculos, a equipe apresentou uma coleção de benchmark de modelos de IA que apresentam desempenho semelhante, mas utilizam menos energia para concluir uma tarefa.

De acordo com o estudo, ajustar modelos ou usar outros tipos de modelos pode economizar até 80% de energia durante as fases de treinamento e aplicação. Quanto ao desempenho, houve pouca ou nenhuma comprometimento (apenas 1% ou menos). Esses números são, na verdade, conservadores, segundo os pesquisadores.

“Considere nossos resultados como um livro de receitas para os profissionais de IA. As receitas não descrevem apenas o desempenho de diferentes algoritmos, mas quão eficientes energeticamente eles são.”

– Bakhtiarifard

Ele afirmou ainda que, simplesmente trocando um ingrediente no design do modelo por outro, “podemos frequentemente alcançar o mesmo resultado”. Isso significa que os profissionais não precisam iniciar o treinamento de cada modelo primeiro; ao invés disso, podem escolher um baseado tanto no desempenho quanto no consumo de energia.

Dado que vários modelos são treinados antes de encontrar a opção mais adequada para uma tarefa específica, tornando o desenvolvimento de IA “extremamente intensivo em energia”, Bakhtiarifard disse, “seria mais amigável ao clima escolher o modelo certo desde o início”, e, além disso, escolher aquele que não consome energia significativa durante a fase de treinamento.

Embora em áreas como carros autônomos e medicina, a precisão do modelo seja crítica para a segurança, e, portanto, não possamos comprometer o desempenho nesses casos, os pesquisadores observaram que isso não deve nos desencorajar de buscar alta eficiência energética em outros domínios.

O estudo, segundo eles, mostra que um melhor equilíbrio pode ser encontrado ao tornar a eficiência energética um padrão no desenvolvimento de modelos de IA, como ocorre em muitos setores. Segundo Selvan:

“A IA tem um potencial incrível. Mas se quisermos garantir um desenvolvimento de IA sustentável e responsável, precisamos de uma abordagem mais holística que não apenas considere o desempenho do modelo, mas também o impacto climático.”

O benchmark, chamado EC-NAS, é de código aberto e pode ser usado por outros cientistas e empresas para avançar a pesquisa em busca de arquitetura neural (NAS). O estudo afirmou que a utilização de algoritmos de otimização multi‑objetivo equilibra o uso de energia e a precisão. “Com suas métricas diversificadas, o EC-NAS convida a mais pesquisas no desenvolvimento de modelos energeticamente eficientes e ambientalmente sustentáveis,” declarou o estudo.

Soluções Energéticas Baseadas em IA

Agora, vamos dar uma olhada nas empresas que estão abordando o setor de energia usando tecnologia e trabalhando ativamente para oferecer soluções energéticas baseadas em IA:

#1. GE Renewable Energy

A empresa utiliza tecnologia de IA/ML desenvolvida internamente para prever com precisão e otimizar os custos logísticos do processo de logística de turbinas eólicas. Este ano, a GE lançou o Proficy para fabricantes alcançarem sustentabilidade enquanto ajudam a maximizar a lucratividade. Também implementou o CERius, alimentado por IA, para melhorar a precisão dos relatórios.

No início deste mês, a General Electric (GE.TO ) se dividiu em três empresas separadas, focadas em aviação, energia e saúde, e começou a ser negociada na NYSE como entidades distintas. Assim, sua divisão de energia agora se chama GE Vernova (GEV ) (GEV) e tem uma capitalização de mercado de $36 bilhões, com ações negociadas a 131.75. Em 2023, a empresa garantiu seu maior pedido para apoiar um projeto eólico nos EUA que fornecerá 2.4 GW ao projeto SunZia. A Goldman Sachs (GS ) projeta que a empresa terá um EBITDA de $4bln até 2026.

#2. Schneider Electric

A empresa francesa de $34.2bln utiliza IA para melhorar a eficiência e a produtividade, bem como enfrentar o desafio das mudanças climáticas. O uso de IA da Schneider Electric (SND.DE ) gira em torno de visualização de dados e engenharia, otimização e simulação, e modelagem de confiabilidade.

A empresa registrou €36 bilhões em receitas no ano fiscal de 2023, um aumento de 13%. A Schneider Electric também reportou um lucro líquido de €4 bilhões e um fluxo de caixa livre de €4.6 bilhões.

Conclusão

A IA é a revolução tecnológica desta década. Dado que a integração da IA tem demonstrado reduzir custos e aumentar a receita das empresas, ao mesmo tempo em que proporciona ganhos de eficiência para os trabalhadores, está claramente mais do que um mero termo da moda. Os sistemas de IA realmente superam os humanos em uma variedade de tarefas, embora ainda sejamos melhores que eles em tarefas cognitivas complexas.

No entanto, ela traz seu próprio conjunto de riscos em termos de privacidade, vieses algorítmicos e, como discutimos acima, o impacto ambiental negativo. Uma pesquisa global sobre atitudes em relação à IA também mostra que as pessoas estão apreensivas quanto a essa nova tecnologia, embora a maioria veja-a mudando suas vidas diárias nos próximos anos. A geração mais jovem é mais otimista em relação à IA.

À medida que a IA continua a se tornar uma parte importante de nossas vidas, governos, cientistas e empresas estão se unindo para enfrentar seus riscos. Os reguladores já começaram a focar na indústria, com mais de 30 países tendo aprovado ao menos uma lei relacionada à IA nos últimos sete anos. À medida que mais avanços tecnológicos ocorram, veremos a IA tornar‑se mais eficiente e transformar nosso mundo.

Clique aqui para aprender tudo sobre investir em inteligência artificial.