Consumo de energía desenfrenado: uso de la IA para mejorarla

En rápido crecimiento, el mercado de la inteligencia artificial (IA) está proyectado alcanzar los 1.8 billones de dólares a finales de esta década. 

Si bien la manía de la IA comenzó a ganar terreno a principios de 2021, No fue hasta el año pasado que la IA realmente encontró su gran avance.. De hecho, su crecimiento fue tal que todo lo relacionado con la IA, desde las soluciones hasta el uso, comenzó a dispararse, impulsando la inversión en IA generativa por las nubes. 

Cuando los sistemas de IA generativa como ChatGPT demostraron nuevas capacidades, todos querían una parte de este pastel en rápido crecimiento. Además, la mayor parte de esta inversión privada se produce en Estados Unidos.

Estas herramientas populares se sustentan en modelos básicos como GPT-4, en el caso de ChatGPT de OpenAI. Estos grandes modelos multipropósito requieren conjuntos de datos masivos y amplios recursos para su entrenamiento. Los modelos básicos sirven como punto de partida para desarrollar modelos de aprendizaje automático (ML) que impulsen aplicaciones innovadoras de forma rentable y rápida.

El gigante tecnológico Google tiene liberado varios modelos de cimentaciones; Imagen, Muse y Parti son modelos de texto a imagen, MedLM para la industria de la salud, el modelo de codificación llamado Codey y el modelo de voz universal Chirp.

Estos modelos consumen cantidades de memoria sin precedentes, incluyendo mucha más memoria para almacenar y recuperar los datos del mundo real con los que operan. Por ejemplo, GPT-3 se entrena con aproximadamente 500 mil millones de palabras y utiliza 175 mil millones de parámetros. Esto ha provocado un aumento vertiginoso de la demanda energética de la IA.

En los últimos años, se ha informado ampliamente sobre el impacto ambiental de la IA. A fines del año pasado, un análisis revisado por pares intentó cuantificar esta demanda. 

Después de discutir los enormes costos energéticos de minería de criptocorrienteAlex de Vries, científico de datos del banco central de los Países Bajos y candidato a doctorado en la Universidad Libre de Ámsterdam, ha centrado su atención en la última tendencia tecnológica: la adopción de la IA. Según su última evaluación, NVIDIA enviará 1.5 millones de unidades de servidores de IA por año para 2027. Cuando funcionen a plena capacidad, se prevé que estos servidores consuman al menos 85.4 teravatios-hora de electricidad al año. 

De Vries estima que la IA podría ser potencialmente peor que las redes de prueba de trabajo (PoW) como Bitcoin. Sin embargo, estas son sólo estimaciones, y los expertos señalan que estas cifras no están completas y son contingentes.

En diciembre pasado, Sasha Luccioni de la firma de inteligencia artificial Hugging Face y sus colegas de la firma y de la Universidad Carnegie Mellon también realizaron pruebas en 88 modelos diferentes. Ejecutaron la tarea 1,000 veces y fundada que la mayoría de las tareas utilizan una pequeña cantidad de energía, como 0.047 kWh, para generar texto. Sin embargo, se descubrió que las cifras eran mucho mayores en los modelos de generación de imágenes, que utilizaban un promedio de 2.907 kWh por cada 1,000 inferencias. A modo de contexto, señalaron que un teléfono inteligente promedio usa 0.012 kWh para cargarse.

Mientras tanto, una reciente   Estimó que los modelos de lenguaje grande utilizan alrededor de 1,300 megavatios hora de electricidad, lo que equivale a la energía consumida por 130 hogares en Estados Unidos anualmente.

La Agencia Internacional de Energía también señaló en su informe de principios de este año que la demanda de IA y criptomonedas conducirá a un aumento considerable del uso de electricidad por parte de los centros de datos en un futuro próximo. Se espera que el aumento sea de 460 teravatios hora en 2022 a entre 620 y 1,050 TWh en 2026.

Esto ha llamado la atención de los reguladores, que ahora advierten sobre el creciente coste de la IA. Según el senador de Massachusetts Edward Markey (D):

"El desarrollo de la próxima generación de herramientas de IA no puede realizarse a expensas de la salud de nuestro planeta". 

Esto se produjo después de que él, junto con otros senadores y representantes, presentara un proyecto de ley que exige al gobierno federal evaluar la huella ambiental de la IA y desarrollar un sistema estandarizado para informar sobre los impactos futuros. En Europa, ya se aprobó la Ley de IA, que exige que los modelos de base sólidos informen sobre el uso de recursos, el consumo de energía y otros impactos.

En medio de todo esto, la Organización Internacional de Normalización publicará criterios a finales de este año para medir el uso de materiales, el consumo de agua y la eficiencia energética para una "IA sostenible". 

Hacer que la IA sea más eficiente 

Para ser viables a gran escala, los modelos de IA deben volverse más eficientes energéticamente y capaces de funcionar en dispositivos con limitaciones de energía que utilizan significativamente menos energía que los centros de datos. 

Estos centros de datos requieren enormes cantidades de energía para mantener las computadoras en funcionamiento, que proviene principalmente de combustibles fósiles. Esto provoca importantes emisiones de CO2e. Para abordar esto, investigadores y organizaciones han estado trabajando para hacer que la IA sea más eficiente. 

Una empresa destacada que ha logrado avances significativos en la búsqueda de una solución a este problema es TurinTech, especialista en optimización de código con sede en Londres. TurinTech está avanzando a través de una combinación de aprendizaje profundo y algoritmos evolutivos. Este sistema adapta continuamente un modelo existente basándose en nueva información en lugar de regenerarlo desde cero. 

Según Harvey Lewis de Ernst and Young UK, los algoritmos evolutivos o genéticos y los métodos estadísticos bayesianos pueden hacer que el aprendizaje profundo sea más eficiente, y el hardware especializado puede reducir su costo.

Otro método sugerido es conectar la IA basada en datos con otras aportaciones científicas o humanas sobre el dominio de la aplicación. Pushkar P. Apte, director de iniciativas estratégicas de CITRIS, y Costas J. Spanos, director de CITRIS, escribí alrededor de cuatro formas de lograrlo:

• Sinergizar la IA con las leyes científicas.
• Aumentar los datos con conocimientos humanos expertos.
• Emplear dispositivos para explicar cómo la IA toma decisiones.
• Usar otros modelos para predecir el comportamiento.

Más recientemente, la startup EnCharge logró un gran avance en la IA que podría mejorar drásticamente el consumo de energía de estos modelos de IA al realizar predicciones. La compañía utilizó su financiación DARPA para reducir el uso de memoria realizando parte del trabajo en circuitos de memoria analógica, que pueden realizar acumulaciones de multiplicación de matrices en paralelo a baja energía en lugar de los transistores tradicionales. 

“Así es como se soluciona el problema del movimiento de datos”. 

– Naveen Verma, director ejecutivo de EnCharge AI y profesor del Departamento de Ingeniería Eléctrica de Princeton 

Añadió además que en lugar de comunicar bits individuales, el resultado reducido se comunica en forma de acumulación de muchas multiplicaciones paralelas.

EnCharge AI ha sido capaz de procesar 150 billones de operaciones por segundo por vatio. Sin embargo, la computación analógica es extremadamente difícil de lograr, y los intentos previos no han dado resultados.

Mientras tanto, Segun una investigacion El año pasado, el profesor adjunto titular Raghavendra Selvan, del Departamento de Ciencias de la Computación de la UCPH, exploró diferentes maneras de reducir la huella de carbono del aprendizaje automático. A nivel micro, los algoritmos pueden ser más rápidos y eficientes para reducir el uso de recursos. Esto, señaló, podría lograrse investigando cómo reducir la cantidad de bits utilizados para realizar los cálculos y cómo reducir los cálculos redundantes. 

Sugirió además evaluar la necesidad de todos los datos almacenados. Entonces, a nivel macro, al observar cuándo y dónde se realizan los cálculos (muchos de los cuales no son críticos en términos de tiempo), se pueden elegir horas no pico para entrenar sistemas de IA para reducir los costos de las sesiones de capacitación y su huella de carbono. 

Uso de la IA para mejorarla 

Ahora, Selvan ha creado un punto de referencia para diseñar modelos de IA que consumen mucha menos energía sin afectar su rendimiento. Sin embargo, esto requiere utilizar la cantidad de energía utilizada y la huella de carbono como estándar para diseñar y entrenar estos modelos de IA.

Para ello se estudiaron 429,000 modelos del subtipo IA. Se estima que estas redes neuronales convolucionales, que se utilizan para la traducción de idiomas, el reconocimiento facial, la detección de objetos y el análisis de imágenes médicas, requieren hasta 263,000 kWh de energía para simplemente entrenarse. 

Para establecer un paralelo, 263,000 kWh es aproximadamente tanta energía como la que consume el ciudadano danés promedio durante un período de más de cuatro décadas. Un ordenador tardaría un siglo en completar toda esta formación. 

Este colosal consumo de energía ha impulsado a la industria a trabajar para que sea respetuoso con el medio ambiente; sin embargo, el desarrollo de modelos de IA energéticamente eficientes aún no se ha hecho realidad. Según Selvan, quien está estudiando posibilidades para reducir la huella de carbono de la IA:

"Hoy en día, los desarrolladores se centran exclusivamente en crear modelos de IA que sean eficaces en términos de precisión de sus resultados". 

Comparó este comportamiento con el de un coche, que se considera bueno simplemente porque lleva al destino rápidamente, sin importar el consumo de combustible. Añadió:

"Como resultado, los modelos de IA suelen ser ineficientes en términos de consumo de energía". 

Su nuevo Estudio, realizado con el estudiante de informática Pedram Bakhtiarifard, pretende cambiar esta situación demostrando que es posible limitar una gran cantidad de CO2e manteniendo intacta la precisión de un modelo de IA.

Para lograrlo, los investigadores de la UCPH señalaron que necesitamos un modelo energéticamente eficiente desde el principio. Esto implica considerar los costos climáticos durante el diseño y el proceso de entrenamiento de modelos de IA, que consume mucha energía. Selvan afirmó que, de esta manera, se puede reducir la huella de carbono en cada fase del ciclo de vida del modelo, que incluye tanto el entrenamiento como la implementación.

Así, los investigadores calcularon la energía necesaria para entrenar cientos de miles de estos modelos de IA. Curiosamente, los investigadores de la UCPH no entrenaron los modelos, sino que realizaron la estimación utilizando otro modelo de IA. De esta forma, lograron ahorrar la gran mayoría (el 99 %) de la energía que de otro modo habría consumido.

Ahora, basándose en sus cálculos, el equipo ha presentado una colección de referencia de modelos de IA que funcionan aproximadamente al mismo nivel pero utilizan menos energía para completar una tarea.

Según el estudio, ajustar modelos o utilizar otro tipo de modelos puede ahorrar hasta un 80% de energía durante las etapas de entrenamiento y aplicación. En cuanto al rendimiento, ha habido poco o ningún compromiso (sólo el 1% o incluso menos). Estas cifras son en realidad conservadoras, según los investigadores. 

Considere nuestros resultados como un libro de recetas para los profesionales de la IA. Las recetas no solo describen el rendimiento de los diferentes algoritmos, sino también su eficiencia energética. 

– Bajtiarifard

Afirmó además que, con solo intercambiar un componente del diseño del modelo por otro, «a menudo podemos lograr el mismo resultado». Esto significa que los profesionales no necesitan empezar a entrenar cada modelo primero; simplemente pueden elegir uno en función del rendimiento y el consumo de energía.

Dado que se entrenan varios modelos antes de encontrar la opción más adecuada para una tarea particular, lo que hace que el desarrollo de IA sea "extremadamente intensivo en energía", dijo Bakhtiarifard, "sería más respetuoso con el clima elegir el modelo correcto desde el principio" y, además, elegir el que no consuma energía significativa durante la fase de entrenamiento.

Si bien en áreas como los autos autónomos y la medicina, la precisión del modelo es fundamental para la seguridad y, por lo tanto, no podemos comprometer el rendimiento en ese aspecto, señalaron los investigadores, esto no debería disuadirnos de tratar de lograr una alta eficiencia energética en otros dominios. 

Según ellos, el estudio muestra que se puede encontrar una mejor compensación si la eficiencia energética es un estándar en el desarrollo de modelos de IA, como es el caso en muchos sectores. Según Selván:

“La IA tiene un potencial asombroso. Pero si queremos garantizar un desarrollo sostenible y responsable de la IA, necesitamos un enfoque más holístico que no sólo tenga en cuenta el rendimiento del modelo, sino también el impacto climático”. 

El punto de referencia, denominado EC-NAS, es de código abierto y otros científicos y empresas pueden utilizarlo para avanzar en la investigación en búsqueda de arquitectura neuronal (NAS). El estudio dice que la utilización de algoritmos de optimización multiobjetivo logra un equilibrio entre el uso de energía y la precisión. "Con sus diversas métricas, EC-NAS invita a realizar más investigaciones para desarrollar modelos energéticamente eficientes y ambientalmente sostenibles", afirma el estudio..

Soluciones energéticas basadas en IA

Ahora, echemos un vistazo a las empresas que están abordando el sector energético utilizando tecnología y trabajando activamente para ofrecer soluciones energéticas basadas en IA:

#1. GE Energía renovable

La empresa utiliza tecnología AI/ML desarrollada internamente para predecir y optimizar con precisión los costos logísticos del proceso logístico de las turbinas eólicas. Este año, GE lanzó Proficy para que los fabricantes logren la sostenibilidad y al mismo tiempo ayuden a maximizar la rentabilidad. También implementó CERius con tecnología de inteligencia artificial para aumentar la precisión de los informes.

A principios de este mes, General Electric se dividió en tres compañías separadas, centradas en la aviación, la energía y la atención médica, y comenzaron a cotizar en la Bolsa de Nueva York como entidades separadas. Por lo tanto, su ala energética ahora se llama GE Vernova (GEV) y tiene una capitalización de mercado de 36 mil millones de dólares, ya que sus acciones se cotizan a 131.75. En 2023, la empresa asegurado su mayor pedido para apoyar un proyecto eólico estadounidense que suministrará 2.4 GW al proyecto SunZia. Goldman Sachs proyecta que la compañía tendrá un EBITDA de 4 mil millones de dólares para 2026.

#2. Schneider Electric

La empresa francesa, con un valor de 34.2 millones de dólares, utiliza la IA para mejorar la eficiencia y la productividad, así como para abordar el desafío del cambio climático. El uso de la IA por parte de Schneider Electric se centra en la visualización e ingeniería de datos, la optimización y simulación, y el modelado de confiabilidad. 

La empresa registró 36 millones de euros de ingresos para el año fiscal 2023, lo que supone un aumento del 13%. Schneider Electric también registró unos ingresos netos de 4 millones de euros y un flujo de caja libre de 4.6 millones de euros. 

Conclusión

La IA es la revolución tecnológica de esta década. Dado que se ha demostrado que su integración reduce costes y aumenta los ingresos de las empresas, a la vez que proporciona una mayor eficiencia a los trabajadores, es claramente más que una simple palabra de moda. Los sistemas de IA están superando a los humanos en diversas tareas, aunque seguimos siendo mejores que ellos en tareas cognitivas complejas.

Sin embargo, conlleva su propio conjunto de riesgos en términos de privacidad, sesgos algorítmicos y, como comentamos anteriormente, el impacto ambiental negativo. Una encuesta global sobre actitudes hacia la IA también muestra que la gente está nerviosa por esta nueva tecnología, aunque la mayoría ve que cambiará su vida diaria en los próximos años. La generación más joven es más optimista acerca de la IA. 

A medida que la IA se convierte en una parte importante de nuestras vidas, gobiernos, científicos y empresas se unen para abordar sus riesgos. Los reguladores ya han comenzado a analizar la industria, y más de 30 países han aprobado al menos una ley relacionada con la IA en los últimos siete años. A medida que se produzcan más avances tecnológicos, veremos cómo la IA se vuelve más eficiente y transforma nuestro mundo. 

Haga clic aquí para aprender todo sobre invertir en inteligencia artificial.