Para que la IA realice su potencial, se deben abordar sus demandas energéticas

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Crecientes demandas energéticas de la IA creando una crisis energética

Los nuevos sistemas de IA continúan lanzándose con una frecuencia creciente La más reciente pronóstico de uso global de energía predice que el consumo energético de la IA se duplicará, pasando de 460 teravatios‑hora (TWh) en 2022 a 1.000 TWh para 2026. Estos protocolos incluyen recomendadores, grandes modelos de lenguaje (LLM), procesamiento y creación de imágenes y videos, servicios Web3 y más.

Según el estudio del investigador, los sistemas de IA requieren una transferencia de datos que equivale a “200 veces la energía utilizada para el cómputo al leer tres operandos de origen de 64 bits y escribir un operando de destino de 64 bits en una memoria principal fuera del chip.” Por lo tanto, reducir el consumo energético de las aplicaciones de cómputo de inteligencia artificial (IA) es una preocupación principal para los desarrolladores, quienes deberán superar este obstáculo para lograr una adopción a gran escala y madurar la tecnología.

Afortunadamente, un grupo de ingenieros innovadores de la Universidad de Minnesota ha presentado una posible solución que podría reducir el consumo de energía de los protocolos de IA en varios órdenes de magnitud. Para lograrlo, los investigadores introducen un nuevo diseño de chip que mejora la Arquitectura de Von Neumann presente en la mayoría de los chips actuales.

Arquitectura de Von Neumann

John von Neumann revolucionó el sector informático en 1945 al separar las unidades de lógica y memoria, lo que permitió una computación más eficiente en ese momento. En esta disposición, la lógica y los datos se almacenan en diferentes ubicaciones físicas. Su invención mejoró el rendimiento porque permitió que ambos se accedieran simultáneamente.

Fuente – University of Minnesota Twin Cities

RAM

Hoy, la mayoría de los ordenadores siguen utilizando la estructura de Von Neumann, con tu disco duro almacenando tus programas y la memoria de acceso aleatorio (RAM) alojando instrucciones de programación y datos temporales. La RAM actual lleva a cabo esta tarea mediante varios métodos, incluidos DRAM, que utiliza condensadores, y SRAM, que cuenta con múltiples circuitos.
Cabe destacar que esta estructura funcionó muy bien durante décadas. Sin embargo, la transferencia constante de datos entre lógica y memoria requiere mucha energía. Esta transferencia de energía aumenta a medida que los requisitos de datos y la carga computacional crecen. Por lo tanto, crea un cuello de botella de rendimiento que limita la eficiencia a medida que aumenta la potencia de cálculo.

Intentos de mejora de las demandas energéticas

A lo largo de los años, se han realizado numerosos intentos de mejorar la arquitectura de Von Neumann. Estos intentos han creado diferentes variaciones del proceso de memoria con el objetivo de acercar físicamente ambas acciones. Actualmente, las tres principales variaciones son:

Procesamiento cercano a la memoria

Esta mejora acerca físicamente la lógica a la memoria. Se logró mediante una infraestructura apilada en 3D. Acercar la lógica redujo la distancia y la energía necesarias para transferir los datos requeridos para alimentar los cálculos. Esta arquitectura proporcionó una mayor eficiencia.

Computación en memoria

Otro método actual para mejorar la arquitectura computacional es la computación en memoria. Cabe destacar que existen dos variaciones de este tipo de chip. La original integra grupos de lógica junto a la memoria en un solo chip. Esta implementación permite eliminar los transistores utilizados en versiones anteriores. Sin embargo, muchos consideran que este método no es “verdadero” para la estructura en memoria porque aún mantiene ubicaciones de memoria separadas, lo que significa que los problemas de rendimiento iniciales derivados de la transferencia de datos persisten, aunque a menor escala.

Verdadero en memoria

El último tipo de arquitectura de chip es “verdadero en memoria”. Para calificar como este tipo de arquitectura, la memoria debe realizar los cálculos directamente. Esta estructura mejora las capacidades y el rendimiento porque los datos para las operaciones lógicas permanecen en su ubicación. La última versión de arquitectura verdadera en memoria del investigador es CRAM.

(CRAM)

La memoria de acceso aleatorio computacional (CRAM) permite cálculos verdaderamente en memoria, ya que los datos se procesan dentro del mismo arreglo. Los investigadores modificaron una arquitectura estándar 1T1M STT‑MRAM para hacer posible el CRAM. El diseño del CRAM integra microtransistores en cada celda y se basa en CPUs basadas en uniones túnel magnéticas.
Este enfoque brinda un mejor control y rendimiento. El equipo luego apiló un transistor adicional, una línea lógica (LL) y una línea de bits lógica (LBL) en cada celda, permitiendo el cómputo en tiempo real dentro del mismo banco de memoria.

Historia del CRAM

Los sistemas de IA actuales requieren una nueva estructura que pueda satisfacer sus demandas computacionales sin empeorar las preocupaciones de sostenibilidad. Reconociendo esta necesidad, los ingenieros decidieron profundizar en las capacidades del CRAM por primera vez. Sus resultados se publicaron en la revista científica NPJ bajo el informe “Demostración experimental de memoria de acceso aleatorio computacional basada en uniones túnel magnéticas.”
El primer CRAM aprovechó una estructura de dispositivo MTJ. Estos dispositivos espintrónicos mejoraron los métodos de almacenamiento anteriores al usar el espín de los electrones en lugar de transistores para transferir y almacenar datos mediante el método MTJ. Este método utiliza una delgada barrera de túnel que se sitúa entre dos capas ferromagnéticas (FM). Un pequeño voltaje hace que estos electrones se exciten y se transfieran entre capas.
Esta transferencia genera corriente. También proporciona una forma eficiente de leer y escribir en la memoria. La última actualización del CRAM lleva este concepto más allá, ofreciendo resultados de alto rendimiento mientras reduce las demandas energéticas.

Estudio del CRAM

El concepto CRAM ha estado en desarrollo durante años. Sin embargo, no se había realizado un análisis profundo de sus capacidades hasta ahora. Cabe destacar que el estudio aprovechó una variedad de conceptos patentados desarrollados por el equipo y sus predecesores a lo largo del tiempo. Por ejemplo, la Memoria de Acceso Aleatorio Magnética (MRAM), que es un componente vital de los relojes inteligentes, sensores y microcontroladores actuales, se utilizó junto con dispositivos MTJ modificados para mejorar el rendimiento.

Pruebas del CRAM

La fase de pruebas requirió que los investigadores midieran el rendimiento de los chips durante la ejecución lógica. Los investigadores emplearon una variedad de estrategias para obtener la mayor comprensión posible, incluyendo suma escalar, multiplicación y multiplicación de matrices.
El primer paso del proceso fue medir la actividad bajo operaciones básicas de memoria. A partir de ahí, el equipo incrementó la computación utilizando operaciones lógicas de 2, 3 y 5 entradas. Tras esta etapa, se introdujo y volvió a probar un sumador completo de 1 bit con dos diseños diferentes. La prueba final incluyó una matriz de 1 × 7, que arrojó resultados interesantes.

Los resultados de las pruebas del CRAM muestran menores demandas energéticas

Los resultados de las pruebas demostraron cuán eficiente es el nuevo proceso de prueba de concepto en comparación con los modelos actuales. Los datos mostraron un consumo de energía promedio 1000 veces menor durante la computación. Cuando se combina con otros métodos de ahorro de energía, el enfoque demostró ahorros energéticos de 2.500 y 1.700 veces menos en comparación con los métodos tradicionales.

Características adicionales

Otro descubrimiento interesante fue que el CRAM permitió el acceso aleatorio simultáneo de datos y operandos. Este beneficio mejora enormemente las capacidades computacionales paralelas, lo que podría resultar en protocolos más seguros y estables en el futuro.

Beneficios que el CRAM aporta al mercado

Examinar los beneficios que el CRAM aporta ayudará a comprender mejor por qué se trata de un avance revolucionario que podría tener un efecto inmediato en las actividades diarias de la persona promedio pronto. El CRAM permite a desarrolladores y fabricantes crear hardware configurado perfectamente para su tarea principal, reduciendo las demandas energéticas y mejorando el rendimiento.

IA – Enfoque

La Inteligencia Artificial ya está cambiando mucho. Estos sistemas tienen una gran demanda pero requieren hardware y software específicos para funcionar correctamente. El CRAM ofrece a los fabricantes la capacidad de crear hardware desde el primer día diseñado para soportar aplicaciones intensivas en datos, centradas en la memoria o sensibles a la energía.
En el futuro, el CRAM impulsará algoritmos avanzados de IA como bioinformática, procesamiento de señales, redes neuronales, computación en el borde y el hardware militar más avanzado. La matriz CRAM permitirá a los desarrolladores crear aplicaciones de aprendizaje automático de mejor rendimiento que sean lo suficientemente flexibles para satisfacer las necesidades de la comunidad.

Utiliza una estructura probada

Otro beneficio importante que hace del CRAM una opción inteligente es el uso de sistemas de hardware probados. Cabe destacar que el CRAM utiliza tecnología común y madura, lo que aumenta la confianza del consumidor. También garantiza que los problemas de hardware sean una preocupación mínima para los usuarios.

Flexible

El CRAM brinda verdadera flexibilidad a los desarrolladores. Los programadores pueden calcular datos en cualquier parte de la matriz de memoria utilizando una variedad de operaciones lógicas populares. Específicamente, el CRAM soporta AND, OR, NAND, NOR y MAJ, lo que aumenta su versatilidad.

Más rápido

La velocidad es otro beneficio que no puede pasarse por alto. Se necesita tiempo para que los datos se transfieran entre la lógica y las ubicaciones de almacenamiento de memoria. Aunque este tiempo puede ser solo una fracción de segundo, puede acumularse y provocar una experiencia de usuario reducida. El CRAM elimina la necesidad de transferencias de datos lentas y que consumen mucha energía al hacer que la misma memoria sea responsable de estas tareas.

Paralelismo

El paralelismo es la capacidad de ejecutar el mismo código en paralelo al mismo tiempo. Es un componente vital de muchas operaciones de fabricación, seguridad e industriales. Debido a la estructura del CRAM, puede ejecutar la misma lógica en paralelo a través de la misma matriz de memoria simultáneamente.

Costos de fabricación

El CRAM también reducirá los costos de fabricación de dispositivos de alta gama al disminuir la cantidad de piezas necesarias para construir un producto. El CRAM utiliza la misma memoria para lógica y datos, lo que significa que los fabricantes pueden crear chips con menos componentes. Esta estructura reduce costos y mejora la fiabilidad y el rendimiento.

Investigadores

Esta investigación fue liderada por Tema de la Universidad de Minnesota. Los investigadores principales incluyeron a Jian-Ping Wang, profesor McKnight, y Robert F. Hartmann. Además, Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert y Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury y Salonik Resch desempeñaron papeles vitales en el estudio. Un equipo de la Universidad de Arizona también colaboró, incluyendo a Pravin Khanal, Ali Habiboglu y el profesor Weigang Wang.
La investigación fue posible gracias a subvenciones de la Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. (DARPA), el Instituto Nacional de Estándares y Tecnología (NIST), la Fundación Nacional de Ciencia (NSF) y Cisco Inc. El proyecto también realizó pruebas y estudios en el Minnesota Nano Center y el Minnesota Supercomputing Institute de la Universidad de Minnesota.

Dos empresas que podrían beneficiarse de la reducción de las demandas energéticas de la IA

Hay muchos fabricantes que podrían asegurar ingresos adicionales o mejorar su línea de productos simplemente integrando opciones CRAM. Estas empresas ocupan posiciones fuertes en el mercado y tienen la capacidad de integrar nueva tecnología de manera que mejore significativamente sus ofertas.

Microsoft

MSFT Gráfico de precios

Microsoft (MSFT ) es un actor importante en los mercados de IA y computación. La empresa sigue siendo pionera en el sector y ha sido un gran contribuyente a la tecnología durante más de una década. Hoy, Microsoft tiene una participación importante en el sector de IA y busca seguir siendo un competidor viable en el futuro.
Los servicios de IA de Microsoft tienen una gran ventaja sobre sus competidores, ya que siguen siendo el sistema operativo principal en uso a nivel mundial. Por ello, los sistemas de IA de Microsoft cuentan con una enorme audiencia de usuarios y datos accesibles. Estos datos han ayudado a Microsoft a crear nuevos algoritmos de IA potentes que, algún día, actuarán como el núcleo de los últimos sistemas operativos Windows.

Arm Holdings

ARM Gráfico de precios

Arm Holdings ingresó al mercado en 1990. Fue fundada por Sophie Wilson y Steve Furber. Originalmente, la empresa se llamaba Advanced RISC Machines (ARM) Ltd. antes de cambiar su nombre a Arm Holdings en 1998. A principios de los 2000, Arm Holdings se consolidó como un fabricante de calidad que ofrecía GPUs y otros productos al mercado.
Hoy, sigue siendo un proveedor líder de propiedad intelectual y fabricante de semiconductores. La empresa fue adquirida en 2016 por SoftBank por 32 mil millones de dólares y ha experimentado un crecimiento considerable desde entonces. El fabricante podría reducir enormemente su huella ambiental mientras mejora el rendimiento y los ingresos al integrar CRAM en sus ofertas actuales.

El futuro de la IA dependerá de sus demandas energéticas

El principal factor que limita la adopción de la IA son sus demandas energéticas. Estas demandas obligan a la gente a pensar de manera innovadora para crear soluciones a los cuellos de botella que limitan el rendimiento. Este último estudio abre la puerta a un futuro más prometedor donde los servicios de IA accederán a soluciones de bajo consumo que empoderarán a toda la comunidad.

Aprende sobre otros proyectos interesantes de inteligencia artificial ahora.