Los bucles de retroalimentación pueden hacer que los LLM sufran un “colapso de modelo” similar a la enfermedad de la vaca loca

Ha surgido un problema curioso en el mundo de la inteligencia artificial generativa. El problema es tan potente y complejo que podría poner en riesgo el alcance de la IA generativa. Antes de profundizar en la comprensión de este problema, echemos un vistazo rápido a por qué se considera tan significativo un obstáculo anticipado en la curva ascendente de la IA se considera tan significativo. 

Cómo se supone que la IA hará al mundo más eficiente

En los últimos años, beneficios que la IA generativa ha ofrecido al mundo han impulsado su adopción de manera significativa. El 92 % de las empresas Fortune 500 ha adoptado la IA generativa, mientras que el 70 % de la Generación Z ha probado estas herramientas.

La cobertura de la IA generativa es tan amplia que casi el 90 % de los empleos estadounidenses podrían verse afectados por ella, y el 95 % de las interacciones con clientes podrían involucrarla para 2025. Mientras que el mercado actual vale cerca de 45 mil millones de dólares, la IA solo puede crecer y generar hasta 97 millones de empleos para el próximo año. 

El potencial de la IA ha sido inigualable, por decir lo menos. Más de dos millones de desarrolladores de software están construyendo sobre la API de OpenAI, y la mayoría de estos desarrolladores provienen de empresas Fortune 500 que podrían haber aprovechado los mejores recursos disponibles para su trabajo. Sin embargo, eligieron desarrollar sobre la API.

Este sentimiento afirmativo hacia el potencial de la IA generativa también se refleja en una encuesta realizada por Deloitte, que indicó que el 94 % de los ejecutivos empresariales creían que la IA era clave para el éxito futuro.

A partir de todos estos datos y hechos, es evidente que muchas personas en todo el mundo esperan con ansias la IA generativa para el crecimiento futuro. Sin embargo, ha surgido un problema que podría desafiar el potencial de crecimiento de la IA: los bucles de retroalimentación. En los siguientes segmentos, exploraremos este problema con mayor detalle, examinando todas sus posibles ramificaciones e implicaciones.

Qué son los bucles de retroalimentación

En su forma más básica, los bucles de retroalimentación no son malos ni dañinos. Es el proceso de aprovechar la salida de un sistema de IA y las acciones del usuario final correspondientes para reentrenar y mejorar los modelos con el tiempo. 

Debido a su naturaleza, se les llama de bucle cerrado, y el proceso se conoce como aprendizaje de bucle cerrado. Aquí, se realiza una comparación constante entre la salida generada por IA y la decisión final para proporcionar retroalimentación al modelo, permitiéndole aprender de sus errores. 

Sin embargo, surge un problema con este aprendizaje de bucle de retroalimentación cuando se ponen en práctica datos sintéticos. Entrenar modelos de IA generativa requiere enormes cantidades de datos, los cuales son limitados en suministro y escasos hasta el punto de que estos modelos agotan sus recursos de entrenamiento por completo. 

Por eso, las grandes tecnológicas están interesadas en aprovechar los datos sintéticos para entrenar futuras generaciones de modelos de IA. Sin embargo, los datos sintéticos tienen su parte de beneficios y desventajas. 

Ventajas y desventajas de los datos sintéticos

Los datos sintéticos o generados por IA tienen muchos beneficios. Por ejemplo, son más baratos que los datos del mundo real y, lo que es más importante, el suministro de dichos datos es ilimitado.

Dados que los datos son sintetizados, no provienen de una persona real y presentan muy pocos riesgos de privacidad. Por el contrario, los datos reales, especialmente los utilizados en los campos de la tecnología médica y la salud, corren el riesgo de violaciones de privacidad. Además, hay casos en los que el uso de datos sintéticos ha ayudado a mejorar el rendimiento de la IA. 

Sin embargo, por otro lado, los modelos de IA alimentados con demasiados datos sintéticos pueden quedar limitados en sus funcionalidades y potencial, causando impactos negativos en las iteraciones futuras de los modelos de IA generativa. La anticipación de este riesgo no es infundada, como demuestra un trabajo reciente realizado por el grupo de Procesamiento Digital de Señales de la Universidad de Rice continúa validando. 

Según Richard Baraniuk, profesor C. Sidney Burrus de Ingeniería Eléctrica y Computación en Rice:

“Los problemas surgen cuando este entrenamiento con datos sintéticos, inevitablemente, se repite, formando una especie de bucle de retroalimentación — lo que llamamos un bucle autofágico o ‘autoconsumidor’.”

El desafío de los bucles de retroalimentación inducidos por datos sintéticos

Ahora, para comprender la naturaleza completa del problema, debemos observar el caso de los bucles de retroalimentación y los datos sintéticos juntos. El profesor Baraniuk ha resumido acertadamente el problema diciendo lo siguiente, “Nuestro grupo ha trabajado extensamente en dichos bucles de retroalimentación, y la mala noticia es que incluso después de unas pocas generaciones de dicho entrenamiento, los nuevos modelos pueden volverse irremediablemente corruptos. Esto ha sido denominado ‘colapso de modelo’ por algunos —, más recientemente por colegas en el campo en el contexto de los grandes modelos de lenguaje (LLM). Sin embargo, consideramos que el término ‘Trastorno de Autogagia del Modelo’ (MAD) es más apropiado, por analogía a la enfermedad de la vaca loca”.

Para explicar la relevancia de esta comparación, la enfermedad de la vaca loca es una enfermedad neurodegenerativa fatal que afecta a las vacas y tiene un equivalente humano causado por el consumo de carne infectada. Se compara con el desafío del bucle de retroalimentación que enfrentan los modelos de IA generativa porque la enfermedad se propaga a través de la práctica de alimentar a las vacas con los restos procesados de sus pares sacrificados. El acto de alimentar datos sobrantes o datos que surgen del propio proceso como subproducto es la ‘infección’ que perpetúa los modelos de IA generativa del futuro.  

El estudio que analizó este problema se tituló Modelos Generativos Autoconsumidores Van a la Locura. Lo que también es significativo de la investigación es que es el primer trabajo revisado por pares sobre la autofagia de IA que aborda modelos visuales de IA populares y bien conocidos como DALL‑E, Midjourney y Stable Diffusion. Aunque el equipo trabajó con IA visual, como señaló el profesor Baraniuk, “los mismos problemas de corrupción de vaca loca ocurren con los LLM”.

Ahora que hemos examinado el problema y los factores que lo impulsan, debemos observar su impacto y las formas en que podría afectar el desarrollo futuro de los modelos de IA generativa. 

Falta de datos frescos que resulta en una IA poco saludable

El problema central que surge de un LLM afectado o infectado es un modelo de IA empobrecido. Con deficiencias en datos reales frescos, los resultados se deforman y carecen de calidad y diversidad. 

Para explicar este escenario de forma más comprensible y visual, podemos tomar el caso de generar rostros humanos con IA. Con datos alimentados a través de bucles iterativos progresivos, surge la posibilidad de que todos los rostros se vuelvan iguales, cada vez más parecidos a la misma persona. 

La intensidad de tales posibilidades dañinas es severa, por decir lo menos. La intensidad puede medirse a partir de un comentario de Baraniuk, quien dice:

“Algunas ramificaciones son claras: sin suficientes datos reales frescos, los futuros modelos generativos están condenados a la locura (MAD).”

¿Existe alguna cura para esta situación apocalíptica que parece estar a la vuelta de la esquina en el mundo del desarrollo de IA? Por el momento, los investigadores han introducido un parámetro de sesgo de muestreo que tiene en cuenta la tendencia de los usuarios a favorecer la calidad de los datos sobre la diversidad. Esta tendencia se llama ‘Cherry Picking’. Lo positivo es que ayuda a preservar la calidad de los datos durante un mayor número de iteraciones del modelo. Sin embargo, la contrapartida es una mayor disminución de la diversidad. 

Ya hemos visto el tipo de impacto que la IA podría tener en nuestro futuro. Con tanto potencial listo para ser desatado, este problema podría afectar a una gran cantidad de partes interesadas, especialmente a empresas nuevas e innovadoras que han estado trabajando en ello. 

Google es una de las empresas pioneras que impulsa los LLM para un conjunto amplio y diverso de partes interesadas. Y la falta de diversidad en los feeds generados por IA es algo que Google tendrá que abordar en los próximos días. Aquí, revisamos brevemente las capacidades de Google AI en lo que respecta a impulsar LLM. 

#1. Google AI

En el campo de la IA, dos ramas operativas que ayudan a Google a lograr sus objetivos son Google DeepMind y Google Cloud. Para explicar la colaboración más específicamente, Google Cloud lleva innovaciones desarrolladas y probadas por Google DeepMind a su plataforma de IA preparada para empresas, de modo que los clientes puedan comenzar a usarlas para crear y ofrecer capacidades de IA generativa. Google Cloud ofrece tres servicios de LLM.

• El primero es Generative AI en Vertex AI, que permite a los usuarios acceder a los grandes modelos de IA generativa de Google para probar, ajustar y desplegar en sus aplicaciones impulsadas por IA.
• El segundo es Vertex AI agent builder, que está destinado a búsquedas empresariales y aplicaciones de chatbot. Viene con flujos de trabajo preconstruidos para tareas habituales como incorporación, ingestión de datos, personalización, etc.
• El último es Contact Center AI, una solución inteligente de centro de contacto que incluye Dialog Flow, la plataforma de IA conversacional de Google con capacidades tanto basadas en intenciones como en LLM.

Sin embargo, Google también tuvo que pasar por su parte de problemas con una utilización justa de la IA. En mayo de este año, el CEO de Google, Sundar Pichai, dejó claro que la compañía se equivocó al generar resultados de imágenes con sesgo racial en respuesta a consultas de usuarios. 

Google tuvo que pausar las funciones de generación de imágenes de Gemini después de que usuarios de redes sociales se quejaran de que su solución perpetuaba imágenes erróneas, incluida la representación de personas de color al retratar nazis. 

Ecoando gran parte de la investigación que citamos aquí, la compañía reconoció que surgió un problema por “limitaciones en los datos de entrenamiento utilizados para desarrollar Gemini”.

Profundizando más en dónde radica el problema, Sundar Pichai también dijo:

“Hay ciertos momentos en los que respondes [a preguntas como] ‘¿Cuál es la población de los Estados Unidos?’ Sí, es una pregunta respondible. [Pero] hay momentos en los que quieres mostrar la amplitud de opiniones que existen en la web, que es lo que hace la búsqueda y lo hace bien.”

Según Pichai, el trabajo que Google ha realizado a lo largo de los años asegura que, desde el punto de vista de la Búsqueda, la compañía ofrece información confiable y de alta calidad. 

Financieramente, Alphabet Inc. (GOOG ) (la empresa matriz de Google) reportó ingresos de 307,4 mil millones de dólares en 2023, un 9 % más que los 282,8 mil millones de 2022. El ingreso operativo alcanzó 84,3 mil millones de dólares, un aumento significativo respecto a los 74,8 mil millones del año anterior. A pesar de que los gastos operativos aumentaron a 223,1 mil millones de dólares, la utilidad neta fue de 73,8 mil millones de dólares, comparada con 60 mil millones en 2022.

#2. Cohere

Otra entidad que ha realizado un gran trabajo en este campo es Cohere, con sede en Toronto. Una de sus iniciativas que merece una mención especial es ‘Cohere for AI’, un laboratorio de investigación sin fines de lucro que busca resolver problemas complejos de aprendizaje automático. A diferencia de un grupo de investigación tradicional, Cohere for AI funciona como un laboratorio híbrido con personal de investigación dedicado y apoyo a iniciativas de ciencia abierta. La compañía colabora abiertamente con investigadores independientes de todo el mundo para llevar a cabo investigaciones de ML de primer nivel. 

La comunidad de investigación de ciencia abierta de Cohere es un espacio interseccional que reúne a investigadores, ingenieros, lingüistas, científicos sociales y aprendices de por vida. El espacio prospera con colaboradores de más de cien países del mundo. 

Algunos de los modelos de Cohere incluyen Aya 23 - 8B y Aya 23 - 35B, LLMs de investigación accesibles de última generación, C4AI Command R - 104B y C4AI Command R - 35B, pesos de modelo para democratizar el acceso a la investigación, y Aya, el LLM de investigación multilingüe masivo. 

Recientemente, Cohere y Fujitsu anunciaron una asociación estratégica para desarrollar y ofrecer servicios de IA empresarial con capacidades líderes en el idioma japonés. Según los términos de la colaboración, las compañías construirán poderosos modelos de lenguaje de gran escala (LLM) de nivel empresarial para atender las necesidades de negocios globales.

En marzo de este año, Cohere anunció que buscaba una valoración de 5 mil millones de dólares en su última ronda de financiación. Se pretendía recaudar aproximadamente 250 millones de dólares mediante esta ronda, según una fuente familiarizada con el asunto.

Reflexiones finales

Los LLM y los modelos de IA generativa que impulsan están emergiendo y evolucionando rápidamente. Este espacio involucra tecnología de punta que es enormemente ambiciosa e intensamente aspiracional. Por lo tanto, se puede esperar razonablemente una afluencia significativa de investigación en este ámbito en los próximos años. 

Organizaciones de investigación, grandes tecnológicas, instituciones educativas—todas las partes interesadas posibles están ansiosas por intensificar su asignación de recursos en este espacio. Tal oleada de actividades significaría que más desventajas salgan a la luz. Pero también implicaría correcciones de rumbo, pensar fuera de la caja y reinventar las soluciones existentes de la manera más optimizada posible.

Haga clic aquí para aprender todo sobre la inversión en inteligencia artificial.