Les boucles de rétroaction peuvent entraîner les LLM à subir un ‘effondrement du modèle’ similaire à la maladie de la vache folle

Un problème curieux est apparu dans le monde de l’intelligence artificielle générative. Le problème est si puissant et complexe qu’il pourrait mettre en péril l’étendue de l’IA générative. Avant d’approfondir la compréhension de ce problème, examinons rapidement pourquoi un obstacle anticipé sur la courbe ascendante de l’IA est considéré comme étant si important. 

Comment l’IA est censée rendre le monde plus efficace

Au cours des dernières années, les avantages que l’IA générative a offerts au monde ont considérablement accéléré son adoption. 92 % des entreprises du Fortune 500 ont adopté l’IA générative, tandis que 70 % de la génération Z ont essayé ces outils.

La portée de l’IA générative est si vaste que près de 90 % des emplois américains pourraient en être affectés, et 95 % des interactions client pourraient l’impliquer d’ici 2025. Alors que le marché actuel vaut près de 45 milliards de dollars US, l’IA ne peut que croître et créer jusqu’à 97 millions d’emplois d’ici l’année prochaine. 

Le potentiel de l’IA a été inégalé, pour le dire simplement. Plus de deux millions de développeurs logiciels construisent sur l’API d’OpenAI, et la plupart de ces développeurs proviennent d’entreprises du Fortune 500 qui auraient pu bénéficier des meilleures ressources disponibles pour leur travail. Pourtant, ils ont choisi de développer sur l’API.

Ce sentiment positif envers le potentiel de l’IA générative se reflète également dans une enquête réalisée par Deloitte, qui indique que 94 % des dirigeants d’entreprise croient que l’IA est une clé du succès futur.

À partir de toutes ces données et faits, il est évident que de nombreuses personnes dans le monde attendent avec impatience l’IA générative pour la croissance future. Cependant, un problème est apparu qui pourrait remettre en cause le potentiel de croissance de l’IA : les boucles de rétroaction. Dans les sections suivantes, nous explorerons ce problème en détail, en examinant toutes ses ramifications et implications.

Qu’est-ce que les boucles de rétroaction

Dans leur forme la plus basique, les boucles de rétroaction ne sont ni mauvaises ni nuisibles. Il s’agit du processus qui exploite la sortie d’un système d’IA et les actions de l’utilisateur final correspondantes pour réentraîner et améliorer les modèles au fil du temps. 

En raison de leur nature, elles sont appelées boucles fermées, et le processus est connu sous le nom d’apprentissage en boucle fermée. Ici, une comparaison constante se produit entre la sortie générée par l’IA et la décision finale afin de fournir un retour au modèle, lui permettant d’apprendre de ses erreurs. 

Cependant, un problème survient avec cet apprentissage en boucle de rétroaction lorsque des données synthétiques sont mises en action. Former des modèles d’IA générative nécessite d’énormes quantités de données, qui sont limitées en approvisionnement et si rares que ces modèles épuisent complètement leurs ressources d’entraînement. 

C’est pourquoi les grandes entreprises technologiques sont désireuses d’exploiter les données synthétiques pour entraîner les futures générations de modèles d’IA. Cependant, les données synthétiques ont leurs avantages et leurs inconvénients. 

Les avantages et les inconvénients des données synthétiques

Les données synthétiques ou générées par IA offrent de nombreux avantages. Par exemple, elles sont moins chères que les données du monde réel et—plus important encore—leur approvisionnement est illimité.

Étant donné que les données sont synthétisées, elles ne proviennent pas d’un individu réel et présentent très peu de risques pour la vie privée. En revanche, les données réelles, notamment celles utilisées dans les domaines de la med-tech et de la santé, courent le risque de violations de la vie privée. De plus, il existe des cas où l’utilisation de données synthétiques a contribué à améliorer les performances de l’IA. 

Cependant, à l’inverse, les modèles d’IA alimentés avec trop de données synthétiques peuvent devenir limités dans leurs fonctionnalités et leur potentiel, entraînant des impacts négatifs sur les itérations futures des modèles d’IA générative. L’anticipation de ce risque n’est pas infondée, comme le valide un travail récent mené par le Digital Signal Processing group at Rice University.

Selon Richard Baraniuk, professeur C. Sidney Burrus d’ingénierie électrique et informatique à Rice :

“Les problèmes surviennent lorsque cet entraînement avec des données synthétiques est, inévitablement, répété, formant une sorte de boucle de rétroaction ⎯ ce que nous appelons une boucle autophage ou « auto‑consommatrice ».”

Le défi des boucles de rétroaction induites par les données synthétiques

Maintenant, pour comprendre toute la nature du problème, nous devons examiner le cas des boucles de rétroaction et des données synthétiques ensemble. Le professeur Baraniuk a résumé le problème en déclarant ce qui suit,  “Notre groupe a travaillé intensivement sur de telles boucles de rétroaction, et la mauvaise nouvelle est que même après quelques générations de cet entraînement, les nouveaux modèles peuvent devenir irrémédiablement corrompus. Cela a été qualifié d’« effondrement du modèle » par certains ⎯ , le plus récemment par des collègues du domaine dans le contexte des grands modèles de langage (LLM). Nous, cependant, trouvons le terme ‘Model Autophagy Disorder’ (MAD) plus approprié, par analogie à la maladie de la vache folle.”

Pour expliquer la pertinence de cette comparaison, la maladie de la vache folle est une maladie neurodégénérative mortelle qui affecte les vaches et possède un équivalent humain causé par la consommation de viande infectée. Elle est comparée au défi de la boucle de rétroaction auquel les modèles d’IA générative sont confrontés parce que la maladie se propage par la pratique d’alimenter les vaches avec les restes transformés de leurs congénères abattus. L’acte d’alimenter les données résiduelles ou les données qui proviennent du processus lui‑même comme sous‑produit est « l’infection » qui perpétue les modèles d’IA générative du futur.  

L’étude qui a examiné ce problème s’intitulait ‘Self-Consuming Generative Models Go MAD.’ Ce qui est également significatif dans la recherche, c’est qu’il s’agit du premier travail évalué par les pairs sur l’autophagie de l’IA qui traite de modèles visuels d’IA populaires et bien connus comme DALL‑E, Midjourney et Stable Diffusion. Bien que l’équipe ait travaillé avec l’IA visuelle, comme le souligne le professeur Baraniuk, « les mêmes problèmes de corruption de type vache folle se produisent avec les LLM ».

Maintenant que nous avons examiné le problème et les facteurs qui le motivent, nous devons analyser son impact et les manières dont il pourrait affecter le développement futur des modèles d’IA générative. 

Manque de données fraîches entraînant une IA malsaine

Le problème central découlant d’un LLM affecté ou infecté est un modèle d’IA appauvri. En l’absence de données réelles fraîches, les sorties deviennent déformées et manquent de qualité et de diversité. 

Pour expliquer ce scénario de manière plus compréhensible et visuelle, prenons le cas de la génération de visages humains avec l’IA. Avec des données alimentées par des boucles itératives progressives, la possibilité que tous les visages deviennent identiques, de plus en plus semblables à la même personne, apparaît. 

L’intensité de telles possibilités dommageables est sévère, pour le dire simplement. L’intensité peut être mesurée à partir d’un commentaire de Baraniuk, qui dit:

“Certaines ramifications sont claires : sans suffisamment de données réelles fraîches, les futurs modèles génératifs sont condamnés à la folie (MAD).”

Existe-t-il un remède à cette situation apocalyptique qui semble se profiler dans le monde du développement de l’IA ? Pour le moment, les chercheurs ont introduit un paramètre de biais d’échantillonnage qui tient compte de la tendance des utilisateurs à privilégier la qualité des données sur la diversité. Cette tendance s’appelle « Cherry Picking ». Le bon côté est que cela aide à préserver la qualité des données sur un plus grand nombre d’itérations du modèle. Cependant, le compromis se traduit par une plus grande diminution de la diversité. 

Nous avons déjà vu le type d’impact que l’IA pourrait avoir sur notre futur monde. Avec tant de potentiel prêt à être libéré, ce problème pourrait affecter de nombreux acteurs, en particulier les nouvelles entreprises innovantes qui y travaillent. 

Google est l’une des entreprises pionnières qui alimente les LLM pour un large et divers ensemble d’acteurs. Et le manque de diversité dans les flux générés par l’IA est quelque chose que Google devra gérer dans les jours à venir. Ici, nous examinons brièvement les capacités de Google AI en ce qui concerne l’alimentation des LLM. 

#1. Google AI

Dans le domaine de l’IA, deux branches opérationnelles aident Google à atteindre ses objectifs : Google DeepMind et Google Cloud. Pour expliquer la collaboration plus spécifiquement, Google Cloud apporte les innovations développées et testées par Google DeepMind à sa plateforme d’IA prête pour les entreprises afin que les clients puissent les utiliser pour créer et fournir des capacités d’IA générative. Google Cloud propose trois services LLM.

• Le premier est Generative AI on Vertex AI, qui permet aux utilisateurs d’accéder aux grands modèles d’IA générative de Google pour tester, ajuster et déployer dans leurs applications alimentées par l’IA.
• Le deuxième est Vertex AI agent builder, qui est destiné aux applications de recherche d’entreprise et de chatbot. Il comprend des flux de travail pré‑construits pour les tâches habituelles comme l’intégration, l’ingestion de données, la personnalisation, etc.
• Le dernier est Contact Center AI, une solution de centre de contact intelligente qui inclut Dialog Flow, la plateforme d’IA conversationnelle de Google avec des capacités à la fois basées sur l’intention et sur les LLM.

Cependant, Google a également dû faire face à sa part de problèmes avec une utilisation juste de l’IA. En mai de cette année, le PDG de Google, Sundar Pichai, a souligné que l’entreprise avait commis une erreur lorsqu’elle a généré des résultats d’images racialement biaisés en réponse aux requêtes des utilisateurs. 

Google a dû mettre en pause les fonctionnalités d’image de Gemini après que des utilisateurs des réseaux sociaux se soient plaints de leur solution perpétuant des images erronées, y compris la représentation de personnes de couleur lorsqu’elles dépeignent des nazis. 

En écho à une grande partie des recherches que nous avons citées ici, l’entreprise a reconnu qu’un problème était survenu à cause des « limitations des données d’entraînement utilisées pour développer Gemini ».

En détaillant davantage où réside le problème, Sundar Pichai a également déclaré :

“Il y a certains moments où vous répondez [à des questions comme] « Quelle est la population des États‑Unis ? » Oui, c’est une question répondable. [Mais] il y a des moments où vous voulez faire apparaître une variété d’opinions présentes sur le web, ce que fait la recherche et le fait bien.”

Selon Pichai, le travail que Google a accompli au fil des ans garantit que — du point de vue de la Recherche — l’entreprise offre des informations fiables et de haute qualité.