Feedbackloops kunnen ertoe leiden dat LLM’s een ‘modelinstorting’ ondergaan die lijkt op gekoeienziekte

Een curieuze kwestie is opgedoken in de wereld van generatieve kunstmatige intelligentie. Het probleem is zo krachtig en complex dat het de reikwijdte van generatieve AI in gevaar kan brengen. Voordat we dieper ingaan op het begrijpen van dit probleem, laten we snel bekijken waarom een obstakel dat op de stijgende curve van AI wordt beschouwd als zo significant. 

Hoe AI de wereld efficiënter zou moeten maken

In de afgelopen paar jaar hebben de voordelen die generatieve AI heeft geboden de wereld de adoptie aanzienlijk versneld. 92% van de Fortune 500 bedrijven heeft generatieve AI aangenomen, terwijl 70% van GenZ deze tools heeft geprobeerd 

De dekking van generatieve AI is zo wijdverspreid dat bijna 90% van de Amerikaanse banen worden beïnvloed door het, en 95% van de klantinteracties kan er tegen 2025 bij betrokken zijn. Terwijl de huidige markt bijna US$45 miljard waard is, kan AI alleen maar groter worden en tot wel 97 miljoen banen genereren tegen het volgende jaar. 

Het faciliterende potentieel van AI is onovertroffen, om zacht uit te drukken. Meer dan twee miljoen softwareontwikkelaars bouwen op de API van OpenAI, en de meeste van deze ontwikkelaars komen van Fortune 500 bedrijven die de beste beschikbare middelen voor hun werk hadden kunnen benutten. Toch kozen ze ervoor om op de API te ontwikkelen.

Dit positieve sentiment over het potentieel van generatieve AI wordt ook weerspiegeld in een enquête uitgevoerd door Deloitte, waarin stond dat 94% van de bedrijfsleiders geloofde dat AI een sleutel tot toekomstig succes was.

Uit al deze data en feiten blijkt dat veel mensen wereldwijd uitkijken naar generatieve AI voor toekomstige groei. Er is echter een probleem ontstaan dat het groeipotentieel van AI zou kunnen uitdagen: feedbackloops. In de volgende segmenten zullen we dit probleem in meer detail onderzoeken, waarbij we alle mogelijke gevolgen en implicaties bekijken.

Wat zijn feedbackloops

In hun meest eenvoudige vorm zijn feedbackloops niet slecht of schadelijk. Het is het proces waarbij de output van een AI‑systeem en de bijbehorende eindgebruikersacties worden benut om modellen in de loop van de tijd opnieuw te trainen en te verbeteren. 

Vanwege hun aard worden ze gesloten‑lus genoemd, en het proces staat bekend als gesloten‑lus leren. Hier vindt een consistente vergelijking plaats tussen de AI‑gegenereerde output en de uiteindelijke beslissing om feedback aan het model te geven, waardoor het van zijn fouten kan leren. 

Echter, een probleem met dit feedback‑lus leren ontstaat wanneer synthetische data in de praktijk wordt gebracht. Het trainen van generatieve AI‑modellen vereist enorme hoeveelheden data, die beperkt en schaars zijn tot het punt dat deze modellen hun trainingsbronnen volledig kunnen uitputten. 

Daarom is big tech enthousiast om synthetische data te gebruiken om toekomstige generaties AI‑modellen te trainen. Synthetische data heeft echter zowel voordelen als nadelen. 

De voordelen en nadelen van synthetische data

Synthetische of door AI gesynthetiseerde data heeft veel voordelen. Het is bijvoorbeeld goedkoper dan real‑world data en – belangrijker – de voorraad van dergelijke data is onbeperkt.

Omdat de data gesynthetiseerd is, komt ze niet van een echt individu en brengt ze zeer weinig privacy‑risico’s met zich mee. Daarentegen lopen echte data, vooral die gebruikt in med‑tech en gezondheidszorg, het risico op privacy‑inbreuken. Bovendien zijn er gevallen waarin het gebruik van synthetische data heeft bijgedragen aan een betere AI‑prestaties. 

Aan de andere kant kunnen AI‑modellen die met te veel synthetische data worden gevoed beperkt raken in hun functionaliteit en potentieel, wat negatieve gevolgen heeft voor toekomstige iteraties van generatieve AI‑modellen. De verwachting van dit risico is niet ongegrond, zoals recent werk van de Digital Signal Processing group at Rice University bevestigt. 

Volgens Richard Baraniuk, Rice’s C. Sidney Burrus Professor of Electrical and Computer Engineering:

“De problemen ontstaan wanneer deze synthetische data‑training onvermijdelijk wordt herhaald, waardoor een soort feedback‑lus ontstaat ⎯ wat wij een autophagische of ‘zelf‑consumerende’ lus noemen.”

De uitdaging van door synthetische data geïnduceerde feedbackloops

Om de volledige aard van het probleem te begrijpen, moeten we kijken naar feedbackloops en synthetische data samen. Professor Baraniuk heeft het probleem treffend samengevat door het volgende te zeggen: “Onze groep heeft uitgebreid gewerkt aan dergelijke feedbackloops, en het slechte nieuws is dat zelfs na een paar generaties van dergelijke training, de nieuwe modellen onherstelbaar corrupt kunnen worden. Dit is door sommigen aangeduid als ‘modelinstorting’ ⎯, recentelijk door collega’s in het veld in de context van grote taalmodellen (LLM’s). Wij vinden de term ‘Model Autophagy Disorder’ (MAD) echter passender, analoog aan gekoeienziekte.”

Om de relevantie van deze vergelijking uit te leggen, is gekoeienziekte een dodelijke neurodegeneratieve ziekte die koeien treft en een menselijke tegenhanger heeft die ontstaat door het consumeren van besmet vlees. Het wordt vergeleken met de feedback‑lus uitdaging waar generatieve AI‑modellen mee te maken hebben, omdat de ziekte zich verspreidt via de praktijk van het voeren van koeien met de verwerkte restjes van hun geslachte soortgenoten. Het voeren van overgebleven data of data die uit het proces zelf voortkomt als bijproduct is de ‘infectie’ die toekomstige generatieve AI‑modellen in stand houdt.  

De studie die dit probleem onderzocht, heette ‘Self-Consuming Generative Models Go MAD‘. Wat ook belangrijk is aan dit onderzoek, is dat het de eerste peer‑reviewed studie over AI‑autofagie is die zich richt op populaire en bekende visuele AI‑modellen zoals DALL‑E, Midjourney en Stable Diffusion. Hoewel het team met Visual AI werkte, merkte Professor Baraniuk op: “dezelfde gekoeienziekte‑corruptieproblemen komen voor bij LLM’s.”

Nu we het probleem en de drijvende factoren hebben bekeken, moeten we kijken naar de impact en de manieren waarop dit de toekomstige ontwikkeling van generatieve AI‑modellen kan beïnvloeden. 

Gebrek aan verse data leidt tot ongezonde AI

Het kernprobleem dat voortkomt uit een aangetast of geïnfecteerd LLM is een verarmd AI‑model. Met een tekort aan verse echte data worden de uitkomsten vervormd en missen ze kwaliteit en diversiteit. 

Om dit scenario op een meer begrijpelijke en visuele manier uit te leggen, kunnen we het voorbeeld nemen van het genereren van menselijke gezichten met AI. Met data die via progressieve iteratieve lussen wordt gevoed, ontstaat de mogelijkheid dat alle gezichten steeds meer op dezelfde persoon gaan lijken. 

De intensiteit van zulke schadelijke mogelijkheden is ernstig, om zacht uit te drukken. De intensiteit kan worden afgemeten aan een opmerking van Baraniuk, die zegt:

“Sommige gevolgen zijn duidelijk: zonder voldoende verse echte data zijn toekomstige generatieve modellen gedoemd tot MADness.”

Is er een remedie voor deze apocalyptische situatie die dreigt te ontstaan in de AI‑ontwikkelingswereld? Voorlopig hebben de onderzoekers een sampling‑bias‑parameter geïntroduceerd die rekening houdt met de neiging van gebruikers om datakwaliteit boven diversiteit te verkiezen. Deze neiging wordt ‘Cherry Picking’ genoemd. Het positieve hiervan is dat het de datakwaliteit behoudt over een groter aantal modeliteraties. Het nadeel is echter een grotere afname van diversiteit. 

We hebben al gezien welke impact AI op onze toekomstige wereld kan hebben. Met zoveel potentieel dat klaar staat om ontketend te worden, kan dit probleem een groot aantal belanghebbenden raken, vooral nieuwe en innovatieve bedrijven die eraan werken. 

Google is een van de vooraanstaande bedrijven die LLM’s aandrijven voor een brede en diverse groep belanghebbenden. Het gebrek aan diversiteit in AI‑gegenereerde feeds is iets waarmee Google in de komende dagen te maken zal krijgen. Hier bekijken we kort de mogelijkheden van Google AI op het gebied van het aandrijven van LLM’s. 

#1. Google AI

Op het gebied van AI zijn er twee operationele takken die Google zijn doelen te bereiken: Google DeepMind en Google Cloud. Om de samenwerking specifieker uit te leggen, brengt Google Cloud innovaties ontwikkeld en getest door Google DeepMind naar zijn enterprise‑ready AI‑platform zodat klanten ze kunnen gebruiken om generatieve AI‑functionaliteiten te bouwen en leveren. Google Cloud biedt drie LLM‑diensten.

• De eerste is Generative AI on Vertex AI, waarmee gebruikers toegang krijgen tot Google’s grote generatieve AI‑modellen om te testen, af te stemmen en te implementeren in hun AI‑aangedreven applicaties.
• De tweede is Vertex AI agent builder, bedoeld voor enterprise‑search en chatbot‑toepassingen. Het wordt geleverd met vooraf gebouwde workflows voor gebruikelijke taken zoals onboarding, data‑ingestie, aanpassing, enz.
• De laatste is Contact Center AI, een intelligente contactcenter‑oplossing die Dialog Flow omvat, Google’s conversatie‑AI‑platform met zowel intent‑gebaseerde als LLM‑mogelijkheden.

Google heeft echter ook zijn deel van problemen gehad met een onzorgvuldig gebruik van AI. In mei van dit jaar maakte Google‑CEO Sundar Pichai duidelijk dat het bedrijf fout zat toen het raciaal bevooroordeelde afbeeldingsresultaten genereerde als reactie op gebruikersvragen. 

Google moest de afbeeldings‑genererende functies van Gemini pauzeren nadat sociale‑media‑gebruikers klaagden over hun oplossing die verkeerde afbeeldingen perpetueerde, inclusief de weergave van mensen van kleur bij het afbeelden van nazi’s. 

In lijn met veel van het onderzoek dat we hier citeerden, erkende het bedrijf dat een probleem voortkwam uit “beperkingen in de trainingsdata die werden gebruikt om Gemini te ontwikkelen.”

Om verder uit te leggen waar het probleem ligt, zei Sundar Pichai ook:

“Er zijn momenten dat je antwoordt op vragen als ‘Wat is de bevolking van de Verenigde Staten?’ Ja, dat is een beantwoordbare vraag. [Maar] er zijn momenten dat je een breed scala aan meningen van het web wilt laten zien, wat zoeken doet en goed doet.”

Volgens Pichai zorgt het werk dat Google door de jaren heen heeft gedaan ervoor dat – vanuit zoekstandpunt – het bedrijf betrouwbare, hoogwaardige informatie biedt. 

Financially, Alphabet Inc. (GOOG ) (Google’s parent company) reported revenues of $307.4 billion in 2023, up 9% from $282.8 billion in 2022. Operating income reached $84.3 billion, a significant rise from $74.8 billion the previous year. Despite operating expenses increasing to $223.1 billion, net income was $73.8 billion, compared to $60 billion in 2022.

#2. Cohere

Een andere organisatie die uitstekend werk levert op dit gebied is het in Toronto gevestigde Cohere. Een van hun initiatieven die speciale vermelding verdient is de ‘Cohere for AI’, een non‑profit onderzoeks‑lab dat complexe machine‑learning‑problemen wil oplossen. In tegenstelling tot een traditioneel onderzoeksteam werkt Cohere for AI als een hybride lab met zowel een toegewijd onderzoeksteam als ondersteuning voor open‑science‑initiatieven. Het bedrijf werkt openlijk samen met onafhankelijke onderzoekers wereldwijd om top‑tier ML‑onderzoek uit te voeren. 

De open‑science‑onderzoekscommunity van Cohere is een intersectionele ruimte die onderzoekers, ingenieurs, linguïsten, sociaal‑wetenschappers en levenslange leerlingen omvat. De ruimte bloeit met bijdragers uit meer dan honderd landen wereldwijd. 

Enkele modellen van Cohere zijn Aya 23 – 8B en Aya 23 – 35B, state‑of‑the‑art toegankelijke onderzoeks‑LLM’s, C4AI Command R – 104B en C4AI Command R – 35B, modelgewichten om onderzoekstoegang te democratiseren, en Aya, de massaal meertalige onderzoeks‑LLM. 

Onlangs kondigden Cohere en Fujitsu een strategisch partnerschap aan om enterprise‑AI‑diensten te ontwikkelen en te leveren met toonaangevende Japanse taalcapaciteiten. Volgens de voorwaarden van de samenwerking zullen de bedrijven krachtige enterprise‑grade grote taalmodellen (LLM’s) bouwen om te voldoen aan de behoeften van wereldwijde bedrijven.

In March this year, Cohere announced that it was seeking a valuation of $5 billion in its latest fundraising efforts. It was looking to raise approximately $250 million through this funding round, according to a source familiar with the matter.

Conclusieve gedachten

LLMs en de generatieve AI‑modellen die ze aandrijven, komen snel op en evolueren snel. Deze ruimte omvat baanbrekende technologie die enorm ambitieus en intens aspiratief is. Men kan daarom redelijkerwijs een aanzienlijke toestroom van onderzoek in dit domein in de komende jaren verwachten. 

Onderzoeksorganisaties, big tech, onderwijsinstellingen—elke mogelijke belanghebbende is erop gebrand hun middelen in deze ruimte te intensiveren. Zo’n stroom van activiteiten zou meer nadelen aan het licht kunnen brengen. Maar het zou ook correcties, out‑of‑the‑box‑denken en het herontwerpen van bestaande oplossingen op de meest geoptimaliseerde manier mogelijk maken.

Klik hier om alles te leren over investeren in kunstmatige intelligentie.