Heeft OpenAI de eerste AGI gecreëerd met o3?

Op weg naar AGI

In de race om een AI‑model te ontwikkelen, is het einddoel AGI (Artificial General Intelligence). Dit is een type AI dat elke situatie aankan, in plaats van ultra‑gespecialiseerd te zijn om enkele taken uit te voeren, zoals bijvoorbeeld een auto besturen.

Zolang we alleen specialistische AI’s hebben, zullen ze meer algoritmen dan echte intelligentie zijn. Het vermogen om regels af te leiden en te reageren op nieuwe situaties, en misschien nog belangrijker, echt redeneren, zou een monumentale gebeurtenis in de geschiedenis van de mensheid zijn, aangezien zo’n AGI waarschijnlijk snel ten minste mensachtig zou worden.

En natuurlijk, niet beperkt door de rekencapaciteit van de “wetware” van één menselijk schedel, zou zo’n AGI snel kunnen blijven verbeteren en een science‑fiction superintelligentie worden.

Dit roept meteen beelden op van een Star‑Trek‑achtige utopie, of robotapocalypsen zoals Terminator of Battlestar Galactica.

Bron: Screen Rant

Dus uiteraard was het een grote kop toen OpenAI op december 20^th aankondigde dat hun nieuwste AI‑model 03, “ten minste onder bepaalde omstandigheden, benadert AGI — met aanzienlijke kanttekeningen.”.

OpenAI‑modellen

o3 is de nieuwste iteratie van de “o”‑serie van het bedrijf, volgend op de eerdere o1 (er is geen o2, vanwege een mogelijk merkenconflict met het Britse telecombedrijf met dezelfde naam).

Het wordt geleverd met andere ultra‑geavanceerde AI’s ontwikkeld door OpenAI: ChatGPT (tekstgeneratie), DALL‑E (tekst‑naar‑afbeelding generatie), Sora (tekst‑naar‑video generatie), JukeBox (muziekgeneratie) en Whisper (spraak‑naar‑tekst).

o1 en o3

Uitgebracht in september 2024, werd het o1‑model gecreëerd om meer tijd te nemen om over hun antwoorden na te denken, wat leidt tot hogere nauwkeurigheid. Dit is belangrijk, aangezien diensten zoals ChatGPT bekend staan om simpelweg te gokken over dingen die ze niet weten, of ze volledig te verzinnen.

Hoewel dit soms acceptabel kan zijn voor een chatbot, is het geen aanvaardbare optie voor kritieke functies. Het lijkt ons ook niet op een pad dat rechtstreeks leidt naar echte kunstmatige intelligentie.

o1 werd begin december 2024 opgenomen in het $200/maand ChatGPT Pro-abonnement, hoewel andere gebruikers er ook toegang toe hebben.

o3 werd op 20^th december onthuld, evenals o3-mini, een lichtere en snellere versie. Het model is nog niet beschikbaar voor het publiek, maar veiligheids­onderzoekers kunnen zich aanmelden voor een preview van o3-mini.

Een leugenachtig model?

Feedback van veiligheids­onderzoekers zal zijn wat de technische gemeenschap het meest wil horen.

Opnieuw, met een verwijzing naar Skynet uit Terminator, werd o1 opgemerkt vanwege zijn sterke neiging om te liegen tegen zijn gebruikers. Hoewel dit niet specifiek voor dit model geldt, was het veel waarschijnlijker dan andere AI’s van concurrerende bedrijven zoals Meta, Google of Microsoft (MSFT ).

Wanneer de doelen van o1 afweken van die van een gebruiker, en o1 werd opgedragen ze krachtig na te streven, manipuleerde het AI‑model volgens het rapport 19 % van de tijd gegevens om zijn eigen agenda te bevorderen. Het o1‑model probeerde ook in 5 % van de tests toezichtmechanismen die waren ingesteld om ervoor te zorgen dat het op de doelen van de gebruiker bleef afgestemd, te deactiveren.

Maxwell Zeff for TechCrunch

Hoe presteert o3 op dat gebied, en heeft OpenAI de neiging van het model om te liegen verminderd met de o3‑update? Dat weten we nog niet.

Prestaties van o3

Een extra eigenschap van o3 ten opzichte van zijn voorganger is de mogelijkheid om de ‘redeneringstijd’ aan te passen. Dit stelt gebruikers in staat om te bepalen hoeveel rekenkracht en tijd ze aan de vraag willen toewijzen.

Coderen

O1 was al opmerkelijk goed in coderen en kon de sollicitatie‑interview voor onderzoeks‑engineer bij OpenAI voor coderen met een slagingspercentage van 90‑100 % doorstaan. Het lijkt erop dat o3 nog beter presteert bij coderingstests.

Bron: The Algorithmic Bridge

Het moet ook worden opgemerkt dat dit alle concurrentie verpletterde, inclusief de recent uitgebracht Gemini 2.0 van Google.

Bron: The Algorithmic Bridge

Wiskunde & Wetenschappen

Misschien meer dan klantenservice of ‘mensachtig’ redeneren, is het meest veelbelovende gebied voor AI momenteel het versnellen van technologie en wetenschappen.

Ook hier heeft o3 de prestaties van eerdere AI’s radicaal verbeterd. Belangrijker nog, het kan PhD‑niveau wiskundevragen correct beantwoorden met een nauwkeurigheid van 87,7 %, wat beter is dan de meeste mensen, zelfs wiskundig opgeleide mensen die rond de 70 % scoren.

Bron: The Algorithmic Bridge

Als o3 complexe wiskundevragen zo goed kan begrijpen, zal het op de lange termijn waarschijnlijk ook in staat zijn om vergelijkbaar complexe vragen over materiaalkunde, scheikunde of biotechnologie te beantwoorden.

Is het AGI?

Nu heeft de bewering dat o3 dicht bij AGI staat de AI‑wereld geagiteerd sinds de aankondiging van het model. Het was zeker niet te verwachten dat het veel PhD‑niveau mensen in wiskunde zou overtreffen.

François Chollet, een AI‑onderzoeker en mede‑maker van ARC-AGI (Abstract and Reasoning Corpus for Artificial General Intelligence), een benchmark om de efficiëntie van AI‑vaardigheidsverwerving op onbekende taken te meten, zegt dat het dichtbij komt:

Vandaag heeft OpenAI o3 aangekondigd, hun next‑gen redeneermodel. We hebben met OpenAI samengewerkt om het te testen op ARC‑AGI, en we geloven dat het een significante doorbraak vertegenwoordigt in het laten aanpassen van AI aan nieuwe taken.

Het scoort 75,7 % op de semi‑private evaluatie in low‑compute‑modus (voor $20 per taak in compute) en 87,5 % in high‑compute‑modus (duizenden $ per taak).

De zeer hoge kosten roepen de vraag op hoe schaalbaar deze aanpak is, aangezien je high‑level o3 mogelijk alleen kunt toepassen op zeer dure taken om het de moeite waard te maken.

Bron: Francois Chollet

Tegelijkertijd, als de afgelopen decennia ons iets hebben geleerd, is het dat rekenkracht na verloop van tijd veel goedkoper wordt.

Dus, het is nauwelijks bewijs dat o3, of een toekomstige oX‑iteratie van het systeem, niet routinematig zal worden gebruikt in onderzoeksinstituten om menselijke onderzoekers te assisteren bij het ontsluiten van nieuwe wetenschappelijke frontiers.

Natuurlijk, kunnen we intelligentie echt meten aan de hand van wiskunde‑ en codeervaardigheden? Dit kan voor de meeste technisch‑gerichte mensen een beetje ongemakkelijk zijn, maar deze vaardigheden zijn niet het enige criterium voor intelligentie.

Op de lange termijn zullen we dichter bij echte AGI komen wanneer dezelfde AI veel verschillende, niet‑gerelateerde taken tegelijk kan uitvoeren, van het besturen van een auto tot wiskunde‑ & codeerproblemen, het navigeren door situaties & objecten in de echte wereld, enzovoort.

Het lijkt er echter op dat we elke dag dichterbij komen.

Beperkingen

Naast de technische beperkingen van de prestaties van o3, zijn er drie vragen die de AI‑industrie moet beantwoorden om haar visie op AGI werkelijkheid te laten worden.

Groter is niet altijd beter

Ten eerste moet worden vastgesteld of de huidige methoden schaalbaar zijn tot AGI‑niveaus. Voorlopig bestaat een groot deel van de methode uit het ‘gooien’ van meer data en rekenkracht op het probleem. Maar we kunnen al snel zonder verse data komen te zitten, en AI‑gegenereerde inhoud kan niet teruggevoerd worden naar AI‑modellen zonder dat ze instorten.

Kwalitatieve verbetering zal waarschijnlijk nodig zijn naast grotere, omvangrijkere datacenters.

Prijzen & Energiekosten

Als we het over grotere datacenters hebben, kijkt de tech‑industrie nu naar datacenters op gigawatt‑schaal. Het is geen toeval dat we deze nu meten aan hun energieverbruik in plaats van hun rekencapaciteit.

Het is omdat de beperkende factor wordt al snel niet meer de kracht van de gebruikte chips, maar de beschikbare elektriciteitsvoorziening. Daarom Microsoft eerst, en vervolgens alle andere grote tech‑bedrijven, zich haasten om elektriciteitslevering van kerncentrales veilig te stellen voor hun AI‑datacenters.

En als de strijd tegen CO₂‑emissies ons iets heeft geleerd, is het dat het vergroten van de productie van lage‑CO₂‑emissie energie een veel moeilijkere uitdaging is dan het bouwen van grotere datacenters.

Dit is ook een sector waarin de kostenreductie niet de wet van Moore zal volgen, waardoor de toekomstige verlaging van AI‑kosten waarschijnlijk veel gematigder zal zijn dan we zouden wensen.

Dus, kwalitatieve verbetering in AI‑vraag zal hier ook nodig zijn, althans als enkele huidige beperkingen van AI worden opgeheven.

Superintelligenties?

Wanneer we dichter bij AGI komen, zal het dan een maximale drempel zijn om te bereiken of slechts een stap op weg naar het creëren van AI die slimmer is dan mensen?

Het is een belangrijke vraag, aangezien dit zowel een fascinerend als angstaanjagend vooruitzicht is. Veel techno‑enthousiastelingen omarmen deze zogenaamde singulariteit, waarbij AI zichzelf snel zou verbeteren in een exponentiële feedback‑lus.

Het algemene publiek van gewone mensen is misschien niet zo enthousiast.

Dus naast het existentiële risico zal de terugslag van het publiek & regelgevers waarschijnlijk al te reëel zijn en sneller optreden.

Dit is iets waar AI‑bedrijven waarschijnlijk mee zullen worstelen, aangezien ze tegelijkertijd het publiek moeten geruststellen, mogelijk hun prestaties bagatelliseren, terwijl ze investeerders moeten overtuigen die honderden miljarden dollars in de technologie en infrastructuur steken.

AI‑bedrijf

Microsoft

Microsoft staat al bijna sinds haar ontstaan centraal in de tech‑industrie met haar nog steeds dominante besturingssysteem Windows.

Het is nu ook een leider in enterprise‑software (Office365, Teams, LinkedIn, Skype, GitHub), gaming (Xbox en meerdere videogame‑studio‑acquisities), en in de cloud (Azure).

Meer recent heeft het goede vooruitgang geboekt op AI‑gebied. Dit omvat enkele consumentgerichte AI’s zoals de Bing Image Creator en meer zakelijke initiatieven, zoals Copilot for Microsoft 365 en Microsoft Research. Copilot wordt nu ook geïmplementeerd bij detailhandel en kleinere bedrijven.

Bron: Constellation Research

Microsoft heeft de reputatie verworven een enterprise‑gerichte tech‑gigant te zijn, vergeleken met meer consumentgerichte bedrijven zoals bijvoorbeeld Apple (AAPL ) of Facebook. Nu AI steeds belangrijker wordt in bedrijfsmodellen, zou de reeds bestaande aanwezigheid van Microsoft in cloud‑ en enterprise‑diensten het een voorsprong moeten geven bij het op grote schaal inzetten van AI en bij klantacquisities.

Microsoft – Het rommelige huwelijk van OpenAI

De samenwerking met AI‑ontwikkelingsleiders zoals OpenAI (van ChatGPT‑faam) versterkt ook de positie van Microsoft als AI‑krachtpatser.

De relatie tussen de twee is complex, aangezien OpenAI technisch gezien een eigen organisatie is, maar in de praktijk afhankelijk is geworden van middelen van Microsoft, zowel financieel als computationeel.

“In de komende maanden zou Microsoft niet toegeven terwijl OpenAI, dat dit jaar een verlies van $5 miljard verwacht, bleef vragen om meer geld en meer rekenkracht om zijn AI‑systemen te bouwen en te draaien.

Bron: Marketing AI Institute

Gelijktijdig bouwt Microsoft zijn eigen interne AI‑projecten, na het overnemen van het grootste deel van het personeel van Inflection.

Het wordt nog ingewikkelder nu OpenAI probeert over te gaan naar een winstoogmerk, wat conflicten veroorzaakt met eerdere investeerders zoals Elon Musk.

En hier wordt het debat over AGI bijna existentieel voor OpenAI:

“Als OpenAI AGI bereikt, wordt de toegang van Microsoft tot de technologie van OpenAI ongeldig. Nog belangrijker is dat de raad van OpenAI mag beslissen wanneer AGI is bereikt.”

Bron: Marketing AI Institute

Het is waarschijnlijk dat o3 nog geen AGI is, en een hypothetische o5 zal dat ook niet zijn. Maar dit is iets om te onthouden voor elke investeerder die mogelijk geïnteresseerd is in Microsoft, en hun thesis baseert op de relatie met OpenAI.