Artificial General Intelligence: Een verhaal over het opbouwen van mogelijkheden met voorzichtigheid

We leven in het tijdperk van kunstmatige intelligentie. Het oorspronkelijke artikel uit 2023 noemde een geschatte wereldwijde AI-markt van 240 miljard Amerikaanse dollar en een prognose van ruim 730 miljard dollar in 2030, met meer dan 17% jaarlijkse groei. Dit waren toenmalige marktinschattingen, geen vaststaande toekomstige omzet.

Een veelbesproken onderzoeksdoel binnen AI is kunstmatige algemene intelligentie, doorgaans afgekort tot AGI naar artificial general intelligence.

Wat wordt met AGI bedoeld en waarom krijgt het zoveel aandacht? Dit artikel bespreekt de begrippen, onderzoeksrichtingen en verwachtingen vanuit het perspectief van 2023.

Eerst bekijken we wat algemene intelligentie kan betekenen.

De contouren van algemene intelligentie bepalen

Algemene intelligentie impliceert het vermogen om een reeks doelen te bereiken en diverse taken uit te voeren waarvan de contexten en omgevingen verschillend zijn. Systemen die ‘algemeen intelligent’ zijn, moeten:

• Omgaan met problemen en situaties die aanzienlijk verschillen van wat men kon voorzien
• In staat zijn de verworven kennis te generaliseren zodat deze van de ene probleemcontext naar andere kan worden overgedragen.

Onderzoekers verschillen van mening over een precieze definitie en over de beste manier om algemene intelligentie te meten. Er bestaat geen enkele algemeen aanvaarde lijst van noodzakelijke eigenschappen.

AGI-onderzoek probeert zulke brede leer- en probleemoplossende vermogens in kunstmatige systemen te realiseren.

De kernhypothese van AGI

Ben Goertzel formuleerde een kernhypothese in zijn overzichtsartikel «Artificial General Intelligence: Concept, State of the Art, and Future Prospects», gepubliceerd in 2014 in het Journal of Artificial General Intelligence. Hij omschreef die hypothese als volgt:

“De creatie en studie van synthetische intelligentie met een voldoende brede (bijv. menselijk niveau) reikwijdte en sterke generalisatiecapaciteit is in wezen kwalitatief anders dan de creatie en studie van synthetische intelligentie met een aanzienlijk smallere reikwijdte en zwakkere generalisatiecapaciteit.”

In deze opvatting zou AGI een breed toepassingsgebied en een sterk vermogen tot generaliseren hebben. De hypothese is een onderzoeksstandpunt, geen bewezen natuurwet.

Eenvoudig gezegd onderzoekt AGI hoe systemen breed inzetbare cognitieve vermogens kunnen ontwikkelen, vaak vergeleken met menselijke prestaties. Leren en kennisoverdracht zijn belangrijke aspecten, maar de precieze prestatiedrempel verschilt per definitie.

Over de haalbaarheid en het tijdpad lopen de opvattingen uiteen. Sommige onderzoekers zijn sceptisch; anderen werken aan systemen met steeds bredere vermogens. Daaruit volgt geen wetenschappelijke consensus dat menselijke algemene intelligentie principieel onbereikbaar is.

AGI en het begrip «sterke AI»

In een toelichting van IBM wordt sterke AI verbonden met menselijke intelligentie en zelfbewustzijn. Die betekenis is niet gelijk aan elke definitie van AGI: operationele onderzoeksdefinities kunnen zich richten op brede prestaties en generalisatie, zonder bewustzijn als vereiste. De vraag of machines subjectieve ervaring kunnen hebben, is een afzonderlijk debat.

Een systeem zou kunnen leren door invoer en ervaring, maar AGI hoeft niet noodzakelijk als een kind te beginnen of op dezelfde manier te werken als een menselijk brein. De onderzoeksdoelen gaan in de eerste plaats over vermogens, niet over een verplichte ontwikkelingsroute.

Een veelgebruikte vergelijking kijkt naar de breedte van taken en het vermogen kennis naar nieuwe situaties over te dragen, in plaats van alleen naar één specialistische prestatie.

Smalle AI is niet per definitie beperkt tot één repetitieve taak en kan binnen een afgebakend domein autonoom functioneren. Omgekeerd betekent AGI niet automatisch dat menselijke instructies of toezicht verdwijnen. Vermogens, autonomie en bewustzijn zijn verschillende begrippen; het ene bewijst het andere niet.

Goertzels overzicht onderscheidt vier brede onderzoeksrichtingen: symbolisch, emergentistisch, hybride en universalistisch. Het is een bruikbare indeling uit dat overzicht, geen uitputtende of algemeen verplichte architectuur voor AGI.

De symbolische benadering: Hierbij worden aspecten van de wereld en het systeem met symbolen voorgesteld. Een fysiek symboolsysteem kan zulke symbolen invoeren, opslaan, aanpassen en gebruiken om handelingen te selecteren. Dit is een theoretische benadering, geen vaststaand bewijs dat intelligentie uitsluitend zo werkt.

Sommige symbolische cognitieve architecturen combineren een werkgeheugen met langetermijngeheugen en centrale sturing van waarneming, denken en handelen. Niet elke symbolische aanpak hoeft precies dezelfde organisatie te gebruiken.

De emergentistische benadering: In deze richting ontstaan hogere vermogens uit interacties tussen lagere, subsymbolische onderdelen. Eenvoudig gezegd kunnen complexe patronen en functies voortkomen uit veel relatief eenvoudige, samenwerkende elementen, zoals in neurale netwerken.

De hybride benadering: Deze combineert symbolische en subsymbolische deelsystemen om hun sterke kanten te benutten en beperkingen te ondervangen. Het geheel kan zo andere mogelijkheden hebben dan de losse onderdelen.

De combinatie kan bestaan uit een symbolisch subsysteem met een groot subsymbolisch systeem of een populatie van kleine agenten, die elk zowel symbolisch als subsymbolisch van aard zijn.

De universalistische benadering: Deze vertrekt vanuit zeer algemene wiskundige modellen van intelligentie en onderzoekt praktische benaderingen daarvan. Sommige ideale modellen zijn niet berekenbaar of hebben onhaalbare rekenvereisten. Het gaat dus niet eenvoudig om een bestaand algoritme dat alleen meer hardware nodig heeft.

Verschillende organisaties ontwikkelen AI-systemen en onderzoeken bredere intelligentie. Dat zij praktische producten maken, betekent niet dat die producten in 2023 al bewezen AGI waren. Een bekende organisatie met dit onderzoeksdoel is OpenAI.

Leidende bedrijven die werken aan AGI

1. OpenAI

OpenAI, bekend van ChatGPT, beschreef in zijn blogpost van 24 februari 2023 de ambitie om AGI ten goede te laten komen aan de hele mensheid. De organisatie sprak daarbij over AI-systemen die in algemene zin slimmer zouden zijn dan mensen. Dit was haar missieomschrijving, geen aankondiging dat AGI al bereikt was.

OpenAI schreef dat het voorzichtiger wilde worden met de ontwikkeling en inzet naarmate systemen dichter bij AGI kwamen. InstructGPT en ChatGPT werden genoemd als stappen naar beter stuurbare systemen, niet als reeds gerealiseerde AGI.

Wat is ChatGPT?

ChatGPT werd door OpenAI op 30 november 2022 uitgebracht als gesprekssysteem op basis van taalmodellen. Het kan vragen beantwoorden en helpen met bijvoorbeeld e-mails, essays en programmeercode. Menselijk klinkende antwoorden bewijzen geen menselijk begrip of betrouwbaarheid; uitvoer kan fouten bevatten.

Klik hier voor de lijst van de vijf beste ChatGPT-extensies.

Wat is InstructGPT?

InstructGPT is de naam van modellen die OpenAI trainde om instructies beter te volgen, met menselijke demonstraties en feedback. Het gaat om een specifieke ontwikkeling op basis van taalmodellen, niet om een algemene term voor iedere geavanceerde AI of een zelfstandig bewijs van AGI.

OpenAI en ChatGPT in historische cijfers

In november 2023 meldde OpenAI ongeveer 100 miljoen wekelijks actieve ChatGPT-gebruikers. Los daarvan berichtte The Information op 12 oktober 2023 over een omzettempo van 1,3 miljard Amerikaanse dollar op jaarbasis, ruim 100 miljoen per maand en circa 30% boven het tempo uit de zomer. Een omgerekend jaarritme is niet hetzelfde als de gerealiseerde omzet over een volledig boekjaar.

De bestuurscrisis bij OpenAI in november 2023

Op 17 november 2023 ontsloeg het toenmalige bestuur Sam Altman als directeur. Het bestuur stelde dat hij niet steeds openhartig was geweest in de communicatie; dat was de toen opgegeven reden, geen onafhankelijk vastgestelde conclusie. Op 21 november in de VS, 22 november volgens UTC, werd een principeakkoord over zijn terugkeer aangekondigd. Op 29 november bevestigde OpenAI zijn terugkeer met een nieuw voorlopig bestuur.

Een grote meerderheid van de medewerkers dreigde volgens de toenmalige berichtgeving te vertrekken als Altman niet terugkeerde; niet ieder personeelslid had noodzakelijk de brief ondertekend. Medeoprichter en toenmalig hoofdonderzoeker Ilya Sutskever betuigde op X spijt: «Ik betreur mijn deelname aan de acties van het bestuur ten zeerste. Het was nooit mijn bedoeling OpenAI schade toe te brengen. Ik hou van alles wat we samen hebben opgebouwd en zal alles doen wat ik kan om het bedrijf weer bijeen te brengen.»

Altmans terugkeer maakte een einde aan de acute leidingcrisis. Daarmee waren niet automatisch alle vragen over bestuur en toezicht opgelost: het nieuwe bestuur kondigde ook een onafhankelijke beoordeling en verbeteringen van de governance aan.

Hoewel OpenAI de meest prominente is geweest in het verkrijgen van tractie en aandacht in de AGI-ruimte, bestaan andere spelers al geruime tijd. DeepMind is zo’n speler die sinds 2010 actief is.

2. DeepMind

DeepMind werd in 2010 opgericht en in 2014 door Google overgenomen. In april 2023 ging het samen met Google Brain verder als Google DeepMind. De organisatie onderzoekt bredere probleemoplossende systemen en wil met AI wetenschap en maatschappelijke toepassingen vooruithelpen.

Het operationele principe van DeepMind is altijd geweest om wetenschap te bevorderen ten behoeve van de mensheid. Als zodanig wil het kunstmatige intelligentie inzetten om te voldoen aan maatschappelijke behoeften en verwachtingen.

Bij Moorfields liet een onderzoeksmodel zien dat het bij onderzochte oogscans specialistische verwijzingsadviezen kon evenaren; dit was geen bewijs dat het alle oogziekten zelfstandig kon diagnosticeren of artsen verving. Een autonoom regelsysteem rapporteerde rond 2018 ongeveer 30% besparing op energie voor datacenterkoeling, niet op het volledige datacenterverbruik. AlphaFold voorspelde driedimensionale eiwitstructuren en ondersteunde biologisch en farmaceutisch onderzoek, zonder daarmee elk probleem rond eiwitwerking of geneesmiddelen op te lossen.

Het oorspronkelijke artikel verwees naar financieringsgegevens uit een databank voor een gemelde ronde van 50 miljoen Amerikaanse dollar op 1 februari 2011 met Founders Fund en Horizons Ventures. Een beperkt databankrecord bewijst niet dat dit de enige financiering vóór de overname was; deze historische gegevens waren geen volledige gecontroleerde financieringsgeschiedenis.

3. Adept

Adept kondigde op 14 maart 2023 een Series B van 350 miljoen Amerikaanse dollar aan, geleid door General Catalyst en medegeleid door Spark Capital. Het toen ongeveer een jaar oude bedrijf ontwikkelde AI die software kan bedienen. Het oorspronkelijke artikel meldde circa 25 medewerkers en verwees naar een vroege demonstratie van een digitale assistent.

Adept bestudeerde hoe mensen software gebruiken om tekstinstructies in computerhandelingen om te zetten. Het artikel vermeldde een waardering na de financiering van ongeveer één miljard Amerikaanse dollar. Die toenmalige gerapporteerde waardering is geen actuele waardering of bewijs dat AGI was gerealiseerd.

Medeoprichter David Luan vergeleek de ambitie met een synthesizer: een muzikant kan daarmee de klanken van verschillende instrumenten gebruiken zonder ze allemaal afzonderlijk te beheersen. Adept wilde op vergelijkbare wijze software toegankelijker maken via één AI-systeem.

AGI: De weg vooruit

Mensen hebben verschillende meningen over het potentieel van AGI. Sommigen geloven dat AGI gevaarlijke consequenties voor de mensheid kan hebben, terwijl anderen geloven dat AGI niet zal kunnen bereiken wat we denken dat het zou kunnen.

Volgens Diego Klabjan, professor aan de Northwestern University en oprichtersdirecteur van het Master of Science in Analytics-programma van de school:

“Menselijke hersenen hebben miljarden neuronen die op een zeer intrigerende en complexe manier verbonden zijn, en de huidige state-of-the-art [technologie] bestaat slechts uit eenvoudige verbindingen die zeer gemakkelijke patronen volgen. Dus van een paar miljoen neuronen naar miljarden neuronen gaan met de huidige hardware- en softwaretechnologieën – ik zie dat niet gebeuren.”

Een in 2016 gehouden enquête van onderzoekers verbonden aan Oxford, Yale en AI Impacts kreeg 352 reacties van machinelearningonderzoekers. De resultaten werden in 2017 als preprint gepubliceerd. Het ging om samengevoegde subjectieve kansinschattingen, niet om gegarandeerde deadlines of het «mediane aantal respondenten». Voorbeelden van toenmalige prognoses waren:

• Rond 2026: essays op middelbareschoolniveau schrijven, in de specifieke taakomschrijving van de enquête.
• Rond 2027: vrachtwagens besturen op het in de enquête omschreven prestatieniveau; dit voorspelt niet dat alle chauffeurs dan overbodig zijn.
• Rond 2031: de omschreven werkzaamheden in de detailhandel uitvoeren, niet noodzakelijk de hele sector overtreffen.
• Rond 2049: een bestseller schrijven; de vergelijking met Stephen King was beeldspraak, geen voorspelling over één auteur.
• Volledige automatiseerbaarheid van alle beroepen: ongeveer 122 jaar na 2016, dus rond 2138, bij een samengevoegde kansinschatting van 50%. Dit betekent niet dat alle banen daadwerkelijk dan verdwijnen.

Het is veel te vroeg om te voorspellen waar AI ons uiteindelijk zal brengen. Maar, net als alle technologieën, kan het voor goed of kwaad worden gebruikt.

In zijn blogpost van februari 2023 pleitte Sam Altman voor grondige toetsing van AGI-ontwikkeling en publieke raadpleging bij grote beslissingen. Over mogelijke risico’s schreef hij:

«De wereld zou heel anders kunnen worden dan nu, en de risico’s zouden buitengewoon kunnen zijn. Een superintelligente AGI die niet goed op menselijke doelen is afgestemd, zou de wereld ernstig kunnen schaden; een autocratisch regime met een doorslaggevende voorsprong in superintelligentie zou dat ook kunnen doen.»

Organisaties zoals DeepMind onderzoeken of bredere AI wetenschappelijke doorbraken kan ondersteunen. Dat maakt hen nog geen leveranciers van bewezen AGI-oplossingen. De toekomstige invloed op onderzoek, techniek en veiligheid is onzeker en hangt mede af van de ontwikkelde vermogens, het gebruik en menselijke keuzes over toezicht en bestuur.

Klik hier om alles te leren over investeren in kunstmatige intelligentie.