Kunstig Generel Intelligens: En Historie om At Bygge Kapaciteter med Forsigtighed

Vi lever i den kunstige intelligens’ tidsalder. Den oprindelige artikel fra 2023 vurderede det globale AI-marked til 240 milliarder amerikanske dollar og gengav en prognose på over 730 milliarder dollar i 2030 med mere end 17 procents årlig vækst. Det var datidens markedsvurderinger, ikke sikre fremtidige indtægter.

Midt i al opstandelse omkring AI er et paradigme, der har fanget alles opmærksomhed, AGI, Kunstig Generel Intelligens. 

Hvad betyder AGI, og hvorfor vækker det interesse? Artiklen behandler begreber, forskningsretninger og forventninger med udgangspunkt i 2023.

Men før vi springer direkte ind i Kunstig Generel Intelligens, lad os prøve at fastslå, hvad generel intelligens indebærer.

Generel intelligens i hovedtræk

Generel intelligens indebærer evnen til at opnå en række mål og udføre forskellige opgaver, hvis kontekster og miljøer er forskellige. Systemer, der er ‘generelt intelligente’, skal: 

• Håndtere problemer og situationer, der er væsentligt forskellige fra, hvad der kunne forudses
• Kunne generalisere den opnåede viden og overføre den fra én problemsammenhæng til andre.

Forskere er uenige om den præcise definition og om, hvordan generel intelligens bør måles. Der findes ikke én alment accepteret liste over nødvendige egenskaber.

AGI-forskning forsøger at realisere sådanne brede lærings- og problemløsningsevner i kunstige systemer.

Kernen i AGI-hypotesen

Ben Goertzel formulerede en kernehypotese i sin oversigtsartikel ”Artificial General Intelligence: Concept, State of the Art, and Future Prospects”, udgivet i 2014 i Journal of Artificial General Intelligence. Han beskrev hypotesen således:

”Skabelsen og studiet af syntetisk intelligens med tilstrækkeligt bredt omfang, eksempelvis på menneskeligt niveau, og stærk generaliseringsevne er grundlæggende kvalitativt forskellig fra skabelsen og studiet af syntetisk intelligens med væsentligt snævrere omfang og svagere generaliseringsevne.”

I denne opfattelse ville AGI have et bredt anvendelsesområde og stærk generaliseringsevne. Hypotesen er et forskningssynspunkt, ikke en bevist naturlov.

Mere populærvidenskabeligt udtrykt undersøger AGI-forskning, hvordan systemer kan udvikle brede kognitive evner, ofte sammenlignet med menneskers præstationer. Læring og videnoverførsel er centrale, men den krævede præstation varierer mellem definitionerne.

Synet på AGI’s mulighed og tidsplan varierer. Nogle forskere er skeptiske, mens andre udvikler stadig bredere evner. Der er dermed ikke videnskabelig enighed om, at menneskelig generel intelligens principielt er uopnåelig.

AGI og begrebet stærk AI

I en forklaring fra IBM forbindes stærk AI med menneskelig intelligens og selvbevidsthed. Det svarer ikke til alle AGI-definitioner: operationelle definitioner kan fokusere på bred præstation og generalisering uden at kræve bevidsthed. Spørgsmålet om maskiners subjektive oplevelser er en særskilt diskussion.

Et system kunne lære gennem input og erfaringer, men AGI behøver ikke nødvendigvis begynde som et barn eller fungere som menneskehjernen. Forskningsmålene handler først og fremmest om evner, ikke om én obligatorisk udviklingsvej.

En almindelig sammenligning handler om opgavernes bredde og evnen til at overføre viden til nye situationer frem for kun at måle én specialiseret præstation.

Snæver AI er ikke nødvendigvis begrænset til én gentagen opgave og kan fungere autonomt inden for et afgrænset område. Omvendt betyder AGI ikke automatisk, at menneskelige instruktioner eller tilsyn forsvinder. Evner, autonomi og bevidsthed er forskellige begreber; det ene beviser ikke det andet.

Goertzels oversigt skelner mellem fire brede forskningsretninger: symbolsk, emergentistisk, hybrid og universalistisk. Det er oversigtens inddeling, ikke en udtømmende eller alment obligatorisk AGI-arkitektur.

Den symbolske tilgang: Her repræsenteres sider af verden og systemet med symboler. Et fysisk symbolsystem kan modtage, producere, gemme og ændre symboler og bruge dem til at vælge handlinger. Det er en teoretisk tilgang, ikke et bevis for, at intelligens kun fungerer sådan.

Visse symbolske kognitive arkitekturer kombinerer arbejdshukommelse med langtidshukommelse og central styring af perception, tænkning og handling. Ikke alle symbolske tilgange behøver samme organisering.

Den emergentistiske tilgang: Evner på højere niveau opstår gennem samspil mellem subsymbolske dele på lavere niveau. Komplekse mønstre og funktioner kan dermed vokse frem af mange relativt enkle, samvirkende dele, som i neurale netværk.

Den hybride tilgang: Symbolske og subsymbolske delsystemer kombineres for at udnytte deres styrker og håndtere deres begrænsninger. Helheden kan dermed få andre evner end delene hver for sig.

Kombinationen kan være et symbolsk undersystem med et stort subsymbolsk system eller en population af små agenter, som hver både er symbolske og subsymbolske i natur. 

Den universalistiske tilgang: Den tager udgangspunkt i meget generelle matematiske modeller for intelligens og undersøger praktiske tilnærmelser. Visse idealmodeller er ikke beregnelige eller har urealistiske beregningskrav. Det handler altså ikke blot om en færdig algoritme, der kræver mere hardware.

Flere organisationer udvikler AI-produkter og forsker i bredere intelligens. Praktiske produkter er ikke i sig selv bevis for, at AGI var opnået i 2023. OpenAI er en velkendt organisation med dette forskningsmål.

Virksomheder, der arbejder med AGI

1. OpenAI

OpenAI, kendt for ChatGPT, beskrev i et blogindlæg den 24. februar 2023 ambitionen om, at AGI skal gavne hele menneskeheden. Organisationen talte om AI-systemer, der generelt ville være klogere end mennesker. Det var en beskrivelse af missionen, ikke en meddelelse om, at AGI allerede var opnået.

OpenAI skrev, at organisationen ville blive mere forsigtig med udvikling og udrulning, når systemerne nærmede sig AGI. InstructGPT og ChatGPT blev nævnt som skridt mod bedre styrbare systemer, ikke som allerede realiseret AGI.

Hvad er ChatGPT?

OpenAI lancerede ChatGPT den 30. november 2022 som et samtalesystem baseret på sprogmodeller. Det kan besvare spørgsmål og hjælpe med e-mails, essays og programkode. Menneskelignende svar beviser ikke menneskelig forståelse eller pålidelighed; svarene kan indeholde fejl.

Klik her for listen over de fem bedste ChatGPT-udvidelser.

Hvad er InstructGPT?

InstructGPT er navnet på modeller, som OpenAI trænede til bedre at følge instruktioner gennem menneskelige demonstrationer og tilbagemeldinger. Det er en bestemt udvikling af sprogmodeller, ikke et fællesnavn for avanceret AI eller et selvstændigt bevis for AGI.

OpenAI og ChatGPT i historiske tal

Den 12. oktober 2023 rapporterede The Information et indtægtstempo hos OpenAI svarende til 1,3 milliarder amerikanske dollar på årsbasis, over 100 millioner om måneden og cirka 30 procent over sommerens tempo. Separat oplyste OpenAI i november 2023 omkring 100 millioner ugentligt aktive ChatGPT-brugere. Et årligt omregnet tempo er ikke det samme som faktisk omsætning i et helt regnskabsår.

OpenAI’s bestyrelseskrise i november 2023

Den daværende bestyrelse afsatte direktør Sam Altman den 17. november 2023. Bestyrelsen oplyste, at han ikke altid havde været åben i sin kommunikation; det var den dengang angivne begrundelse, ikke en uafhængigt fastslået konklusion. En principaftale om hans tilbagevenden blev annonceret den 21. november amerikansk tid, den 22. november efter UTC. Den 29. november bekræftede OpenAI hans tilbagevenden med en ny midlertidig bestyrelse.

Et stort flertal af medarbejderne truede ifølge datidens omtale med at forlade virksomheden, hvis Altman ikke vendte tilbage; det betyder ikke nødvendigvis, at alle havde underskrevet brevet. Medstifteren og daværende chefforsker Ilya Sutskever udtrykte på X sin fortrydelse: ”Jeg fortryder dybt min deltagelse i bestyrelsens handlinger. Jeg havde aldrig til hensigt at skade OpenAI. Jeg elsker alt, hvad vi har bygget sammen, og vil gøre alt, hvad jeg kan, for at genforene virksomheden.”

Altmans tilbagevenden afsluttede den akutte ledelseskrise, men løste ikke automatisk alle spørgsmål om styring og tilsyn. Den nye bestyrelse annoncerede også en uafhængig undersøgelse og forbedringer af ledelsesstrukturen.

Selv om OpenAI tiltrak stor opmærksomhed inden for AGI, havde andre organisationer også arbejdet med området i mange år. DeepMind blev grundlagt i 2010.

2. DeepMind

DeepMind blev grundlagt i 2010 og købt af Google i 2014. I april 2023 blev det slået sammen med Google Brain som Google DeepMind. Organisationen forsker i bredere problemløsningssystemer og ønsker at fremme videnskab og samfundsgavnlige anvendelser med AI.

DeepMinds driftsprincip har altid været at fremme videnskab til gavn for menneskeheden. Som sådan ønsker den at udnytte kunstig intelligens til at tjene samfundets behov og forventninger. 

I Moorfields’ forskning kunne en model give henvisningsanbefalinger på specialisternes niveau ud fra de undersøgte øjenskanninger. Det viste ikke, at alle øjensygdomme kunne diagnosticeres selvstændigt, eller at læger blev erstattet. Et autonomt styrsystem rapporterede i 2018 omkring 30 procents besparelse på energien til datacenterkøling, ikke på hele datacentrets forbrug. AlphaFold forudsagde tredimensionelle proteinstrukturer og støttede biologisk forskning og lægemiddelforskning uden at løse alle problemer om proteinfunktion eller lægemidler.

Den oprindelige artikel henviste til finansieringsoplysninger i en database om en rapporteret runde på 50 millioner amerikanske dollar den 1. februar 2011 med Founders Fund og Horizons Ventures. En begrænset databasepost viser ikke, at det var den eneste finansiering før opkøbet; oplysningerne var ikke en fuldstændig revideret finansieringshistorik.

3. Adept

Adept annoncerede i marts 2023 en B-runde på 350 millioner amerikanske dollar ledet af General Catalyst og Spark Capital. Virksomheden var da omkring et år gammel og udviklede AI, der kan bruge software. Artiklen beskrev cirka 25 ansatte og en tidlig demonstration af en digital assistent.

Adept undersøgte menneskers brug af software for at omsætte tekstinstruktioner til computerhandlinger. Artiklen angav en værdiansættelse efter finansieringen på omkring én milliard amerikanske dollar. Den dengang rapporterede værdi er ikke en aktuel værdiansættelse eller et bevis for opnået AGI.

Medstifter David Luan sammenlignede ambitionen med en synthesizer: en musiker kan bruge forskellige instrumenters lyde uden at lære at spille hvert instrument. Adept ville på lignende vis gøre software lettere tilgængelig gennem ét AI-system.

AGI: Vejen frem

Folk har forskellige syn på AGI’s potentiale. Nogle mener, at AGI kan have farlige konsekvenser for menneskeheden, mens andre mener, at AGI ikke vil kunne opnå, hvad vi tror, den kan. 

Diego Klabjan, professor ved Northwestern University og grundlægger af universitetets kandidatprogram i analyse, fremsatte den skeptiske opfattelse, som blev citeret i den oprindelige artikel:

“Menneskehjernen har milliarder af neuroner, der er forbundet på en meget fascinerende og kompleks måde, og den nuværende state-of-the-art [teknologi] er blot ligefremme forbindelser, der følger meget enkle mønstre. Så at gå fra nogle få millioner neuroner til milliarder af neuroner med den nuværende hardware og software-teknologi – jeg ser ikke, at det sker.”

En undersøgelse fra 2016 blandt forskere tilknyttet Oxford, Yale og AI Impacts fik svar fra 352 maskinlæringsforskere. Resultaterne blev offentliggjort som fortryk i 2017. Det var sammenvejede subjektive sandsynlighedsvurderinger, ikke sikre tidsfrister eller en ”median af respondenterne”. Eksempler på datidens prognoser var:

• Omkring 2026: skrive skoleopgaver på det niveau, undersøgelsen definerede.
• Omkring 2027: køre lastbil på det angivne niveau; det betyder ikke, at alle chauffører bliver overflødige.
• Omkring 2031: udføre de beskrevne detailhandelsopgaver, ikke nødvendigvis erstatte hele sektoren.
• Omkring 2049: skrive en bestseller; Stephen King var en billedlig sammenligning, ikke en forudsigelse om en bestemt forfatter.
• Fuld automatiserbarhed for alle erhverv: cirka 122 år efter 2016, altså omkring 2138, ved en sammenvejet sandsynlighed på 50 procent. Det betyder ikke, at alle arbejdspladser faktisk forsvinder på det tidspunkt.

Det er alt for tidligt at forudsige, hvor AI til sidst vil føre os hen. Men som alle teknologier kan den bruges til godt eller ondt. 

I sit blogindlæg fra februar 2023 argumenterede Sam Altman for grundig kontrol med AGI-udvikling og offentlig høring før store beslutninger. Om mulige risici skrev han:

”Verden kunne blive meget anderledes end i dag, og risiciene kunne være ekstraordinære. En superintelligent AGI, der ikke er afstemt efter menneskelige mål, kunne skade verden alvorligt; det kunne et autoritært regime med et afgørende forspring inden for superintelligens også gøre.”

Organisationer som DeepMind undersøger, om bredere AI kan understøtte videnskabelige gennembrud. Det gør dem endnu ikke til leverandører af bevist AGI. Fremtidens virkninger på forskning, teknik og sikkerhed er usikre og afhænger blandt andet af evner, anvendelser og menneskers valg om styring og tilsyn.

Klik her for at lære alt om investering i kunstig intelligens.