Kunstig generell intelligens: En fortelling om å bygge evner med forsiktighet

Vi lever i den kunstige intelligensens tidsalder. Den opprinnelige artikkelen fra 2023 anslo det globale AI-markedet til 240 milliarder amerikanske dollar og viste til en prognose på over 730 milliarder dollar i 2030, med mer enn 17 prosent årlig vekst. Dette var datidens markedsanslag, ikke sikre fremtidige inntekter.

Blant all oppmerksomheten rundt AI er kunstig generell intelligens, forkortet AGI, et mye diskutert forskningsmål.

Hva betyr AGI, og hvorfor vekker det interesse? Artikkelen tar for seg begreper, forskningsretninger og forventninger fra et 2023-perspektiv.

Men før vi hopper rett inn i kunstig generell intelligens, la oss prøve å fastslå hva generell intelligens innebærer.

Fastsette omrisset av generell intelligens

Generell intelligens innebærer evnen til å oppnå et spekter av mål og utføre ulike oppgaver hvis kontekster og omgivelser er forskjellige. Systemer som er ‘generelt intelligente’ må:

• Håndtere problemer og situasjoner som er vesentlig forskjellige fra det som kunne forutses
• Kunne generalisere kunnskapen som er tilegnet, og overføre den fra én problemsammenheng til andre.

Forskere er uenige om den nøyaktige definisjonen og om hvordan generell intelligens bør måles. Det finnes ikke én allment godtatt liste over nødvendige egenskaper.

AGI-forskning forsøker å realisere slike brede lærings- og problemløsningsevner i kunstige systemer.

Kjernen i AGI-hypotesen

Ben Goertzel formulerte en kjernehypotese i oversiktsartikkelen ”Artificial General Intelligence: Concept, State of the Art, and Future Prospects”, publisert i 2014 i Journal of Artificial General Intelligence. Han uttrykte den slik:

”Å skape og studere syntetisk intelligens med tilstrekkelig bredt omfang, for eksempel på menneskelig nivå, og sterk generaliseringsevne er grunnleggende kvalitativt forskjellig fra å skape og studere syntetisk intelligens med vesentlig smalere omfang og svakere generaliseringsevne.”

I dette synet ville AGI ha et bredt anvendelsesområde og sterk generaliseringsevne. Hypotesen er et forskningsstandpunkt, ikke en bevist naturlov.

Mer populærvitenskapelig uttrykt undersøker AGI-forskningen utvikling av brede kognitive evner, ofte sammenlignet med menneskers prestasjoner. Læring og kunnskapsoverføring er sentralt, men prestasjonskravet varierer mellom definisjonene.

Synet på muligheten for AGI og tidsrammen er delt. Noen forskere er skeptiske, mens andre utvikler stadig bredere evner. Det innebærer ikke vitenskapelig enighet om at menneskelignende generell intelligens prinsipielt er uoppnåelig.

AGI og begrepet sterk AI

I en forklaring fra IBM knyttes sterk AI til menneskelig intelligens og selvbevissthet. Dette er ikke det samme som alle AGI-definisjoner: operasjonelle definisjoner kan vektlegge bred ytelse og generalisering uten å kreve bevissthet. Spørsmålet om maskiner kan ha subjektive opplevelser er en egen diskusjon.

Et system kunne lære gjennom innspill og erfaringer, men AGI må ikke nødvendigvis begynne som et barn eller fungere som menneskehjernen. Forskningsmålene handler først og fremst om evner, ikke om én obligatorisk utviklingsvei.

En vanlig sammenligning gjelder oppgavenes bredde og evnen til å overføre kunnskap til nye situasjoner, fremfor bare én spesialisert prestasjon.

Smal AI er ikke nødvendigvis begrenset til én gjentakende oppgave og kan fungere autonomt innenfor et avgrenset område. Omvendt betyr ikke AGI automatisk at menneskelige instrukser eller tilsyn forsvinner. Evner, autonomi og bevissthet er ulike begreper; det ene beviser ikke det andre.

Goertzels oversikt skiller mellom fire brede forskningsretninger: symbolsk, emergentistisk, hybrid og universalistisk. Dette er oversiktens inndeling, ikke en uttømmende liste eller obligatorisk arkitektur for all AGI.

Den symbolske tilnærmingen: Aspekter ved verden og systemet representeres med symboler. Et fysisk symbolsystem kan motta, produsere, lagre og endre symboler og bruke dem til å velge handlinger. Dette er en teoretisk tilnærming, ikke bevis for at intelligens bare fungerer slik.

Noen symbolske kognitive arkitekturer kombinerer arbeidsminne med langtidsminne og sentral styring av persepsjon, tenkning og handling. Ikke alle symbolske tilnærminger trenger samme organisering.

Den emergentistiske tilnærmingen: Evner på høyere nivå oppstår gjennom samspill mellom subsymbolske deler på lavere nivå. Komplekse mønstre og funksjoner kan dermed vokse frem fra mange relativt enkle deler som samvirker, slik som i nevrale nettverk.

Hybridtilnærmingen: Den kombinerer symbolske og subsymbolske delsystemer for å utnytte styrkene og håndtere begrensningene deres. Helheten kan få andre evner enn delene hver for seg.

Kombinasjonen kan være et symbolsk delsystem med et stort subsymbolsk system eller en populasjon av små agenter, som hver for seg er både symbolske og subsymbolske i sin natur. 

Den universalistiske tilnærmingen: Den tar utgangspunkt i svært generelle matematiske intelligensmodeller og undersøker praktiske tilnærminger til dem. Enkelte idealmodeller er ikke beregnbare eller har urealistiske beregningskrav. Det handler derfor ikke bare om en ferdig algoritme som trenger mer maskinvare.

Flere organisasjoner utvikler AI-produkter og forsker på bredere intelligens. Praktiske produkter beviser ikke at AGI var oppnådd i 2023. OpenAI er en kjent organisasjon med dette forskningsmålet.

Ledende selskaper som jobber med AGI

1. OpenAI

OpenAI, kjent for ChatGPT, beskrev i et blogginnlegg 24. februar 2023 ambisjonen om at AGI skal gagne hele menneskeheten. Organisasjonen omtalte AI-systemer som generelt ville være smartere enn mennesker. Det var en beskrivelse av oppdraget, ikke en kunngjøring om oppnådd AGI.

OpenAI skrev at organisasjonen ville bli mer forsiktig med utvikling og utrulling etter hvert som systemene nærmet seg AGI. InstructGPT og ChatGPT ble nevnt som steg mot bedre styrbare systemer, ikke som allerede realisert AGI.

Hva er ChatGPT?

OpenAI lanserte ChatGPT 30. november 2022 som et samtalesystem basert på språkmodeller. Det besvarer spørsmål og hjelper med blant annet e-post, essays og programkode. Menneskelignende svar beviser ikke menneskelig forståelse eller pålitelighet; svarene kan inneholde feil.

Klikk her for listen over de fem beste ChatGPT-utvidelsene.

Hva er InstructGPT?

InstructGPT er navnet på modeller OpenAI trente til å følge instrukser bedre gjennom menneskelige demonstrasjoner og tilbakemeldinger. Det er en bestemt utvikling av språkmodeller, ikke et fellesnavn for avansert AI eller et selvstendig bevis for AGI.

OpenAI og ChatGPT i historiske tall

Den 12. oktober 2023 rapporterte The Information et inntektstempo hos OpenAI tilsvarende 1,3 milliarder amerikanske dollar på årsbasis, over 100 millioner i måneden og rundt 30 prosent høyere enn om sommeren. Separat oppga OpenAI i november 2023 rundt 100 millioner ukentlig aktive ChatGPT-brukere. Et omregnet årstempo er ikke det samme som faktiske inntekter gjennom et helt regnskapsår.

OpenAIs styrekrise i november 2023

Det daværende styret avsatte administrerende direktør Sam Altman 17. november 2023. Styret oppga at han ikke alltid hadde vært åpen i kommunikasjonen; dette var den oppgitte begrunnelsen, ikke en uavhengig fastslått konklusjon. En prinsippavtale om tilbakekomsten ble annonsert 21. november amerikansk tid, 22. november etter UTC. Den 29. november bekreftet OpenAI tilbakekomsten og et nytt midlertidig styre.

Et stort flertall av de ansatte truet ifølge datidens omtale med å slutte dersom Altman ikke kom tilbake; det betyr ikke at alle nødvendigvis hadde undertegnet brevet. Medgrunnleggeren og daværende sjefforskeren Ilya Sutskever uttrykte på X sin anger: ”Jeg angrer dypt på min deltakelse i styrets handlinger. Jeg hadde aldri til hensikt å skade OpenAI. Jeg elsker alt vi har bygget sammen, og vil gjøre alt jeg kan for å samle selskapet igjen.”

Altmans tilbakekomst avsluttet den akutte ledelseskrisen, men løste ikke automatisk alle spørsmål om styring og tilsyn. Det nye styret kunngjorde også en uavhengig gjennomgang og forbedringer i selskapsstyringen.

Selv om OpenAI fikk mye oppmerksomhet innen AGI, hadde andre organisasjoner også arbeidet på feltet i mange år. DeepMind ble grunnlagt i 2010.

2. DeepMind

DeepMind ble grunnlagt i 2010 og kjøpt av Google i 2014. I april 2023 ble virksomheten slått sammen med Google Brain til Google DeepMind. Organisasjonen forsker på bredere problemløsningssystemer for å fremme vitenskap og samfunnsnyttige anvendelser.

Driftsprinsippet til DeepMind har alltid vært å fremme vitenskap for å gagne menneskeheten. Som sådan ønsker de å utnytte kunstig intelligens for å betjene samfunnets behov og forventninger. 

I Moorfields’ forskning kunne en modell gi henvisningsanbefalinger på spesialistnivå ut fra de undersøkte øyeskanningene. Dette beviste ikke selvstendig diagnostisering av alle øyesykdommer eller erstatning av leger. Et autonomt kontrollsystem rapporterte i 2018 om rundt 30 prosent energibesparelse ved kjøling av datasentre, ikke i hele datasenterets forbruk. AlphaFold forutsa tredimensjonale proteinstrukturer og støttet biologisk forskning og legemiddelforskning uten å løse alle problemer knyttet til proteinfunksjon eller legemidler.

Den opprinnelige artikkelen viste til finansieringsopplysninger i en database om en rapportert runde på 50 millioner amerikanske dollar 1. februar 2011 med Founders Fund og Horizons Ventures. En begrenset databaseoppføring viser ikke at dette var eneste finansiering før oppkjøpet; dette var ikke en fullstendig, kontrollert finansieringshistorikk.

3. Adept

Adept kunngjorde i mars 2023 en B-runde på 350 millioner amerikanske dollar ledet av General Catalyst og Spark Capital. Selskapet var da rundt ett år gammelt og utviklet AI som kunne bruke programvare. Artikkelen omtalte omtrent 25 ansatte og en tidlig demonstrasjon av en digital assistent.

Adept studerte hvordan mennesker bruker programvare, for å omsette tekstinstrukser til datamaskinhandlinger. Artikkelen oppga en verdsettelse etter finansieringen på rundt én milliard amerikanske dollar. Den rapporterte verdien fra den gang er ikke en nåværende verdsettelse eller bevis for oppnådd AGI.

Medgrunnlegger David Luan sammenlignet ambisjonen med en synthesizer: musikeren kan bruke lydene fra forskjellige instrumenter uten å lære å spille hvert enkelt. Adept ville gjøre programvare lettere tilgjengelig på lignende vis gjennom ett AI-system.

AGI: Veien fremover

Folk har ulike syn på AGIs potensial. Noen tror at AGI kan ha farlige konsekvenser for menneskeheten, mens andre tror at AGI ikke vil kunne oppnå det vi tror den kan. 

Diego Klabjan, professor ved Northwestern University og grunnlegger av universitetets masterprogram i analyse, ga uttrykk for den skeptiske oppfatningen som ble sitert i den opprinnelige artikkelen:

“Menneskelige hjerner har milliarder av nevroner som er koblet sammen på en svært fascinerende og kompleks måte, og den nåværende toppteknologien er bare enkle forbindelser som følger veldig enkle mønstre. Så å gå fra noen få millioner nevroner til milliarder av nevroner med dagens maskinvare- og programvareteknologier – ser jeg ikke at det vil skje.”

En undersøkelse fra 2016 av forskere tilknyttet Oxford, Yale og AI Impacts fikk svar fra 352 maskinlæringsforskere. Resultatene ble publisert som forhåndspublikasjon i 2017. Dette var sammenveide subjektive sannsynlighetsvurderinger, ikke sikre frister eller et ”medianantall respondenter”. Eksempler på datidens prognoser var:

• Rundt 2026: skrive skoleoppgaver på nivået definert i undersøkelsen.
• Rundt 2027: kjøre lastebil på det angitte nivået; dette betyr ikke at alle sjåfører blir overflødige.
• Rundt 2031: utføre de beskrevne detaljhandelsoppgavene, ikke nødvendigvis erstatte hele sektoren.
• Rundt 2049: skrive en bestselger; Stephen King var en billedlig sammenligning, ikke en spådom om én forfatter.
• Full automatiserbarhet for alle yrker: omtrent 122 år etter 2016, altså rundt 2138, ved en sammenveid sannsynlighet på 50 prosent. Dette betyr ikke at alle arbeidsplasser faktisk forsvinner da.

Det er altfor tidlig å forutsi hvor AI til slutt vil ta oss. Men, som all teknologi, kan den brukes til godt eller ondt. 

I blogginnlegget fra februar 2023 tok Sam Altman til orde for grundig gjennomgang av AGI-utvikling og offentlig høring om store beslutninger. Om mulige risikoer skrev han:

”Verden kunne bli svært annerledes enn i dag, og risikoene kunne være ekstraordinære. En superintelligent AGI som ikke er tilpasset menneskelige mål, kunne skade verden alvorlig; det kunne også et autoritært regime med et avgjørende forsprang innen superintelligens gjøre.”

Organisasjoner som DeepMind undersøker om bredere AI kan støtte vitenskapelige gjennombrudd. Det gjør dem ennå ikke til leverandører av bevist AGI. Fremtidige virkninger på forskning, ingeniørarbeid og sikkerhet er usikre og avhenger blant annet av evner, bruk og menneskers valg om styring og tilsyn.

Klikk her for å lære alt om investering i kunstig intelligens.