Artificiell generell intelligens: En berättelse om att bygga förmågor med försiktighet

Vi lever i den artificiella intelligensens tidsålder. I den ursprungliga artikeln från 2023 uppskattades den globala AI-marknaden till 240 miljarder amerikanska dollar, med en prognos på över 730 miljarder dollar 2030 och mer än 17 procents årlig tillväxt. Det var dåtida marknadsbedömningar, inte säkra framtida intäkter.

Bland all uppståndelse kring AI är ett paradigm som har fångat allas uppmärksamhet AGI, artificiell generell intelligens. 

Vad innebär AGI och varför väcker det så stort intresse? Här behandlas begreppen, forskningsinriktningarna och förväntningarna ur ett 2023-perspektiv.

Men innan vi hoppar rakt in i artificiell generell intelligens, låt oss försöka fastställa vad generell intelligens innebär.

Avgränsning av generell intelligens

Generell intelligens innebär förmågan att uppnå en rad mål och utföra olika uppgifter vars kontexter och miljöer är olika. System som är ‘generellt intelligenta’ måste:

• Hantera problem och situationer som är väsentligt annorlunda än vad som kunde förutses
• Kunna generalisera förvärvad kunskap så att den kan överföras från ett problemsammanhang till ett annat.

Forskare är oense om en exakt definition och om hur generell intelligens bäst ska mätas. Det finns ingen allmänt accepterad lista över nödvändiga egenskaper.

AGI-forskning försöker förverkliga sådana breda inlärnings- och problemlösningsförmågor i artificiella system.

Kärnhypotesen för AGI

Ben Goertzel formulerade en kärnhypotes i sin översiktsartikel ”Artificial General Intelligence: Concept, State of the Art, and Future Prospects”, publicerad 2014 i Journal of Artificial General Intelligence. Han uttryckte hypotesen så här:

“Skapandet och studiet av syntetisk intelligens med tillräckligt bred (t.ex. mänsklig) omfattning och stark generaliseringsförmåga är i grunden kvalitativt annorlunda än skapandet och studiet av syntetisk intelligens med betydligt snävare omfattning och svagare generaliseringsförmåga.”

Enligt detta synsätt skulle AGI ha ett brett tillämpningsområde och stark generaliseringsförmåga. Hypotesen är ett forskningsperspektiv, inte en bevisad naturlag.

Mer lättillgängligt uttryckt undersöker AGI-forskningen hur system kan utveckla breda kognitiva förmågor, ofta jämförda med människans. Inlärning och kunskapsöverföring är centrala, men den exakta prestationsnivån varierar mellan definitioner.

Uppfattningarna om möjligheten att uppnå AGI och om tidsplanen skiljer sig åt. Vissa forskare är skeptiska, medan andra arbetar med allt bredare förmågor. Det innebär inte att det råder vetenskaplig enighet om att mänsklig generell intelligens är principiellt ouppnåelig.

AGI och begreppet stark AI

I en förklaring från IBM kopplas stark AI till mänsklig intelligens och självmedvetande. Det är inte samma sak som alla definitioner av AGI: operationella definitioner kan utgå från bred prestation och generalisering utan att kräva medvetande. Frågan om maskiner kan ha subjektiva upplevelser är en separat diskussion.

Ett system skulle kunna lära genom indata och erfarenheter, men AGI behöver inte nödvändigtvis börja som ett barn eller fungera som människohjärnan. Forskningsmålen handlar främst om förmågor, inte om en obligatorisk utvecklingsväg.

En vanlig jämförelse gäller bredden av uppgifter och förmågan att överföra kunskap till nya situationer, snarare än enbart en specialiserad prestation.

Smal AI behöver inte vara begränsad till en enda repetitiv uppgift och kan fungera autonomt inom ett avgränsat område. Omvänt innebär AGI inte automatiskt att mänskliga instruktioner eller tillsyn försvinner. Förmåga, autonomi och medvetande är olika begrepp; det ena bevisar inte det andra.

Goertzels översikt skiljer mellan fyra breda forskningsinriktningar: symbolisk, emergentistisk, hybrid och universalistisk. Det är en indelning i den översikten, inte en uttömmande eller allmänt obligatorisk AGI-arkitektur.

Den symboliska ansatsen: Här representeras aspekter av världen och systemet med symboler. Ett fysiskt symbolsystem kan ta emot, producera, lagra och ändra symboler samt använda dem för att välja handlingar. Detta är en teoretisk ansats, inte ett bevis för att intelligens endast kan fungera så.

Vissa symboliska kognitiva arkitekturer kombinerar arbetsminne med långtidsminne och central styrning av perception, tänkande och handling. Alla symboliska ansatser behöver inte ha exakt samma organisation.

Den emergentistiska ansatsen: Förmågor på högre nivå uppstår genom samspel mellan subsymboliska delar på lägre nivå. Komplexa mönster och funktioner kan därmed växa fram ur många relativt enkla samverkande delar, exempelvis i neurala nätverk.

Hybridansatsen: Den kombinerar symboliska och subsymboliska delsystem för att utnyttja deras styrkor och hantera deras begränsningar. Helheten kan därmed få andra förmågor än delarna var för sig.

Kombinationen kan vara ett symboliskt delsystem med ett stort subsymboliskt system eller en population av små agenter, där varje är både symbolisk och subsymbolisk till sin natur. 

Den universalistiska ansatsen: Den utgår från mycket generella matematiska modeller av intelligens och undersöker praktiska approximationer. Vissa idealmodeller är inte beräkningsbara eller har orimliga beräkningskrav. Det handlar alltså inte bara om en färdig algoritm som behöver mer hårdvara.

Flera organisationer utvecklar AI-produkter och forskar om bredare intelligens. Att de bygger praktiska produkter innebär inte att produkterna var bevisad AGI 2023. OpenAI är en välkänd organisation med detta forskningsmål.

Ledande företag som arbetar med AGI

1. OpenAI

OpenAI, känt för ChatGPT, beskrev i ett blogginlägg den 24 februari 2023 ambitionen att AGI ska gynna hela mänskligheten. Organisationen talade om AI-system som generellt skulle vara smartare än människor. Detta var en uppdragsbeskrivning, inte ett besked om att AGI redan hade uppnåtts.

OpenAI skrev att organisationen skulle bli försiktigare med utveckling och införande när systemen närmade sig AGI. InstructGPT och ChatGPT nämndes som steg mot bättre styrbara system, inte som redan förverkligad AGI.

Vad är ChatGPT?

OpenAI lanserade ChatGPT den 30 november 2022 som ett samtalssystem baserat på språkmodeller. Det kan besvara frågor och hjälpa till med exempelvis e-post, uppsatser och programkod. Människoliknande svar bevisar inte mänsklig förståelse eller tillförlitlighet; svaren kan innehålla fel.

Klicka här för listan över de fem bästa ChatGPT-tilläggen.

Vad är InstructGPT?

InstructGPT är namnet på modeller som OpenAI tränade för att följa instruktioner bättre genom mänskliga demonstrationer och återkoppling. Det är en specifik utveckling av språkmodeller, inte ett samlingsnamn för avancerad AI eller ett bevis för AGI.

OpenAI och ChatGPT i historiska siffror

Den 12 oktober 2023 rapporterade The Information att OpenAI hade ett intäktstempo motsvarande 1,3 miljarder amerikanska dollar på årsbasis, över 100 miljoner per månad och cirka 30 procent högre än under sommaren. Separat uppgav OpenAI i november 2023 omkring 100 miljoner aktiva ChatGPT-användare per vecka. Ett uppräknat årstempo är inte detsamma som faktiskt redovisade intäkter under ett helt räkenskapsår.

OpenAI:s styrelsekris i november 2023

Den dåvarande styrelsen avsatte vd Sam Altman den 17 november 2023. Styrelsen uppgav att han inte alltid hade varit öppen i sin kommunikation; det var den då angivna grunden, inte en oberoende fastställd slutsats. En principöverenskommelse om hans återkomst meddelades den 21 november amerikansk tid, den 22 november enligt UTC. Den 29 november bekräftade OpenAI hans återkomst med en ny tillfällig styrelse.

En stor majoritet av de anställda hotade enligt dåtida rapportering att lämna om Altman inte återkom; det innebar inte nödvändigtvis att alla hade undertecknat brevet. Medgrundaren och dåvarande chefsforskaren Ilya Sutskever uttryckte på X sin ånger: ”Jag ångrar djupt mitt deltagande i styrelsens handlingar. Jag avsåg aldrig att skada OpenAI. Jag älskar allt vi har byggt tillsammans och kommer att göra allt jag kan för att återförena företaget.”

Altmans återkomst avslutade den akuta ledningskrisen, men löste inte automatiskt alla frågor om styrning och tillsyn. Den nya styrelsen meddelade också att en oberoende granskning skulle genomföras och styrningen förbättras.

Medan OpenAI har varit den mest framträdande i att få uppmärksamhet och blickar i AGI-området, har andra aktörer funnits under en betydande tid. DeepMind är en sådan aktör som har varit i arbete sedan 2010.

2. DeepMind

DeepMind grundades 2010 och köptes av Google 2014. I april 2023 slogs verksamheten samman med Google Brain till Google DeepMind. Organisationen forskar om bredare problemlösningssystem och vill använda AI för att främja vetenskap och samhälleliga tillämpningar.

DeepMinds operativa princip har alltid varit att främja vetenskap för att gynna mänskligheten. På så sätt vill de utnyttja artificiell intelligens för att tillgodose samhälleliga behov och förväntningar. 

I Moorfields forskning kunde en modell ge specialistlikvärdiga rekommendationer om vidare vård utifrån de undersökta ögonskanningarna. Det bevisade inte att alla ögonsjukdomar kunde diagnostiseras autonomt eller att läkare ersattes. Ett autonomt styrsystem rapporterade 2018 omkring 30 procents energibesparing för datacenterkylning, inte för hela datacentrets elförbrukning. AlphaFold förutsade tredimensionella proteinstrukturer och stödde biologisk forskning och läkemedelsforskning, utan att lösa alla problem kring proteinfunktion eller läkemedel.

Den ursprungliga artikeln hänvisade till finansieringsuppgifter i en databas om en rapporterad runda på 50 miljoner amerikanska dollar den 1 februari 2011 med Founders Fund och Horizons Ventures. En begränsad databaspost visar inte att detta var den enda finansieringen före förvärvet; uppgifterna var inte en fullständig granskad finansieringshistorik.

3. Adept

Adept meddelade i mars 2023 en B-runda på 350 miljoner amerikanska dollar ledd av General Catalyst och Spark Capital. Det då ungefär ett år gamla företaget utvecklade AI som kan använda programvara. Artikeln beskrev cirka 25 anställda och en tidig demonstration av en digital assistent.

Adept studerade hur människor använder programvara för att omvandla textinstruktioner till datorhandlingar. Artikeln angav en värdering efter finansieringen på omkring en miljard amerikanska dollar. Den då rapporterade värderingen är inte en aktuell värdering eller bevis för att AGI hade uppnåtts.

Medgrundaren David Luan jämförde ambitionen med en synthesizer: musikern kan använda olika instruments ljud utan att lära sig spela vart och ett. Adept ville på liknande sätt göra programvara mer tillgänglig genom ett enda AI-system.

AGI: Vägen framåt

Människor har olika åsikter om AGI:s potential. Vissa tror att AGI kan ha farliga konsekvenser för mänskligheten, medan andra tror att AGI inte kommer att kunna uppnå det vi tror att den kan. 

Diego Klabjan, professor vid Northwestern University och grundare av dess masterprogram i analys, uttryckte den skeptiska uppfattning som citerades i den ursprungliga artikeln:

“Mänskliga hjärnor har miljarder neuroner som är kopplade på ett mycket fascinerande och komplext sätt, och den nuvarande state-of-the-art [teknologin] är bara enkla anslutningar som följer mycket enkla mönster. Så att gå från några miljoner neuroner till miljarder neuroner med dagens hårdvara och mjukvara – jag ser inte att det händer.”

En enkät från 2016 av forskare knutna till Oxford, Yale och AI Impacts fick svar från 352 maskininlärningsforskare. Resultaten publicerades som förhandspublicering 2017. Det var sammanvägda subjektiva sannolikhetsbedömningar, inte garanterade tidsgränser eller ett ”medianantal svarande”. Exempel på dåtida prognoser var:

• Omkring 2026: skriva skoluppsatser på den nivå som definierades i enkäten.
• Omkring 2027: köra lastbil på den angivna nivån; det innebär inte att alla förare blir överflödiga.
• Omkring 2031: utföra de beskrivna uppgifterna inom detaljhandeln, inte nödvändigtvis ersätta hela branschen.
• Omkring 2049: skriva en bästsäljare; Stephen King var en bildlig jämförelse, inte en prognos om en viss författare.
• Fullständig automatiserbarhet för alla yrken: cirka 122 år efter 2016, alltså omkring 2138, vid en sammanvägd sannolikhetsbedömning på 50 procent. Det innebär inte att alla arbetstillfällen faktiskt försvinner då.

Det är alldeles för tidigt att förutsäga var AI så småningom kommer att ta oss. Men, likt alla teknologier, kan den användas för gott eller ont. 

I sitt blogginlägg i februari 2023 förespråkade Sam Altman noggrann granskning av AGI-utveckling och offentligt samråd inför stora beslut. Om möjliga risker skrev han:

”Världen skulle kunna bli mycket annorlunda än i dag, och riskerna skulle kunna vara extraordinära. En superintelligent AGI som inte är väl anpassad till mänskliga mål skulle kunna skada världen allvarligt; det skulle också en auktoritär regim med ett avgörande försprång inom superintelligens kunna göra.”

Organisationer som DeepMind undersöker om bredare AI kan stödja vetenskapliga genombrott. Det gör dem ännu inte till leverantörer av bevisad AGI. Framtida effekter på forskning, teknik och säkerhet är osäkra och beror bland annat på förmågorna, användningen och människors beslut om tillsyn och styrning.

Klicka här för att lära dig allt om att investera i artificiell intelligens.