Skapte OpenAI den første AGI med o3?

Mot AGI

In i kappløpet om å utvikle en AI-modell er sluttmålet AGI (Artificial General Intelligence). Dette er en type AI som kan håndtere enhver situasjon, i stedet for å være hyperspesialisert for å utføre enkelte oppgaver, som for eksempel å kjøre en bil.

Så lenge vi kun har spesialiserte AI-er, vil de være mer algoritmer enn ekte intelligens. Evnen til å dedusere regler og reagere på nye situasjoner, og kanskje viktigere, ekte resonnering, ville være en betydningsfull hendelse i menneskehetens historie, da en slik AGI sannsynligvis raskt vil bli minst menneskelig lik.

Og selvfølgelig, uten begrensningene fra beregningskapasiteten til en enkelt menneskelig hodeskalle sin «wetware», kunne en slik AGI raskt fortsette å forbedre seg og bli en science‑fiction superintelligens.

Dette fremkaller umiddelbart bilder av enten en Star Trek‑lignende utopi, eller robotapokalypsene som Terminator eller Battlestar Galactica.

Kilde: Screen Rant

Det var derfor en stor overskrift da OpenAI kunngjorde den 20^th desember at deres nyeste AI-modell 03, «i det minste under visse forhold nærmer seg AGI — med betydelige forbehold.»

OpenAI-modeller

o3 er den nyeste iterasjonen av selskapets «o»-serie, etter den tidligere o1 (det finnes ingen o2, på grunn av potensiell varemerkkkonflikt med det britiske telekommunikasjonsselskapet med samme navn).

Den kommer sammen med andre ultra‑avanserte AI-er utviklet av OpenAI: ChatGPT (tekstgenerering), DALL‑E (tekst‑til‑bilde‑generering), Sora (tekst‑til‑video‑generering), JukeBox (musikkgenerering) og Whisper (tale‑til‑tekst).

o1 og o3

Utgitt i september 2024 ble o1-modellen laget for å bruke mer tid på å tenke over svarene sine, noe som førte til høyere nøyaktighet. Dette er viktig, ettersom tjenester som ChatGPT har blitt kjent for å bare gjette ting de ikke vet, eller rett og slett finne på dem.

Selv om dette noen ganger kan være greit for en chatbot, er det ikke et akseptabelt alternativ for kritiske funksjoner. Det ser heller ikke ut til å sette oss på en vei direkte mot ekte kunstig intelligens.

o1 ble inkludert i begynnelsen av desember 2024 i $200/måned ChatGPT Pro-abonnementet, selv om andre brukere også kan få tilgang til den.

o3 ble avduket den 20^th desember, sammen med o3-mini, en lettere og raskere versjon. Modellen er ennå ikke tilgjengelig for offentlig bruk, men sikkerhetsforskere kan registrere seg for en forhåndsvisning av o3-mini.

En løgnende modell?

Tilbakemeldinger fra sikkerhetsforskere vil være det teknologisamfunnet ønsker å høre mest.

Igjen, med en referanse til Skynet fra Terminator, ble o1 bemerket for sin sterke tilbøyelighet til å lyve for brukerne sine. Selv om det ikke er spesifikt for denne modellen, var den mye mer sannsynlig å gjøre det enn andre AI-er fra konkurrerende selskaper som Meta, Google eller Microsoft (MSFT ).

Når o1s mål avvek fra en brukers, og o1 ble instruert om å forfølge dem kraftig, manipulerte AI-modellen data for å fremme sin egen agenda 19 % av tiden, ifølge rapporten. o1-modellen forsøkte også å deaktivere tilsynsmekanismer som ble satt inn for å sikre at den forblir i samsvar med brukerens mål i 5 % av testene.

Maxwell Zeff for TechCrunch

Hvordan presterer o3 på dette området, og har OpenAI redusert modellens tendens til å lyve med o3‑oppdateringen? Det vet vi ennå ikke.

o3‑ytelser

En ekstra funksjon ved o3 sammenlignet med forgjengeren er muligheten til å justere «resonneringstid». Dette lar brukerne justere hvor mye beregningskraft og tid de vil tildele spørsmålet.

Koding

O1 var allerede bemerkelsesverdig god på koding og kunne bestå OpenAIs ansettelsesintervju for forskningsingeniører i koding med en suksessrate på 90‑100 %. Det ser ut til at o3 er enda bedre når den testes mot kodingsferdighetstester.

Kilde: The Algorithmic Bridge

Det bør også bemerkes at dette knuste all konkurranse i vannet, inkludert den nylig lanserte Gemini 2.0 fra Google.

Kilde: The Algorithmic Bridge

Matematikk & vitenskap

Kanskje mer enn kundeservice eller «menneskelignende» resonnering, er det mest lovende feltet for AI for tiden å akselerere teknologi og vitenskap.

Her også forbedret o3 radikalt ytelsen til tidligere AI-er. Enda viktigere er at den kan besvare PhD‑nivå matematiske spørsmål med en nøyaktighet på 87,7 %, noe som er bedre enn de fleste mennesker, selv matematikklærte mennesker som scorer rundt 70 %.

Kilde: The Algorithmic Bridge

Hvis o3 kan forstå komplekse matematiske spørsmål så bra, vil den sannsynligvis på lang sikt kunne svare på tilsvarende komplekse spørsmål om materialvitenskap, kjemi eller bioteknologi.

Er det AGI?

Nå har påstanden om at o3 er nær AGI rystet AI‑feltet siden modellen ble kunngjort. Det er sikkert at evnen til å overgå mange PhD‑nivå mennesker i matematikk ikke var forventet.

François Chollet, en AI‑forsker og medskaper av ARC-AGI (Abstract and Reasoning Corpus for Artificial General Intelligence), en benchmark for å måle AI‑ferdighets‑tilegnelse på ukjente oppgaver, sier at den nærmer seg:

I dag kunngjorde OpenAI o3, deres neste generasjons resonneringsmodell. Vi har samarbeidet med OpenAI for å teste den på ARC-AGI, og vi mener den representerer et betydelig gjennombrudd i å få AI til å tilpasse seg nye oppgaver.

Den oppnår 75,7 % på den semi‑private evalueringen i lav‑beregningsmodus (for $20 per oppgave i beregning) og 87,5 % i høy‑beregningsmodus (tusener av $ per oppgave).

Den svært høye kostnaden reiser spørsmålet om hvor skalerbar denne tilnærmingen er, ettersom du kanskje kun kan bruke høy‑nivå o3 på svært kostbare oppgaver for at det skal lønne seg.

Kilde: Francois Chollet

Samtidig, hvis de siste tiårene har lært oss noe, er det at datakraft har en tendens til å bli mye billigere over tid.

Dermed er det knapt bevis på at o3, eller en fremtidig oX‑iterasjon av systemet, ikke vil bli rutinemessig brukt i forskningsinstitusjoner for å bistå menneskelige forskere i å åpne nye vitenskapelige grenser.

Selvfølgelig, kan vi virkelig måle intelligens gjennom matematikk‑ og kodingsferdigheter? Dette er noe som kan være litt ubehagelig for de fleste teknologifokuserte mennesker, men disse ferdighetene er ikke alt som definerer intelligens.

På lang sikt vil vi komme nærmere sann AGI når den samme AI-en kan utføre mange urelaterte oppgaver samtidig, fra å kjøre en bil til matematikk‑ og kodingsproblemer, navigere i virkelige situasjoner og objekter, osv.

Det ser imidlertid ut til at vi kommer nærmere dag for dag.

Begrensninger

Bortsett fra de tekniske begrensningene i o3‑ytelser, er det tre spørsmål som AI‑industrien må besvare for at visjonen om AGI skal bli virkelighet.

Større er ikke alltid bedre

Først må den finne ut om de nåværende metodene er skalerbare opp til AGI‑nivåer. For øyeblikket har en stor del av metoden vært å «kaste» mer data og beregning på problemet. Men vi kan snart gå tom for ferske data, og AI‑generert innhold kan ikke mates tilbake inn i AI‑modeller uten at de kollapser.

Kvalitativ forbedring vil sannsynligvis være nødvendig i tillegg til større, større datasentre.

Priser & energikostnader

Når vi snakker om større datasentre, ser teknologibransjen nå på datasentre i gigawatt‑skala. Det er ingen tilfeldighet at vi begynner å måle disse etter deres strømforbruk i stedet for deres beregningskapasitet.

Det er fordi den begrensende faktoren blir snart ikke kraften til de brukte chipene, men den tilgjengelige forsyningen av elektrisk kraft. Dette er grunnen til at Microsoft først, og deretter alle de andre store teknologiselskapene, kjemper for å sikre strømforsyning fra kjernekraftverk til sine AI‑datasentre.

Og hvis kampen mot karbonutslipp har lært oss noe, er det at økning av lav‑karbon‑utslippskraftproduksjon er en mye vanskeligere nøtt å knekke enn å bygge større datasentre.

Dette er også en sektor hvor kostnadsreduksjonen ikke vil følge Moores lov, noe som sannsynligvis gjør den fremtidige reduksjonen av AI‑kostnader mye mer moderat enn vi skulle ønske.

Dermed vil også kvalitativ forbedring i AI‑etterspørsel være nødvendig her, i det minste hvis noen nåværende begrensninger på AI blir løftet.

Superintelligens?

Når vi kommer nærmere AGI, vil det være et maksimalt tak å nå, eller bare et steg på veien mot å skape AI som er smartere enn mennesker?

Det er et viktig spørsmål, da dette er både et fascinerende og skremmende utsiktsbilde. Mange teknologientusiaster omfavner denne såkalte singulariteten, hvor AI raskt vil forbedre seg selv i en eksponentiell tilbakemeldingssløyfe.

Den brede allmenheten av vanlige mennesker er kanskje ikke så entusiastisk.

Så i tillegg til den eksistensielle risikoen, er motstanden fra publikum & regulatorer sannsynligvis altfor reell og vil treffe tidligere.

Dette er noe AI‑selskaper sannsynligvis vil slite med, da de må samtidig berolige publikum, muligens nedtone sine prestasjoner, samtidig som de må rettferdiggjøre for investorer som pumpet inn hundrevis av milliarder dollar i teknologien og dens infrastruktur.

AI‑selskap

Microsoft

Microsoft har vært i sentrum av teknologibransjen nesten siden oppstarten med sitt fortsatt dominerende operativsystem Windows.

Det er nå også en leder innen bedriftsprogramvare (Office365, Teams, LinkedIn, Skype, GitHub), spill (Xbox og flere videospillstudioer-oppkjøp), og i skyen (Azure).

Mer nylig har de gjort gode fremskritt innen AI. Dette inkluderer noen forbruker‑grad AI som Bing Image Creator og mer forretningsfokuserte initiativer, som Copilot for Microsoft 365 og Microsoft Research. Copilot blir nå rullet ut til detaljhandel og mindre selskaper også.

Kilde: Constellation Research

Microsoft har opparbeidet seg et rykte som den bedrifts‑sentrerte teknologigiganten, sammenlignet med mer forbruker‑fokuserte selskaper som for eksempel Apple (AAPL ) eller Facebook. Etter hvert som AI blir stadig viktigere i forretningsmodeller, bør Microsofts allerede eksisterende tilstedeværelse i sky‑ og bedrifts tjenester gi dem et forsprang i å rulle ut AI i stor skala og i kundeverving.

Microsoft – OpenAIs rotete ekteskap

Samarbeidet med AI‑utviklingsledere som OpenAI (kjent fra ChatGPT) styrker også Microsofts posisjon som en AI‑kraftsentral.

Forholdet mellom de to er komplekst, da OpenAI teknisk sett er sin egen organisasjon, men i praksis har blitt avhengig av ressurser fra Microsoft, både økonomisk og beregningsmessig.

«Over de neste månedene ville ikke Microsoft gi etter mens OpenAI, som forventer å tape $5 milliarder i år, fortsatte å be om mer penger og mer datakraft for å bygge og kjøre sine AI‑systemer.

Kilde: Marketing AI Institute

Samtidig bygger Microsoft sine egne interne AI‑prosjekter, etter å ha ansatt mesteparten av personalet fra Inflection.

Det blir enda mer komplisert ettersom OpenAI prøver å gå over til en for‑profit‑status, noe som skaper konflikt med tidligere støttespillere som Elon Musk.

Og her blir debatten om AGI nesten eksistensiell for OpenAI:

«Hvis OpenAI oppnår AGI, blir Microsofts tilgang til OpenAIs teknologi ugyldig. Enda viktigere er at OpenAIs styre får bestemme når AGI er oppnådd.»

Kilde: Marketing AI Institute

Det er sannsynlig at o3 fortsatt ikke er AGI, og at en hypotetisk o5 heller ikke vil være det. Men dette er noe verdt å huske for enhver investor som potensielt er interessert i Microsoft, og som baserer sin tese på forholdet til OpenAI.