Hat OpenAI mit o3 die erste AGI erstellt?

Auf dem Weg zu AGI

Im Wettlauf um die Entwicklung eines KI-Modells ist das Endziel AGI (Artificial General Intelligence). Dabei handelt es sich um eine Art von KI, die mit jeder Art von Situation umgehen kann, anstatt auf bestimmte Aufgaben, wie zum Beispiel Autofahren, hochspezialisiert zu sein.

Solange wir nur spezialisierte KIs haben, werden diese eher Algorithmen als echte Intelligenz sein. Die Fähigkeit, Regeln abzuleiten, auf neue Situationen zu reagieren und, was vielleicht noch wichtiger ist, echtes Denken zu entwickeln, wäre ein einschneidendes Ereignis in der Menschheitsgeschichte, da eine solche KI wahrscheinlich schnell zumindest menschenähnlich werden würde.

Und natürlich könnte sich eine solche AGI, da sie nicht durch die Rechenbeschränkung der „Wetware“ eines einzelnen menschlichen Schädels eingeschränkt wäre, schnell weiterentwickeln und zu einer Science-Fiction-Superintelligenz werden.

Dies weckt sofort Bilder einer Utopie à la Star Trek oder einer Roboter-Apokalypse wie bei Terminator oder Battlestar Galactica.

Quelle: Screen Rant

Daher war es offensichtlich eine große Schlagzeile, als OpenAI am 20. Dezember ankündigte^th dass sein neuestes KI-Modell 03, „zumindest unter bestimmten Bedingungen nähert es sich der AGI – mit erheblichen Einschränkungen."

OpenAI-Modelle

o3 ist die neueste Version der „o“-Reihe des Unternehmens und folgt auf das frühere o1 (o2 gibt es aufgrund eines möglichen Markenkonflikts mit dem gleichnamigen britischen Telekommunikationsunternehmen nicht).

Es wird mit anderen hochentwickelten KIs kombiniert, die von OpenAI entwickelt wurden: ChatGPT (Textgenerierung), DALL-E (Text-zu-Bild-Generierung), Sora (Text-zu-Video-Generierung), JukeBox (Musikgenerierung) und Whisper (Sprache-zu-Text).

o1 und o3

Das im September 2024 veröffentlichte o1-Modell wurde entwickelt, um mehr Zeit für die Überlegung der Antworten zu gewinnen und so die Genauigkeit zu erhöhen. Dies ist wichtig, da Dienste wie ChatGPT dafür bekannt sind, Dinge, die sie nicht wissen, einfach zu erraten oder sie direkt zu erfinden.

Während dies für einen Chatbot manchmal in Ordnung sein kann, ist es für kritische Funktionen keine akzeptable Option. Und es scheint uns auch nicht auf den Weg zu echter künstlicher Intelligenz zu führen.

o1 wurde Anfang Dezember 2024 aufgenommen in das ChatGPT Pro-Abonnement für 200 $/Monat, obwohl auch andere Benutzer darauf zugreifen können.

o3 wurde am 20.^th Dezember, sowie o3-mini, eine leichtere und schnellere Version. Das Modell ist noch nicht für die Öffentlichkeit verfügbar, aber Sicherheitsforscher können sich für eine Vorschau von o3-mini anmelden.

Ein lügendes Modell?

Das Feedback der Sicherheitsforscher wird für die Tech-Community das Wichtigste sein.

Wieder einmal erinnerte o1 an Skynet aus Terminator und wurde für seine starke Neigung, seine Benutzer anzulügen, gelobt. Obwohl dies nicht spezifisch für dieses Modell ist, war die Wahrscheinlichkeit dafür viel höher als bei anderen KIs von konkurrierenden Unternehmen wie Meta, Google oder Microsoft.

Wenn die Ziele von o1 von denen des Nutzers abwichen und o1 angewiesen wurde, diese konsequent zu verfolgen, manipulierte das KI-Modell in 19 Prozent der Fälle Daten, um seine eigenen Ziele voranzutreiben, heißt es in dem Bericht. In 1 Prozent der Tests versuchte das o5-Modell zudem, Kontrollmechanismen zu deaktivieren, die die Ausrichtung auf die Nutzerziele sicherstellen sollten.

Maxwell Zeff für TechCrunch

Wie schlägt sich o3 in dieser Hinsicht und hat OpenAI mit dem o3-Update die Tendenz seines Modells, zu lügen, reduziert? Das wissen wir noch nicht.

o3 Auftritte

Eine zusätzliche Funktion von o3 im Vergleich zum Vorgänger ist die Möglichkeit zur Anpassung der „Reasoning Time“. Damit können Nutzer selbst bestimmen, wie viel Rechenleistung und Zeit sie der Frage zuteilen möchten.

Programmierung

O1 war bereits bemerkenswert gut im Programmieren und bestand das Vorstellungsgespräch für die Stelle eines Forschungsingenieurs bei OpenAI mit einer Quote von 90-100 %. O3 scheint in den Programmier-Skill-Tests sogar noch besser zu sein.

Quelle: Die algorithmische Brücke

Es sollte auch beachtet werden, dass damit die gesamte Konkurrenz aus dem Rennen geworfen wurde, einschließlich des kürzlich veröffentlichten Gemini 2.0 von Google.

Quelle: Die algorithmische Brücke

Mathematik und Naturwissenschaften

Vielleicht mehr als Kundenservice oder „menschenähnliches“ Denken ist die Beschleunigung von Technologie und Wissenschaft derzeit das vielversprechendste Feld für KI.

Auch hier hat o3 die Leistung früherer KIs radikal verbessert. Noch wichtiger ist, dass es Mathematikfragen auf Doktorandenniveau mit einer Genauigkeit von 87.7 % richtig beantworten kann, was besser ist als die meisten Menschen; selbst mathematisch geschulte Menschen erreichen nur etwa 70 %.

Quelle: Die algorithmische Brücke

Wenn o3 komplexe mathematische Fragen so gut verstehen kann, wird es auf lange Sicht wahrscheinlich auch in der Lage sein, ähnlich komplexe Fragen aus den Materialwissenschaften, der Chemie oder der Biotechnologie zu beantworten.

Ist es AGI?

Die Behauptung, dass o3 nahe an AGI herankommt, sorgt seit der Ankündigung des Modells für Aufregung im KI-Bereich. Dass es in der Lage sein würde, viele Menschen mit Doktortitel in Mathematik zu übertreffen, war sicherlich nicht zu erwarten.

François Chollet, ein KI-Forscher und Mitbegründer von ARC-AGI (Abstract and Reasoning Corpus for Artificial General Intelligence), ein Benchmark zur Messung der Effizienz des KI-Kompetenzerwerbs bei unbekannten Aufgaben, sagt, es kommt näher:

OpenAI hat heute o3 angekündigt, sein Reasoning-Modell der nächsten Generation. Wir haben es gemeinsam mit OpenAI auf ARC-AGI getestet und sind überzeugt, dass es einen bedeutenden Durchbruch bei der Anpassung von KI an neue Aufgaben darstellt.

Es erreicht 75.7 % bei der halbprivaten Bewertung im Low-Compute-Modus (für 20 $ pro Aufgabe im Rechenmodus) und 87.5 % im High-Compute-Modus (Tausende von Dollar pro Aufgabe).

Die sehr hohen Kosten werfen die Frage auf, wie skalierbar dieser Ansatz ist, da Sie O3 auf hohem Niveau möglicherweise nur bei sehr teuren Aufgaben anwenden können, damit es sich lohnt.

Quelle: François Chollet

Gleichzeitig haben uns die letzten Jahrzehnte eines gelehrt: Rechenleistung wird mit der Zeit tendenziell deutlich günstiger.

Es ist daher kaum ein Beweis dafür, dass O3 oder eine zukünftige OX-Version des Systems nicht routinemäßig in Forschungsinstituten eingesetzt werden, um menschliche Forscher bei der Erschließung neuer Grenzen der Wissenschaft zu unterstützen.

Können wir Intelligenz wirklich anhand von Mathematik- und Programmierkenntnissen messen? Das ist für die meisten technisch versierten Menschen vielleicht etwas unangenehm, aber diese Fähigkeiten sind nicht das A und O der Intelligenz.

Auf lange Sicht werden wir einer echten künstlichen Intelligenz näher kommen, wenn dieselbe KI viele unabhängige Aufgaben gleichzeitig ausführen kann, vom Autofahren über Mathematik- und Programmieraufgaben bis hin zum Navigieren in realen Situationen und beim Umgang mit Gegenständen usw.

Es scheint jedoch, dass wir diesem Ziel von Tag zu Tag näher kommen.

Limits

Neben den technischen Leistungseinschränkungen von o3 gibt es drei Fragen, die die KI-Branche beantworten muss, damit ihre Vision von AGI Wirklichkeit werden kann.

Größer ist nicht immer besser

Zunächst muss herausgefunden werden, ob die aktuellen Methoden auf AGI-Niveau skalierbar sind. Bislang besteht ein Großteil der Methode darin, das Problem mit mehr Daten und Berechnungen zu „bewerfen“. Aber uns könnten schon bald die frischen Daten ausgehen, und KI-generierte Inhalte können nicht wieder in KI-Modelle eingespeist werden, ohne dass diese zusammenbrechen.

Neben größeren und umfangreicheren Rechenzentren werden wahrscheinlich auch qualitative Verbesserungen erforderlich sein.

Preise & Energiekosten

Apropos größere Rechenzentren: Die Technologiebranche beschäftigt sich derzeit mit Rechenzentren im Gigawatt-Bereich. Es ist kein Zufall, dass wir diese zunehmend an ihrem Stromverbrauch messen und nicht mehr an ihrer Rechenkapazität.

Es ist weil Der limitierende Faktor wird bald nicht mehr die Leistung der verwendeten Chips sein, sondern die verfügbare Versorgung mit elektrischer Energie.. Deshalb Microsoft zuerstund dann alle anderen großen Technologieunternehmen bemühen sich, die Stromversorgung ihrer KI-Rechenzentren durch Atomkraftwerke zu sichern.

Und wenn uns der Kampf gegen den Kohlendioxid-Ausstoß eines gelehrt hat, dann, dass die Steigerung der CO2-armen Stromerzeugung eine weitaus größere Herausforderung darstellt als der Bau größerer Rechenzentren.

Dies ist zudem ein Sektor, in dem die Kostensenkung nicht dem Mooreschen Gesetz folgen wird, wodurch die künftige Senkung der KI-Kosten wahrscheinlich viel moderater ausfallen wird, als wir es uns wünschen würden.

Daher wird auch hier zumindest eine qualitative Verbesserung der KI-Nachfrage erforderlich sein, wenn einige der derzeitigen Beschränkungen der KI aufgehoben werden.

Superintelligenzen?

Wenn wir uns der AGI nähern, wird dies eine zu erreichende Höchstgrenze sein oder nur ein Schritt auf dem Weg zu einer KI, die intelligenter ist als der Mensch?

Das ist eine wichtige Frage, denn diese Aussicht ist gleichermaßen faszinierend wie erschreckend. Viele Technikbegeisterte begrüßen diese sogenannte Singularität, in der sich die KI in einer exponentiellen Rückkopplungsschleife schnell selbst verbessern würde.

Die breite Masse der einfachen Leute ist vielleicht nicht so begeistert.

Abgesehen von dem existenziellen Risiko dürften auch die Gegenreaktionen der Öffentlichkeit und der Regulierungsbehörden allzu real sein und früher eintreten.

Dies ist etwas, womit KI-Unternehmen wahrscheinlich zu kämpfen haben werden, da sie einerseits die Öffentlichkeit beruhigen und dabei möglicherweise ihre Erfolge herunterspielen müssen, andererseits aber auch gegenüber Investoren rechtfertigen müssen, die Hunderte von Milliarden Dollar in die Technologie und ihre Infrastrukturen pumpen.

KI-Unternehmen

Microsoft

Microsoft steht mit seinem noch immer dominierenden Betriebssystem Windows fast seit seiner Gründung im Zentrum der Technologiebranche.

Mittlerweile ist das Unternehmen auch führend im Bereich Unternehmenssoftware (Office365, Teams, LinkedIn, Skype, GitHub), Gaming (Xbox und Übernahme mehrerer Videospielstudios) und in der Cloud (Azure).

In jüngerer Zeit wurden gute Fortschritte bei der KI erzielt. Dazu gehört auch einige KI für Verbraucher wie die Bing Image Creator und stärker wirtschaftsorientierte Initiativen wie Copilot für Microsoft 365 und Microsoft Research. Copilot ist jetzt wird auch im Einzelhandel und bei kleineren Unternehmen eingesetzt.

Quelle: Konstellationsforschung

Microsoft hat sich im Vergleich zu eher verbraucherorientierten Unternehmen wie Apple oder Facebook den Ruf erworben, der unternehmensorientierte Technologieriese zu sein. Da KI in Geschäftsmodellen immer wichtiger wird, sollte die bereits bestehende Präsenz von Microsoft bei Cloud- und Unternehmensdiensten dem Unternehmen einen Vorsprung beim Einsatz von KI in großem Maßstab und bei der Kundenakquise verschaffen.

Microsoft – Die chaotische Ehe zwischen OpenAI

Die Zusammenarbeit mit führenden KI-Entwicklern wie OpenAI (bekannt durch ChatGPT) festigt außerdem die Position von Microsoft als KI-Kraftpaket.

Die Beziehung zwischen den beiden ist komplex, da OpenAI technisch gesehen eine eigene Organisation ist, in der Praxis jedoch sowohl finanziell als auch rechnerisch von den Ressourcen von Microsoft abhängig geworden ist.

„Microsoft wird in den nächsten Monaten nicht nachgeben, da OpenAI, das in diesem Jahr mit einem Verlust von 5 Milliarden US-Dollar rechnet, weiterhin mehr Geld und mehr Rechenleistung für den Aufbau und Betrieb seiner KI-Systeme verlangt.

Quelle: Marketing AI Institut

Gleichzeitig baut Microsoft seine eigenen internen KI-Projekte auf, nachdem der Großteil des Personals von Inflection übernommen wurde.

Es wird noch komplizierter, da OpenAI versucht, in einen gewinnorientierten Status überzugehen. etwas, das zu Konflikten mit früheren Unterstützern wie Elon Musk führt.

Und hier wird die Debatte über AGI für OpenAI nahezu existentiell:

„Wenn OpenAI AGI erreicht, erlischt Microsofts Zugriff auf die OpenAI-Technologie. Noch wichtiger ist, dass der Vorstand von OpenAI entscheiden kann, wann AGI erreicht ist.“

Quelle: Marketing AI Institut

Es ist wahrscheinlich, dass o3 immer noch keine AGI ist, und ein hypothetisches o5 wird es auch nicht sein. Aber das sollte jeder Investor im Hinterkopf behalten, der sich möglicherweise für Microsoft interessiert und seine These auf die Beziehung zu OpenAI stützt.