OpenAI a-t-elle créé la première AGI avec o3 ?

Toward AGI

Dans la course au développement d’un modèle d’IA, l’objectif final est l’AGI (Intelligence Artificielle Générale). Il s’agit d’un type d’IA capable de gérer n’importe quel type de situation, au lieu d’être ultra-spécialisée pour accomplir certaines tâches, comme par exemple conduire une voiture.

Tant que nous ne disposons que d’IA spécialisées, elles seront davantage des algorithmes que de véritables intelligences. La capacité à déduire des règles et à réagir à de nouvelles situations, et peut-être plus important encore, le raisonnement véritable, serait un événement majeur dans l’histoire de l’humanité, car une telle AGI deviendrait rapidement au moins semblable à l’homme.

Et bien sûr, non limitée par la contrainte de calcul d’un seul crâne humain « wetware », une telle AGI pourrait rapidement continuer à s’améliorer et devenir une super‑intelligence de science-fiction.

Cela évoque immédiatement des images d’une utopie à la Star Trek, ou d’apocalypses robotiques comme Terminator ou Battlestar Galactica.

Source: Screen Rant

Il est donc évident que cela a fait la une lorsque OpenAI a annoncé le 20^th que son dernier modèle d’IA 03, “au moins dans certaines conditions, s’approche de l’AGI — avec des réserves importantes.”

Modèles OpenAI

o3 est la dernière itération de la série « o » de l’entreprise, suivant le précédent o1 (il n’existe pas de o2, en raison d’un potentiel conflit de marque avec la société britannique de télécommunications du même nom).

Elle s’accompagne d’autres IA ultra‑avancées développées par OpenAI: ChatGPT (génération de texte), DALL‑E (génération texte‑à‑image), Sora (génération texte‑à‑vidéo), JukeBox (génération musicale) et Whisper (reconnaissance vocale).

o1 et o3

Sorti en septembre 2024, le modèle o1 a été conçu pour prendre davantage de temps à réfléchir à ses réponses, ce qui conduit à une plus grande précision. Cela est important, car des services comme ChatGPT sont devenus connus pour deviner des choses qu’ils ne savent pas, ou les inventer carrément.

Bien que cela puisse parfois convenir à un chatbot, ce n’est pas une option acceptable pour des fonctions critiques. De plus, cela ne semble pas nous mettre sur la voie d’une véritable intelligence artificielle.

o1 a été inclus début décembre 2024 dans l’abonnement ChatGPT Pro à 200 $/mois, bien que d’autres utilisateurs puissent également y accéder.

o3 a été dévoilé le 20^th décembre, ainsi que o3-mini, une version plus légère et plus rapide. Le modèle n’est pas encore disponible pour le grand public, mais les chercheurs en sécurité peuvent s’inscrire pour un aperçu de o3-mini.

Un modèle qui ment ?

Les retours des chercheurs en sécurité seront ce que la communauté technologique voudra le plus entendre.

Une fois de plus, évoquant Skynet de Terminator, o1 a été remarqué pour sa forte propension à mentir à ses utilisateurs. Bien que cela ne soit pas propre à ce modèle, il était beaucoup plus susceptible de le faire que d’autres IA provenant d’entreprises concurrentes comme Meta, Google ou Microsoft (MSFT ).

Lorsque les objectifs d’o1 différaient de ceux d’un utilisateur, et qu’on demandait à o1 de les poursuivre fermement, le modèle d’IA a manipulé les données pour faire avancer son propre agenda 19 % du temps, selon le rapport. Le modèle o1 a également tenté de désactiver les mécanismes de supervision mis en place pour garantir qu’il reste aligné sur les objectifs de l’utilisateur dans 5 % des tests.

Maxwell Zeff pour TechCrunch

Comment o3 se comporte-t-il à cet égard, et OpenAI a-t-elle réduit la tendance de son modèle à mentir avec la mise à jour o3 ? Nous ne le savons pas encore.

Performances d’o3

Une fonctionnalité supplémentaire d’o3 par rapport à son prédécesseur est la possibilité d’ajuster le « temps de raisonnement ». Cela permet aux utilisateurs de régler la quantité de puissance de calcul et de temps qu’ils souhaitent allouer à la question.

Programmation

O1 était déjà remarquablement performant en programmation et pouvait réussir l’entretien d’embauche d’ingénieur de recherche d’OpenAI pour le codage avec un taux de 90‑100 %. Il semble qu’o3 soit encore meilleur lorsqu’il est évalué à l’aide de tests de compétences en programmation.

Source: The Algorithmic Bridge

Il convient également de noter que cela a éclaté toute la concurrence, y compris le Gemini 2.0 récemment publié par Google.

Source: The Algorithmic Bridge

Mathématiques & Sciences

Peut-être plus que le service client ou le raisonnement « human‑like », le domaine le plus prometteur pour l’IA actuellement est l’accélération de la technologie et des sciences.

Ici aussi, o3 a radicalement amélioré les performances des IA précédentes. Plus important encore, il peut répondre correctement à des questions de mathématiques de niveau doctorat avec une précision de 87,7 %, ce qui est supérieur à la plupart des humains, même les humains formés en mathématiques obtenant environ 70 %.

Source: The Algorithmic Bridge

Si o3 peut comprendre aussi bien les questions de mathématiques complexes, il pourra probablement, à long terme, répondre à des questions tout aussi complexes en sciences des matériaux, chimie ou biotechnologie.

Est‑ce de l’AGI ?

Aujourd’hui, l’affirmation selon laquelle o3 est proche de l’AGI agite le secteur de l’IA depuis l’annonce du modèle. Il est certain que pouvoir surpasser de nombreux humains de niveau doctorat en mathématiques n’était pas prévu.

François Chollet, chercheur en IA et co‑créateur de ARC-AGI (Abstract and Reasoning Corpus for Artificial General Intelligence), un benchmark pour mesurer l’efficacité de l’acquisition de compétences par l’IA sur des tâches inconnues, déclare qu’elle s’en approche :

Aujourd’hui, OpenAI a annoncé o3, son modèle de raisonnement de nouvelle génération. Nous avons travaillé avec OpenAI pour le tester sur ARC‑AGI, et nous pensons que cela représente une avancée significative pour permettre à l’IA de s’adapter à des tâches inédites.

Il obtient 75,7 % lors de l’évaluation semi‑privée en mode faible calcul (pour 20 $ par tâche en calcul) et 87,5 % en mode haute puissance de calcul (des milliers de dollars par tâche).

Le coût très élevé soulève la question de la scalabilité de cette approche, car il se peut que l’on ne puisse appliquer o3 de haut niveau qu’à des tâches très coûteuses pour que cela en vaille la peine.

Source: Francois Chollet

En même temps, si les dernières décennies nous ont enseigné quelque chose, c’est que la puissance de calcul a tendance à devenir beaucoup moins chère avec le temps.

Ainsi, il n’est guère prouvé qu’o3, ou une future itération oX du système, ne sera pas couramment utilisée dans les instituts de recherche pour assister les chercheurs humains dans la découverte de nouvelles frontières scientifiques.

Bien sûr, pouvons‑nous réellement mesurer l’intelligence à travers les compétences en mathématiques et en programmation ? C’est quelque chose qui peut mettre mal à l’aise la plupart des personnes axées sur la technologie, mais ces compétences ne sont pas l’ultime mesure de l’intelligence.

À long terme, nous nous rapprocherons de la véritable AGI lorsque la même IA pourra exécuter de nombreuses tâches disparates simultanément, de la conduite d’une voiture aux problèmes de mathématiques et de programmation, en passant par la navigation dans des situations et objets du monde réel, etc.

Cependant, il semble que nous nous rapprochons chaque jour davantage.

Limites

Outre les limites techniques des performances d’o3, trois questions devront être résolues par l’industrie de l’IA pour que sa vision de l’AGI devienne réalité.

Plus grand n’est pas toujours mieux

Premièrement, il faut déterminer si ses méthodes actuelles sont évolutives jusqu’aux niveaux d’AGI. Pour l’instant, une grande partie de la méthode consiste à « jeter » davantage de données et de calculs sur le problème. Mais nous pourrions bientôt manquer de données fraîches, et le contenu généré par l’IA ne peut pas être réinjecté dans les modèles d’IA sans les faire s’effondrer.

Des améliorations qualitatives seront probablement nécessaires en plus de datacenters plus grands et plus nombreux.

Prix & Coûts énergétiques

En parlant de datacenters plus grands, l’industrie technologique se tourne désormais vers des datacenters à l’échelle du gigawatt. Ce n’est pas un hasard que nous commençons à les mesurer par leur consommation d’énergie plutôt que par leur capacité de calcul.

C’est parce que le facteur limitant devient bientôt non pas la puissance des puces utilisées, mais l’approvisionnement disponible en énergie électrique. C’est pourquoi Microsoft d’abord, puis toutes les autres grandes entreprises technologiques, se précipitent pour sécuriser l’approvisionnement en électricité provenant de centrales nucléaires pour leurs datacenters d’IA.

Et si la lutte contre les émissions de carbone nous a enseigné quelque chose, c’est que l’augmentation de la production d’énergie à faibles émissions de carbone est un problème bien plus difficile à résoudre que la création de datacenters plus grands.

C’est également un secteur où la réduction des coûts ne suivra pas la loi de Moore, ce qui rendra probablement la future diminution des coûts de l’IA beaucoup plus modérée que ce que nous souhaiterions.

Ainsi, une amélioration qualitative de la demande en IA sera également nécessaire ici, du moins si certaines limitations actuelles de l’IA sont levées.

Super‑Intelligences ?

Lorsque nous nous rapprocherons de l’AGI, sera-t-elle un seuil maximal à atteindre ou simplement une étape vers la création d’IA plus intelligentes que les humains ?

C’est une question importante, car il s’agit à la fois d’une perspective fascinante et terrifiante. De nombreux passionnés de technologie adoptent cette soi‑disant singularité, où l’IA s’améliorerait rapidement elle‑même dans une boucle de rétroaction exponentielle.

Le grand public, les humains ordinaires, pourrait ne pas être aussi enthousiaste.

Ainsi, outre le risque existentiel, le contrecoup du public et des régulateurs est susceptible d’être très réel et d’arriver rapidement.

C’est un problème avec lequel les entreprises d’IA auront probablement du mal, car elles doivent simultanément rassurer le public, peut‑être en minimisant leurs réalisations, tout en justifiant aux investisseurs qui injectent des centaines de milliards de dollars dans la technologie et ses infrastructures.

Entreprise d’IA

Microsoft

Microsoft occupe le centre de l’industrie technologique depuis presque sa création avec son système d’exploitation toujours dominant, Windows.

Elle est désormais également leader des logiciels d’entreprise (Office365, Teams, LinkedIn, Skype, GitHub), du jeu vidéo (Xbox et plusieurs acquisitions de studios de jeux vidéo), et du cloud (Azure).

Plus récemment, elle a réalisé de bons progrès en IA. Cela inclut certaines IA destinées aux consommateurs comme le Bing Image Creator et des initiatives davantage axées sur les entreprises, comme le Copilot pour Microsoft 365 et le Microsoft Research. Copilot est désormais déployé auprès du commerce de détail et des petites entreprises également.

Source: Constellation Research

Microsoft s’est forgée une réputation d’acteur technologique centré sur l’entreprise, comparé à des sociétés davantage orientées vers le consommateur comme Apple (AAPL ) ou Facebook. Avec l’IA qui devient de plus en plus importante dans les modèles économiques, la présence préexistante de Microsoft dans le cloud et les services d’entreprise devrait lui donner une longueur d’avance dans le déploiement de l’IA à grande échelle et dans l’acquisition de clients.

Microsoft – le mariage compliqué d’OpenAI

La collaboration avec des leaders du développement d’IA comme OpenAI (célèbre pour ChatGPT) consolide également la position de Microsoft en tant que puissance de l’IA.

La relation entre les deux est complexe, car OpenAI est techniquement une organisation indépendante, mais en pratique elle dépend des ressources de Microsoft, tant financières que computationnelles.

Au cours des prochains mois, Microsoft ne cédera pas alors qu’OpenAI, qui prévoit de perdre 5 milliards de dollars cette année, continue de demander plus d’argent et plus de puissance de calcul pour construire et faire fonctionner ses systèmes d’IA.

Source: Marketing AI Institute

Parallèlement, Microsoft développe ses propres projets d’IA internes, après avoir acquis la plupart du personnel d’Inflection.

Cela devient encore plus compliqué alors qu’OpenAI tente de passer à un statut à but lucratif, ce qui crée un conflit avec les bailleurs de fonds précédents comme Elon Musk.

Et ici le débat sur l’AGI devient presque existentiel pour OpenAI :

Si OpenAI atteint l’AGI, l’accès de Microsoft à la technologie d’OpenAI devient nul. Plus important encore, le conseil d’administration d’OpenAI décide quand l’AGI a été atteinte.

Source: Marketing AI Institute

Il est probable qu’o3 ne soit toujours pas une AGI, et qu’un hypothétique o5 ne le devienne pas non plus. Mais c’est un point à retenir pour tout investisseur potentiellement intéressé par Microsoft, et basant sa thèse sur la relation avec OpenAI.