Intelligence Générale Artificielle : Un récit de construction de capacités avec prudence

Nous vivons à l’ère de l’intelligence artificielle. L’article original de 2023 estimait le marché mondial de l’IA à 240 milliards de dollars américains et évoquait une projection supérieure à 730 milliards en 2030, avec une croissance annuelle de plus de 17 %. Il s’agissait d’estimations de l’époque, et non de revenus futurs garantis.

Parmi tout le vacarme entourant l’IA, un paradigme qui a capté l’attention de tous est l’AGI, Intelligence Générale Artificielle.

Que signifie l’AGI et pourquoi suscite-t-elle cet intérêt ? Cet article examine les concepts, les orientations de recherche et les attentes dans la perspective de 2023.

Mais avant de plonger directement dans l’Intelligence Générale Artificielle, essayons de déterminer ce que l’intelligence générale implique.

Définir les contours de l’intelligence générale

L’intelligence générale implique la capacité d’atteindre une gamme d’objectifs et d’exécuter diverses tâches dont les contextes et les environnements sont différents. Les systèmes « généralement intelligents » doivent: 

• Gérer des problèmes et des situations qui sont substantiellement différents de ce qui pourrait être anticipé
• Être capable de généraliser les connaissances acquises afin qu’elles puissent être transférées d’un contexte de problème à d’autres.

Les chercheurs divergent sur la définition précise de l’intelligence générale et sur la meilleure façon de la mesurer. Il n’existe pas de liste unique de propriétés nécessaires universellement acceptée.

La recherche sur l’AGI cherche à réaliser ces larges capacités d’apprentissage et de résolution de problèmes dans des systèmes artificiels.

L’hypothèse centrale de l’AGI

Ben Goertzel a formulé une hypothèse centrale dans son article de synthèse « Artificial General Intelligence: Concept, State of the Art, and Future Prospects », publié en 2014 dans le Journal of Artificial General Intelligence. Il l’a exprimée ainsi :

« La création et l’étude d’une intelligence synthétique avec un champ d’application suffisamment large (par exemple, au niveau humain) et une forte capacité de généralisation sont, en fin de compte, qualitativement différentes de la création et l’étude d’une intelligence synthétique avec un champ d’application nettement plus étroit et une capacité de généralisation plus faible. »

Selon cette conception, l’AGI aurait un large champ d’application et une forte capacité de généralisation. L’hypothèse est une position de recherche, non une loi naturelle démontrée.

En termes plus accessibles, la recherche sur l’AGI étudie le développement de capacités cognitives larges, souvent comparées aux performances humaines. L’apprentissage et le transfert des connaissances sont essentiels, mais le seuil de performance varie selon les définitions.

Les avis divergent sur la faisabilité et le calendrier de l’AGI. Certains chercheurs sont sceptiques, tandis que d’autres développent des capacités de plus en plus larges. Il n’en découle pas de consensus scientifique selon lequel une intelligence générale comparable à celle de l’être humain serait impossible par principe.

L’AGI et la notion d’IA forte

Dans une explication d’IBM, l’IA forte est associée à l’intelligence humaine et à la conscience de soi. Ce sens ne correspond pas à toutes les définitions de l’AGI : les définitions opérationnelles peuvent se concentrer sur les performances générales et la généralisation sans exiger de conscience. La possibilité d’expériences subjectives chez les machines constitue un débat distinct.

Un système pourrait apprendre à partir de données et d’expériences, mais l’AGI ne doit pas nécessairement commencer comme un enfant ni fonctionner comme le cerveau humain. Les objectifs de recherche concernent avant tout les capacités, non une trajectoire de développement obligatoire.

Une comparaison courante porte sur la diversité des tâches et le transfert de connaissances à de nouvelles situations, plutôt que sur une seule performance spécialisée.

L’IA spécialisée n’est pas forcément limitée à une tâche répétitive et peut fonctionner de manière autonome dans un domaine délimité. Inversement, l’AGI n’implique pas automatiquement la disparition des instructions ou de la supervision humaines. Capacité, autonomie et conscience sont des notions différentes : l’une ne prouve pas l’autre.

La synthèse de Goertzel distingue quatre grandes orientations de recherche. Il s’agit de la classification proposée dans ce travail, non d’une liste exhaustive ou d’une architecture obligatoire pour toute AGI.

Ces orientations sont les approches symbolique, émergentiste, hybride et universaliste.

L’approche symbolique : Des aspects du monde et du système sont représentés par des symboles. Un système symbolique physique peut recevoir, produire, stocker et modifier des symboles, puis les utiliser pour choisir des actions. Il s’agit d’une approche théorique, non de la preuve que l’intelligence ne peut fonctionner qu’ainsi.

Certaines architectures cognitives symboliques combinent mémoire de travail, mémoire à long terme et contrôle central de la perception, de la pensée et de l’action. Toutes les approches symboliques ne doivent pas avoir la même organisation.

L’approche émergentiste : Les capacités de niveau supérieur naissent des interactions entre éléments sous-symboliques de niveau inférieur. Des formes et fonctions complexes peuvent ainsi émerger de nombreux éléments relativement simples qui interagissent, comme dans les réseaux de neurones.

L’approche hybride : Elle associe des sous-systèmes symboliques et sous-symboliques pour exploiter leurs atouts et compenser leurs limites. L’ensemble peut présenter des capacités différentes de celles de chaque partie isolée.

La combinaison peut être celle d’un sous‑système symbolique avec un grand système sous‑symbolique ou d’une population de petits agents, chacun étant à la fois symbolique et sous‑symbolique.

L’approche universaliste : Elle part de modèles mathématiques très généraux de l’intelligence et en étudie des approximations pratiques. Certains modèles idéaux ne sont pas calculables ou imposent des besoins de calcul irréalistes. Il ne s’agit donc pas simplement d’un algorithme déjà opérationnel auquel il manquerait du matériel plus puissant.

Plusieurs organisations développent des produits d’IA et étudient une intelligence plus générale. Un produit pratique ne démontre pas que l’AGI avait été atteinte en 2023. OpenAI est une organisation connue qui poursuit cet objectif de recherche.

Des entreprises qui travaillent sur l’AGI

1. OpenAI

OpenAI, connue pour ChatGPT, a décrit dans un article de blog du 24 février 2023 l’ambition de faire bénéficier toute l’humanité de l’AGI. Elle évoquait des systèmes d’IA généralement plus intelligents que les humains. C’était une déclaration de mission, non l’annonce d’une AGI déjà réalisée.

OpenAI écrivait qu’elle serait plus prudente dans le développement et le déploiement à mesure que ses systèmes se rapprocheraient de l’AGI. InstructGPT et ChatGPT étaient cités comme des étapes vers des systèmes plus faciles à orienter, non comme une AGI déjà obtenue.

Qu’est-ce que ChatGPT ?

OpenAI a lancé ChatGPT le 30 novembre 2022 comme système de dialogue reposant sur des modèles de langage. Il répond aux questions et aide à rédiger des courriels, des dissertations ou du code informatique. Des réponses semblables à celles des humains ne prouvent ni compréhension humaine ni fiabilité : elles peuvent contenir des erreurs.

Cliquez ici pour la liste des cinq meilleures extensions ChatGPT.

Qu’est-ce qu’InstructGPT ?

InstructGPT désigne des modèles qu’OpenAI a entraînés à mieux suivre les instructions grâce à des démonstrations et évaluations humaines. Il s’agit d’un développement particulier des modèles de langage, et non d’un terme général pour toute IA avancée ou d’une preuve autonome d’AGI.

OpenAI et ChatGPT dans les chiffres de l’époque

Le 12 octobre 2023, The Information rapportait pour OpenAI un rythme de revenus équivalant à 1,3 milliard de dollars américains en données annualisées, soit plus de 100 millions par mois et environ 30 % au-dessus du rythme de l’été. Séparément, OpenAI annonçait en novembre 2023 environ 100 millions d’utilisateurs actifs hebdomadaires de ChatGPT. Un rythme annualisé n’est pas le chiffre d’affaires effectivement réalisé sur un exercice complet.

La crise de gouvernance d’OpenAI en novembre 2023

Le conseil de l’époque a destitué le directeur général Sam Altman le 17 novembre 2023, affirmant qu’il n’avait pas toujours été franc dans ses communications. C’était la justification donnée par le conseil, non une conclusion établie indépendamment. Un accord de principe sur son retour a été annoncé le 21 novembre aux États-Unis, le 22 selon l’UTC. Le 29 novembre, OpenAI a confirmé son retour et un nouveau conseil provisoire.

Selon les informations de l’époque, une grande majorité des salariés menaçait de partir si Altman ne revenait pas ; cela ne signifie pas que tous avaient signé la lettre. Le cofondateur et alors scientifique en chef Ilya Sutskever a exprimé sur X ses regrets : « Je regrette profondément ma participation aux actions du conseil. Je n’ai jamais voulu nuire à OpenAI. J’aime tout ce que nous avons construit ensemble et je ferai tout mon possible pour réunir l’entreprise. »

Le retour d’Altman a clos la crise immédiate à la tête de l’entreprise, mais n’a pas automatiquement réglé toutes les questions de gouvernance et de supervision. Le nouveau conseil a aussi annoncé un examen indépendant et des améliorations de la gouvernance.

Si OpenAI a attiré beaucoup d’attention dans l’AGI, d’autres organisations travaillaient également dans ce domaine depuis des années. DeepMind a été fondée en 2010.

2. DeepMind

DeepMind a été fondée en 2010 et acquise par Google en 2014. En avril 2023, elle a été réunie avec Google Brain au sein de Google DeepMind. L’organisation étudie des systèmes de résolution de problèmes plus généraux pour faire progresser la science et les applications utiles à la société.

DeepMind veut faire progresser la science au bénéfice de l’humanité et utiliser l’intelligence artificielle pour répondre aux besoins de la société.

Dans les travaux avec Moorfields, un modèle a fourni des recommandations d’orientation vers les soins comparables à celles de spécialistes à partir des images oculaires étudiées. Cela ne démontrait ni le diagnostic autonome de toutes les maladies oculaires ni le remplacement des médecins. En 2018, un système de commande autonome rapportait environ 30 % d’économie d’énergie pour le refroidissement des centres de données, non pour leur consommation totale. AlphaFold a prédit des structures tridimensionnelles de protéines et soutenu la recherche biologique et pharmaceutique sans résoudre tous les problèmes de fonction protéique ou de développement des médicaments.

L’article original citait des données de financement issues d’une base concernant un tour de 50 millions de dollars américains rapporté le 1er février 2011 avec Founders Fund et Horizons Ventures. Une fiche limitée ne démontre pas qu’il s’agissait du seul financement avant l’acquisition ; ce n’était pas un historique complet et audité.

3. Adept

Adept a annoncé en mars 2023 une série B de 350 millions de dollars américains menée par General Catalyst et Spark Capital. L’entreprise avait alors environ un an et développait une IA capable d’utiliser des logiciels. L’article évoquait quelque 25 salariés et une première démonstration d’un assistant numérique.

Adept étudiait l’utilisation des logiciels par les humains afin de transformer des instructions textuelles en actions informatiques. L’article indiquait une valorisation après financement d’environ un milliard de dollars américains. La valeur alors rapportée n’est pas une valorisation actuelle ni une preuve de réalisation de l’AGI.

Le cofondateur David Luan comparait l’ambition à un synthétiseur : un musicien peut utiliser les sons de différents instruments sans apprendre à jouer de chacun. Adept voulait rendre les logiciels plus accessibles de façon comparable grâce à un système d’IA unique.

AGI : la voie à suivre

Les gens ont des avis différents sur le potentiel de l’AGI. Certains croient que l’AGI pourrait avoir des conséquences dangereuses pour l’humanité, tandis que d’autres pensent que l’AGI ne serait pas capable d’atteindre ce que nous imaginons.

Diego Klabjan, professeur à l’université Northwestern et fondateur de son master en analytique, a exprimé la position sceptique citée dans l’article original :

« Le cerveau humain possède des milliards de neurones reliés de façon fascinante et complexe, tandis que les technologies les plus avancées actuelles se limitent à des connexions simples suivant des schémas très élémentaires. Passer de quelques millions à des milliards de neurones avec le matériel et les logiciels actuels, je ne le vois pas se produire. »

Une enquête réalisée en 2016 par des chercheurs liés à Oxford, Yale et AI Impacts a recueilli 352 réponses de spécialistes de l’apprentissage automatique. Les résultats ont été publiés sous forme de prépublication en 2017. Il s’agissait de probabilités subjectives agrégées, non d’échéances garanties ou d’un « nombre médian de répondants ». Exemples de projections de l’époque :

• Vers 2026 : rédiger des dissertations scolaires au niveau défini par l’enquête.
• Vers 2027 : conduire des camions au niveau précisé, ce qui ne signifie pas que tous les chauffeurs deviennent inutiles.
• Vers 2031 : accomplir les tâches de vente au détail décrites, sans nécessairement remplacer tout le secteur.
• Vers 2049 : écrire un best-seller ; Stephen King était une comparaison figurée, non une prédiction sur un auteur précis.
• Automatisation complète techniquement possible de toutes les professions : environ 122 ans après 2016, donc vers 2138, selon une probabilité agrégée de 50 %. Cela ne signifie pas que tous les emplois disparaîtraient effectivement à cette date.

Il est beaucoup trop tôt pour prédire où l’IA nous mènera finalement. Mais, comme toutes les technologies, elle peut être utilisée à bon ou mauvais escient.

Dans son billet de février 2023, Sam Altman préconisait un examen approfondi du développement de l’AGI et une consultation publique pour les décisions importantes. Il écrivait à propos des risques possibles :

« Le monde pourrait devenir très différent d’aujourd’hui et les risques pourraient être extraordinaires. Une AGI superintelligente mal alignée sur les objectifs humains pourrait causer de graves dommages au monde ; un régime autoritaire disposant d’une avance décisive en superintelligence pourrait en faire autant. »

Des organisations comme DeepMind étudient si une IA plus générale peut soutenir des découvertes scientifiques. Cela ne les rend pas encore fournisseurs d’une AGI démontrée. Les effets futurs sur la recherche, l’ingénierie et la sécurité sont incertains et dépendent des capacités, des usages et des décisions humaines en matière de gouvernance et de supervision.

Cliquez ici pour tout savoir sur l’investissement dans l’intelligence artificielle.