Conversion AI pourrait être la clé pour éviter un plateau technologique

La demande de contenu connaît une croissance constante et rapide. Pour obtenir une idée réaliste du taux de croissance, Adobe (ADBE ) a mené une enquête couvrant plus de 2,600 professionnels de l’expérience client et du marketing dans les principales économies mondiales. 

Les résultats de l’enquête, publiés par Adobe en mars 2023, indiquaient une croissance de la demande de contenu d’au moins deux fois au cours des deux dernières années. Environ deux tiers étaient encore plus optimistes quant à l’avenir du contenu. Ils ont déclaré s’attendre à ce que la demande augmente de cinq à vingt fois au cours des vingt prochaines heures. 

Répondre à cette demande a contraint les entreprises à adopter de nouveaux modèles de production de contenu. Selon la World Federation of Advertisers, plus de la moitié des grandes entreprises internationales ont développé des capacités de production de contenu en interne. Mais cela suffit‑il ? Eh bien, la conversion AI a relevé le défi. 

Qu’est‑ce que Conversion AI ?

Conversion AI consiste à utiliser l’intelligence artificielle pour aider les entreprises à mieux communiquer avec leurs clients et à augmenter leurs ventes. Il le fait en aidant à créer, améliorer et gérer du contenu comme des textes, des images et des sons. Cela facilite pour les entreprises la capture de l’attention de leur audience, la création de contenu qui leur parle réellement, et l’amélioration de leur expérience, le tout grâce à une technologie d’IA intelligente.

Aujourd’hui, les entreprises peuvent utiliser Conversion AI pour atteindre divers objectifs de marketing de contenu, y compris les copies d’annonces Facebook et Google, le contenu de sites web, les publications sociales, et plus encore. Mais comment Conversion AI rend‑tout cela possible ? Quelle est la technologie qui l’alimente ? Pour cela, nous devons connaître les grands modèles de langage, ou LLM. 

Qu’est‑ce qu’un grand modèle de langage ?

C’est un type d’IA capable d’apprendre à partir de grandes quantités de texte et de données. Il existe des cas d’utilisation où ces modèles d’IA peuvent traiter des centaines de milliards de points de données pour produire des insights, des stratégies et des projections significatifs. 

Genèse des LLM en bref

Les LLM modernes ont fait leur apparition il y a six ans, en 2017. Ces LLM utilisaient des modèles de type transformeur capables de gérer un grand nombre de paramètres afin de comprendre et de générer rapidement des réponses précises. 

Quatre ans plus tard, en 2021, le Stanford Institute for Human-Centered Artificial Intelligence a introduit le terme et le concept de modèles fondamentaux. Le nom provient du fait que ces modèles, grands et impactants, servent de bases pour d’autres optimisations et cas d’utilisation. Avec le développement des LLM, la génération de contenu, notamment sous forme écrite, a connu des changements significatifs. 

L’impact des LLM

Les recherches d’ARK Invest montrent que, au cours des deux dernières années, la qualité rédactionnelle des LLM a connu une amélioration significative. Cela a conduit à une plus grande confiance et à un déploiement accru de solutions alimentées par les LLM pour générer du contenu. 

En conséquence, le coût de rédaction de contenu écrit a fortement diminué. Il était relativement constant en termes réels au cours du siècle dernier, autour de 100 $ US pour 1 000 mots écrits. Au cours des deux dernières années, cependant, ce tarif est tombé à 0,10 $ US, voire moins. 

Les performances et la productivité devraient encore s’améliorer à mesure que les performances d’entraînement de l’IA progressent rapidement. Les chercheurs en IA innovent dans l’entraînement et l’inférence, le matériel et la conception des modèles, améliorant les performances tout en réduisant les coûts. On s’attend à ce que cela génère plus de cinq fois les gains de performance en 2024, en prenant 2023 comme année de référence. 

Plusieurs innovations algorithmiques ont conduit à une capacité rédactionnelle supérieure et à une productivité et performance améliorées des LLM. L’apprentissage par renforcement à partir des retours humains, par exemple, a grandement aidé. Les invites ont été optimisées pour dépasser les invites humaines de plus de 50 %. 

Les capacités de décodage spéculatif ont accéléré l’inférence de deux à trois fois sur certains modèles. Les chercheurs ont également été proactifs dans la priorisation des coûts d’inférence. Leurs efforts portent leurs fruits, les coûts d’inférence diminuant à un taux annuel d’environ 86 %, plus rapidement que les coûts d’entraînement. Les modèles GPT ont vu une accélération de l’entraînement d’environ trois fois grâce à Flash Attention 2. 

Avec toutes ces améliorations et avancées à la vitesse de la lumière, des investigations sont également en cours pour déterminer si un plateau potentiel est imminent dans l’utilisation des LLM et si une telle situation pourrait être évitée. 

Cliquez ici pour découvrir pourquoi 2023 a été l’année décisive pour l’intelligence artificielle.

Plateau potentiel des LLM et son évitement

Les chercheurs examinent un scénario possible où les LLM épuiseraient leurs données, entraînant une performance limitée. Les LLM doivent être alimentés en continu avec de grands volumes de données d’entraînement pour continuer à apprendre et à s’améliorer. Cependant, la puissance de calcul et le manque potentiel de données d’entraînement semblent poser problème. 

Selon les estimations d’Epoch AI, les sources de langue/données de haute qualité, y compris les livres et les articles scientifiques, pourraient être épuisées d’ici 2024. C’est alors qu’il faudrait puiser dans un ensemble plus vaste de données visuelles inexplorées. Ces données visuelles inexploitées, qui peuvent aider les LLM à éviter le plateau, comprennent les mots prononcés et d’autres types de données du monde physique. 

Des recherches montrent qu’annuellement, trente quadrillions de mots sont prononcés. Les générateurs de parole‑texte et outils similaires capturent plus de 80 trillions de mots prononcés chaque jour. De plus, il existe des taxis, camions, drones et autres véhicules robotiques qui génèrent de grands volumes de données du monde physique et de données synthétiques qui complètent les données primaires. Toutes ces données inexploitées pourraient constituer une richesse inégalée de ressources et améliorer les LLM. 

Cependant, les améliorations de performance, de productivité et de qualité ne se limitent pas à la localisation de mines de données inexploitées. Plusieurs entreprises innovantes déploient des efforts globaux pour améliorer la situation de manière holistique. 

#1. Replit AI

En matière de boost de productivité, Replit AI a été l’une des grandes réussites. En tant qu’assistant de codage, il a augmenté la productivité et le niveau de satisfaction au travail des développeurs logiciels. Il aide à éliminer les parties itératives du codage afin que l’on puisse se concentrer sur les aspects créatifs du travail. 

Replit AI simplifie le codage en intégrant un générateur de code IA qui élimine le besoin de changer d’onglet, offrant des suggestions de code auto‑complétées pour progresser plus rapidement. Il améliore la compréhension du projet grâce à sa fonctionnalité Code Context pour écrire les lignes suivantes pertinentes et détecte de façon proactive les problèmes, suggérant des corrections directement dans une interface d’éditeur fluide.

Dans l’ensemble, Replit AI est une suite efficace de fonctionnalités de génération de code IA, incluant Complete Code, Generate Code, Edit Code et Explain Code. 

Ce qui alimente Replit AI, ce sont les LLM. Il renvoie des résultats générés à partir de grands modèles de langage entraînés sur du code disponible publiquement et ajustés par Replit. Il prend en compte l’invite conversationnelle et le langage de programmation utilisé pour proposer des suggestions et des explications sur le code généré. 

Les fonctionnalités de Replit AI sont disponibles gratuitement pour tous les utilisateurs. Il suffit d’avoir un compte Replit. Replit AI fonctionne au mieux avec le code JavaScript et Python, mais prend en charge 16 langages, dont Bash, C, C#, C++, CSS, Go, Java, JavaScript, HTML, PHP, Perl, Python, R, Ruby, Rust et SQL. 

Selon les dernières informations disponibles, l’entreprise a levé 97,4 $ US avec une valorisation de 1,16 $ milliard pour étendre ses services cloud et prendre la tête du développement IA en avril 2023. 

#2. Github Copilot

Un autre service d’assistance au codage, similaire à Replit AI, qui a aidé à améliorer la productivité des développeurs sur les tâches de codage de 2,2 fois en 2023 est Github Copilot. Github Copilot offre une assistance contextualisée tout au long du cycle de vie du développement logiciel. 

Selon les chiffres d’une enquête de satisfaction des consommateurs, les développeurs utilisateurs de Github Copilot déclarent jusqu’à 75 % de satisfaction professionnelle supérieure à ceux qui ne l’utilisent pas et sont jusqu’à 55 % plus productifs dans l’écriture de code sans compromettre la qualité. 

Github Copilot s’entraîne sur du texte en langage naturel et du code source provenant de sources publiques, y compris le code des dépôts publics sur GitHub. Il est entraîné dans toutes les langues présentes dans les dépôts publics. Cependant, les langues moins représentées dans les dépôts publics peuvent être moins efficaces. Github Copilot peut être utilisé par des développeurs individuels, freelances, étudiants, éducateurs et mainteneurs de projets open‑source. 

Selon les déclarations publiques du vice‑président produit de Microsoft , Mario Rodriguez, GitHub Copilot prospère et génère un chiffre d’affaires à un taux annuel de 100 $ millions. 

#3. MosaicML

MosaicML aide à entraîner les LLM, se positionnant comme une solution qui rend l’IA générative accessible à tous, offrant tout le nécessaire pour entraîner et déployer des modèles sur les données des utilisateurs. Sa série MPT Foundation facilite l’intégration facile des LLM dans les applications fonctionnant à la fois sur des modèles open‑source et sous licence commerciale.

L’entraînement MosaicML permet aux développeurs de pré‑entraîner ou d’affiner des modèles avec un contrôle total des données, simplifiant le processus à une seule commande dirigée vers un bucket S3. La plateforme gère efficacement l’orchestration, les pannes de nœuds et l’infrastructure, comme le montre l’utilisation par Replit de Mosaic ML pour entraîner son LLM Ghostwriter, affichant des résultats de pointe en une semaine.

L’approche de MosaicML pour l’entraînement dans n’importe quel environnement cloud met l’accent sur la confidentialité des données, la sécurité et la pleine propriété du modèle, avec des fonctionnalités facilitant les transitions fluides entre les clouds. Elle offre une pleine propriété des données, un filtrage de contenu selon les besoins de l’entreprise, et une intégration plug‑and‑play avec les pipelines de données existants, étant agnostique au cloud et éprouvée en entreprise.

En juin de l’année précédente, l’acquisition de Mosaic ML par Databricks dans une opération évaluée à 1,3 $ milliard a mis en évidence son impact significatif sur le marché et sa proposition de valeur.

#4. Anthropic

Le produit phare d’Anthropic, Claude, fonctionne sur deux modèles : Claude et Claude Instant. 

Claude est le modèle le plus puissant d’Anthropic, qui excelle dans une gamme de tâches, du dialogue sophistiqué et de la génération de contenu créatif aux instructions détaillées. Il fonctionne bien dans les scénarios nécessitant un raisonnement complexe, de la créativité, des dialogues réfléchis, du codage et la création de contenu détaillé. 

Claude Instant — la version plus rapide et moins chère de Claude — aide aux dialogues informels, à l’analyse de texte, à la synthèse et à la compréhension de documents. Il fonctionne bien lorsque la performance à faible coût est requise. Il accomplit sa tâche avec une latence réduite. 

Dans l’ensemble, Claude convient au traitement de volumes de texte, à la tenue de conversations naturelles, à l’obtention de réponses et à l’automatisation des flux de travail. Du service client au juridique, en passant par le coaching, la recherche et les tâches de back‑office, Claude est adapté à une variété de cas d’utilisation. 

Selon les rapports publiés fin décembre 2023, Anthropic, considéré comme le rival d’OpenAI, était en pourparlers pour lever 750 $ millions de financement avec une valorisation de 18,4 $ milliards. 

#5. Humata

Avec Humata, on peut parcourir facilement de longs articles techniques. L’IA PDF de Humata aide à résumer les résultats, comparer les documents et rechercher des réponses. Elle est compatible avec un nombre illimité de fichiers téléchargés sans limite de taille. Les réponses de son IA documentaire sont accompagnées de citations permettant de retracer la source de l’information.

Comme il s’agit d’un ChatGPT pour les PDF, il peut réécrire le résumé jusqu’à satisfaction. Cependant, contrairement à ChatGPT, Humata peut travailler avec des fichiers, lire chaque fichier téléchargé et générer des réponses basées sur le contenu des documents. 

Le 2 octobre 2023, Humata AI a annoncé la réussite de son dernier tour de financement, levant 3,5 $ millions auprès de Gradient Ventures de Google, d’ARK Invest de Cathie Wood, de M13 et d’autres investisseurs providentiels de renom pour son tour d’amorçage.

#6. OpenAI

Enfin, aucune discussion sur l’IA, son apprentissage LLM et ses fonctionnalités de création de contenu ne serait complète sans mentionner OpenAI, l’entreprise qui a le plus popularisé la construction de modèles génératifs utilisant une technologie appelée apprentissage profond, qui exploite un grand volume de données pour entraîner les systèmes d’IA. 

OpenAI propose des services de Chat, d’Image et d’Audio. Son GPT‑3, un modèle de langage autorégressif, a été entraîné avec 175 milliards de paramètres. Cependant, il a entraîné des modèles de langage encore meilleurs que GPT‑3 pour suivre les intentions des utilisateurs. 

Parmi les produits liés aux images, les recherches d’OpenAI sur la modélisation générative d’images ont conduit à des modèles de représentation comme CLIP, qui crée une correspondance entre texte et images pour que l’IA les interprète, et DALL‑E, un outil permettant de créer des images vivantes à partir de descriptions textuelles. 

Enfin, elle a réalisé des avancées dans le domaine audio avec Whisper, Jukebox et Musenet. Whisper offre des capacités robustes de reconnaissance vocale en anglais, tandis que Jukebox aide à générer de la musique dans divers genres et styles d’artistes. MuseNet est un réseau neuronal profond capable de générer des compositions musicales complètes avec une variété d’instruments. 

Selon les rapports publiés fin décembre 2023, OpenAI était en discussions préliminaires pour lever un nouveau tour de financement avec une valorisation égale ou supérieure à 100 $ milliards.

Au‑delà du plateau : la route à suivre 

L’intelligence artificielle a permis à la génération de contenu de parcourir des millions de kilomètres en très peu de temps. L’avenir sera plus lumineux et plus prospère, où les systèmes informatiques et les logiciels qui évoluent avec les données résoudront des problèmes inextricables. 

Tous les secteurs économiques pourront mieux exploiter la technologie en automatisant toutes sortes de travaux de connaissance répétitifs et chronophages. Alors que des modèles comme GPT‑4 augmenteront la productivité, les modèles d’IA open‑source entraîneront une réduction drastique des coûts d’exploitation et une efficacité radicalement accrue. Les chercheurs estiment non seulement l’évitement d’un plateau technologique, mais aussi le quadruplement de la productivité des travailleurs du savoir d’ici 2030. 

Cela souligne l’importance des grands modèles de langage dans l’écosystème technologique, ayant joué un rôle crucial dans tout cela. Ils ont aidé des produits comme ChatGPT à consolider la compréhension du public sur l’IA tout en leur permettant d’offrir une interface de chat simple que toute personne parlant n’importe quelle langue peut utiliser à son avantage.

Cliquez ici pour tout savoir sur l’investissement dans l’intelligence artificielle (IA).