L’IA réinvente les médias sociaux et la confiance en ligne

Le contenu généré par l’IA est partout, noyant le contenu authentique créé par les humains et transformant complètement le paysage des médias sociaux. Son influence s’est désormais étendue au-delà des plateformes pour avoir un impact sur l’arène politique, l’Internet dans son ensemble et même l’économie mondiale.

Cela signifie-t-il que les médias sociaux sont en voie de disparition ? Eh bien, découvrons-le.
Résumé :
Le contenu généré par l’IA réinvente les médias sociaux en inondant les plateformes de médias synthétiques, en érodant la confiance et en déplaçant les interactions humaines significatives vers des espaces privés et vérifiables.

De la connexion humaine aux flux synthétiques

Il y a environ quatre décennies, les premières formes d’interaction sociale en ligne ont émergé, commençant par les systèmes de bulletin board (BBS), Usenet et les premiers forums à la fin des années 1970 et 1980. Cependant, les premières plateformes de réseautage social reconnaissables n’ont pas apparu avant la moitié à la fin des années 1990, jetant les bases de ce qui allait devenir les médias sociaux modernes.

Le début du 21e siècle a marqué la popularité généralisée des médias sociaux avec des sites comme Friendster, MySpace et Facebook. Cette ère moderne des médias sociaux a permis une connexion instantanée à l’échelle mondiale, permettant aux gens de maintenir des relations, d’accéder à des actualités en temps réel et de construire des communautés autour d’intérêts partagés.

Mais maintenant, juste un couple de décennies plus tard, le visage des médias sociaux change avec la prolifération du contenu généré par l’IA.

Traditionnellement, les valeurs fondamentales des médias sociaux ont été la connexion et l’expression, mais celles-ci ont été remplacées par une production automatisée de masse. Avec les flux des gens dominés par du bruit synthétique, le désengagement et la méfiance parmi les masses grandissent rapidement.

Selon le dirigeant d’Instagram, une grille soigneusement mise en page est maintenant une chose du passé.

Dans un message sur Threads, le chef d’Instagram Adam Mosseri a averti que la montée de l’IA a tué l’esthétique polie du site de médias sociaux. Tous ces maquillages, lissages de peau, paysages magnifiques et photographies à fort contraste sont maintenant « morts », car « les gens ont largement cessé de partager des moments personnels pour nourrir les années », a-t-il déclaré.

Au lieu de cela, des « candidats non flatters » non polis sont partagés via des messages directs.

La pervasité des images générées par l’IA signifie que les créateurs doivent s’éloigner des grilles mises en page et de la photographie de style professionnel pour une « esthétique plus brute », avec des gens qui veulent du « contenu qui se sent réel » plutôt que des images flatteuses, qui sont « bon marché à produire et ennuyeuses à consommer ».

Bientôt, nous allons voir la maturation des outils d’IA et, avec cela, l’expansion de la gamme d’esthétiques qu’ils peuvent produire, a déclaré Mosseri, tout en notant que déjà, les flux de médias sociaux commencent à se remplir de « tout synthétique », ce qui signifie que les plateformes doivent évoluer pour gérer l’inondation de contenu généré par l’IA.

Pendant ce temps, le cofondateur et PDG de Substack, Chris Best, a déclaré fin dernière année que le « bavardage » généré par l’IA pourrait inonder Internet, ce qui « garde les gens bêtes en train de cliquer ».

« Bavardage » a été choisi comme mot de l’année 2025 par le dictionnaire américain Merriam-Webster, qui le définit comme « contenu numérique de mauvaise qualité produit, généralement en quantité, par le biais de l’intelligence artificielle ».

L’essor de l’Internet des bots

Balayez pour faire défiler →

Les données montrent qu’environ un tiers de tout le trafic Internet provient de bots, des logiciels automatisés qui imitent le comportement humain.

Cela a donné naissance à la théorie de l’Internet mort, qui soutient que l’Internet se compose principalement d’activité de bots et de contenu généré par des algorithmes conçus pour contrôler la population mondiale.

Le cofondateur de Reddit (RDDT ) Alexis Ohanian croit qu’il y a un peu de vérité dans cette idée, et qu’une nouvelle ère de médias sociaux émergera à cause de cela. « Avoir la preuve de la vie, comme des téléspectateurs en direct et du contenu en direct, est vraiment très précieux pour retenir l’attention », a-t-il déclaré dans un podcast.

Le fondateur et PDG d’OpenAI, Sam Altman, a partagé une vue similaire sur X l’année dernière, en publiant :

« Je n’ai jamais pris la théorie de l’Internet mort très au sérieux, mais il semble qu’il y a vraiment beaucoup de comptes Twitter gérés par LLM. »

L’activité des bots sur X (anciennement connu sous le nom de Twitter) empire réellement. On estime qu’environ 10% des comptes X sont des bots, totalisant des millions d’utilisateurs.

Pendant ce temps, plus de 20% des vidéos que l’algorithme de YouTube montre aux nouveaux utilisateurs se sont avérées être des « bavardages d’IA ».

Comment les plateformes de médias sociaux amplifient le contenu d’IA

Les plateformes de médias sociaux ont été submergées de contenu généré par l’IA grâce à une croissance explosive de l’écosystème d’outils génératifs.

Par exemple, des outils comme Sora, Midjourney, Pika, Runway et Stable Diffusion ont rendu extrêmement facile la création d’images et de vidéos de presque tout.

Un nombre croissant de solutions rendent même plus facile pour les gens d’augmenter les vues et de profiter des programmes de récompenses de créateurs ou de liens d’affiliation. Ils ne génèrent pas seulement du contenu, mais le publient également directement sur des plateformes comme YouTube, pour un frais, faisant plus de 100 vidéos par mois sur un seul compte. Ces solutions visent à automatiser le processus complet de création de contenu.

Mais ce n’est pas tout. Les chercheurs ont découvert que les plateformes ont en fait amplifié les publications générées par l’IA. Des plateformes comme TikTok, Instagram et Meta (META ) offrent même des fonctionnalités d’IA natives qui permettent aux utilisateurs de générer des visuels, des scripts ou de remixer des médias existants sans logiciel externe.

Meta, en particulier, a adopté le contenu généré par l’IA avec enthousiasme, allant même jusqu’à créer son propre « bavardage ». En 2023, la société a introduit des profils alimentés par l’IA et a annoncé des plans pour peupler sa plateforme de personnages d’IA. Mais après avoir reçu un important retour négatif des utilisateurs, Meta a mis fin aux profils d’IA l’année dernière.

Instagram, pendant ce temps, a lancé un studio d’IA qui permet aux utilisateurs de produire des chatbots personnalisés, y compris leurs propres versions numériques.

Récemment, TikTok a révélé qu’il y avait au moins 1,3 milliard de publications générées par l’IA sur sa plateforme, avec plus de 100 millions de pièces de contenu téléchargées chaque jour. Pour la transparence, TikTok étiquette le contenu généré par l’IA et donne même aux utilisateurs la possibilité de réduire la quantité de contenu d’IA qu’ils voient.

Mais AI Forensics, une organisation à but non lucratif basée à Paris, a constaté que moins de 2% des comptes avaient l’étiquette TikTok pour le contenu d’IA. Parfois, ils échappent également à la modération de la plateforme pendant des mois, malgré la publication de contenu interdit par les conditions de service de TikTok.

Selon le rapport, plus de 350 comptes axés sur l’IA ont poussé 43 000 publications réalisées avec l’aide d’outils d’IA de génération, accumulant 4,5 milliards de vues sur une période d’un mois. Les chercheurs ont déclaré :

« La frontière floue entre le contenu humain authentique et le contenu synthétique généré par l’IA sur la plateforme signale un nouveau tournant vers plus de contenu généré par l’IA sur les flux des utilisateurs. »

La survie de l’authenticité face à l’automatisation

Autrefois animés par une activité réelle, où les amis se réunissaient et partageaient des moments spéciaux, les réseaux sociaux deviennent maintenant des villes fantômes, peuplées d’entités artificielles simulant l’engagement humain et publiant du contenu généré par l’IA.

Même si vous pensez pouvoir simplement bloquer ces utilisateurs et ce contenu, une étude a découvert¹ que les gens ne peuvent pas distinguer l’IA d’un humain, même lorsqu’ils sont familiers avec le sujet de la LLM.

L’étude a évalué à quel point les humains détectent le contenu généré par l’IA et a constaté que le texte humain a été reconnu avec précision comme tel seulement 67% du temps, tandis que le GPT-4 a été détecté à tort comme humain 54% du temps.

Selon le dirigeant d’Instagram Mosseri, les plateformes de médias sociaux ne feront que empirer pour identifier les médias générés par l’IA avec le temps, à mesure que la technologie s’améliore. Une solution pourrait être que les sociétés de caméras signent cryptographiquement les photos lors de leur prise pour prouver qu’elles sont réelles.

La solution pour atténuer le pouvoir des bots, selon Ohanian, est de voir « une nouvelle génération de médias sociaux émerger qui est vérifiablement humaine ».

Alors que les progrès de la technologie ont optimisé la plupart d’Internet pour l’engagement, que Best a comparé à « une dépendance », et croit « qui va être superchargé », il est toujours optimiste quant à un avenir alternatif.

« L’autre objectif des médias est la culture », a-t-il ajouté, « c’est quelque chose que les gens veulent vraiment ».

Selon le PDG de Substack, Chris Best, cette même technologie a le potentiel de permettre « un avenir où il y a beaucoup plus de levier créatif » pour les créateurs indépendants. Le véritable goulet d’étranglement pour les médias, a-t-il noté, n’est pas le contenu, dont il n’y a « pas de pénurie », mais l’attention. « Nous sommes entrés dans un monde où l’attention est la ressource rare », a-t-il déclaré.

« Nous avons gagné la guerre contre l’ennui », a déclaré Best, ajoutant qu’« il y a une grande pénurie de bon contenu ».

Pendant ce temps, Wikimedia Deutschland a lancé le projet d’intégration de Wikidata, qui a converti environ 120 millions de points de données ouverts dans Wikidata en un format plus facile à utiliser pour les LLM, aidant les systèmes d’IA à accéder à des données de meilleure qualité gratuitement et à améliorer leur précision.

Réglementation, recherche et lutte pour la confiance

Alors que l’IA prend le contrôle d’Internet, les chercheurs se sont efforcés de comprendre son impact. Une telle étude, intitulée L’impact de l’IA générative sur les médias sociaux : une étude expérimentale², a examiné comment l’assistance à l’IA affecte la production de contenu et les perceptions des utilisateurs, et a constaté que les outils d’IA sont bénéfiques pour augmenter le volume de contenu et l’engagement, mais diminuer la qualité et l’authenticité perçues.

Sur la base de leurs constatations, ils ont recommandé que les plateformes de médias sociaux, les décideurs politiques et les parties prenantes conçoivent des outils avec une personnalisation axée sur l’utilisateur, en intégrant la sensibilité au contexte et en donnant la priorité à des interfaces utilisateur intuitives pour une intégration éthique et efficace de l’IA générative dans les médias sociaux.

Les chercheurs ont également recommandé d’assurer une divulgation transparente du contenu généré par l’IA, car d’autres études³ ont trouvé⁴ que cela améliore la confiance sans nuire à l’engagement.

En ce qui concerne la réglementation, les gouvernements du monde entier ont également pris des mesures pour promouvoir et réglementer l’utilisation responsable de l’intelligence artificielle.

Dans l’Union européenne (UE), la loi sur l’IA se concentre sur la transparence, la classification des risques et les obligations pour les systèmes à haut risque.

La loi sur la sécurité en ligne (OSA), pendant ce temps, a donné au régulateur des communications Ofcom une autorité étendue pour exiger que les plateformes gèrent le contenu nuisible ou trompeur au Royaume-Uni, même si les décideurs politiques ont demandé une mise à niveau pour lutter plus efficacement contre la désinformation alimentée par l’IA.

Aux États-Unis, le président Donald Trump a publié un décret exécutif pour supprimer les obstacles au leadership américain dans l’IA et a publié un plan d’action pour assurer sa domination dans le secteur. Puis, le mois dernier, il a ordonné une norme nationale qui permet aux sociétés d’IA d’innover sans réglementations encombrantes.

Pendant ce temps, le cadre de la Chine a été l’un des plus détaillés au niveau mondial pour réglementer la création et la distribution de contenu d’IA. Son administration de l’espace numérique a mis en œuvre une étiquetage obligatoire pour le contenu généré par l’IA, exigeant des avertissements visibles et des métadonnées intégrées pour éviter la désinformation et la fraude.

Certains gouvernements poussent également des enquêtes sur les plateformes en raison de la désinformation générée par l’IA. Récemment, la Pologne a demandé à la Commission européenne d’enquêter sur TikTok pour avoir hébergé du contenu d’IA qu’elle jugeait déstabilisant.

« Le contenu divulgué constitue une menace pour l’ordre public, la sécurité de l’information et l’intégrité des processus démocratiques en Pologne et dans l’Union européenne », a déclaré le ministre adjoint de la numérisation, Dariusz Standerski, dans une lettre envoyée à la Commission. « La nature des récits, la manière dont ils sont distribués et l’utilisation de matériaux audiovisuels synthétiques indiquent que la plateforme ne respecte pas les obligations qui lui sont imposées », a-t-il ajouté.

Pour l’instant, le paysage politique de l’IA reste une question émergente dans le monde, fragmenté entre les juridictions et luttant pour suivre le rythme auquel les systèmes génératifs transforment les flux d’information, la confiance du public et le discours démocratique.

Investir dans les infrastructures d’IA

Dans le monde de l’IA, Palantir Technologies Inc. (PLTR ) se distingue par sa spécialisation dans l’analyse de données de grande échelle alimentée par l’IA.

Elle a construit quatre principales plateformes logicielles, notamment Apollo, Gotham, Foundry et Artificial Intelligence Platform (AIP). Apollo est une couche de contrôle qui harmonise la livraison de nouvelles fonctionnalités, de configurations et de mises à jour de sécurité pour assurer le fonctionnement continu des systèmes critiques. Gotham aide à identifier les modèles au sein des ensembles de données, et Foundry aide les organisations à créer un système d’exploitation central pour leurs données. L’AIP permet l’activation efficace de grands modèles de langage et d’autres IA au sein de toute organisation.

Notamment, les plateformes de Palantir sont utilisées par les gouvernements et les entreprises pour détecter la désinformation, les réseaux de bots et la distribution de médias synthétiques. Ces outils sont conçus pour identifier un comportement authentique par rapport à un comportement non authentique au sein d’écosystèmes d’information complexes.

De plus, l’analyse d’IA est de plus en plus utilisée par les organisations et les gouvernements pour surveiller les menaces pour la santé et la sécurité. Avec une capitalisation boursière de 400 milliards, les actions PLTR sont actuellement cotées à 174, en hausse de plus de 110% au cours de la dernière année. Elle a un BPA (TTM) de 0,43 et un P/E (TTM) de 392,56.

En ce qui concerne sa situation financière, Palantir a annoncé un chiffre d’affaires de 1,181 milliard de dollars pour le troisième trimestre clos le 30 septembre 2025, représentant une croissance de 63% d’une année sur l’autre et de 18% d’un trimestre sur l’autre, réalisant un nouveau record de chiffre d’affaires dans son histoire de plus de vingt ans. Son bénéfice pour le trimestre était de 476 millions de dollars.

« Nous sommes encore au tout début des choses. Cela reste le début, le premier moment du premier chapitre. »

– Co-fondateur et PDG Alex C. Karp, dans une lettre aux actionnaires

Son chiffre d’affaires américain, en particulier, a augmenté de 77% d’une année sur l’autre et de 20% d’un trimestre sur l’autre, pour atteindre 883 millions de dollars. Cela comprend 486 millions de dollars de chiffre d’affaires du gouvernement américain, qui a bondi de 52% d’une année sur l’autre et de 14% d’un trimestre sur l’autre, et 397 millions de dollars de chiffre d’affaires commercial américain, qui a augmenté de 121% d’une année sur l’autre et de 29% d’un trimestre sur l’autre. Karp a qualifié le segment commercial américain de « véritable juggernaut » qu’il pense « devenir, à lui seul, l’une des plus grandes histoires commerciales du siècle dans la vie économique américaine ».

Pendant cette période, le nombre de clients de Palantir a augmenté de 45% d’une année sur l’autre. Pendant ce temps, son flux de trésorerie disponible ajusté était de 540 millions de dollars, son bénéfice par action était de 0,18 dollar et son bénéfice par action ajusté était de 0,21 dollar. Elle a terminé le trimestre avec 6,4 milliards de dollars en liquidités, en équivalent de liquidités et en titres du Trésor américain à court terme.

« Ces résultats rendent indéniable l’impact de transformation de l’utilisation de l’AIP pour compacter le levier de l’IA », a noté la société.

Pour le quatrième trimestre 2025, Palantir prévoit un chiffre d’affaires compris entre 1,327 et 1,331 milliard de dollars et un bénéfice d’exploitation ajusté compris entre 695 et 699 millions de dollars.

En ce qui concerne l’année complète 2025, Palantir a révisé ses prévisions de chiffre d’affaires à 4,396-4,400 milliards de dollars et prévoit une croissance d’au moins 104% de son chiffre d’affaires commercial américain pour dépasser 1,433 milliard de dollars. Pendant ce temps, ses prévisions de bénéfice d’exploitation ajusté ont été révisées à 2,151-2,155 milliards de dollars, et ses prévisions de flux de trésorerie disponible ajusté à 1,9-2,1 milliard de dollars.
Prise d’investisseur :
Alors que le contenu d’IA s’étend plus vite que l’attention humaine, la demande augmente pour des infrastructures qui régissent l’authenticité, la modération et la confiance, créant des opportunités à long terme au-delà des plateformes de médias sociaux grand public.

Dernières actualités sur Palantir Technologies Inc. (PLTR)

Conclusion

Les médias sociaux, tels que nous les connaissons, sont clairement en train de disparaître. Ce n’est plus l’endroit où les gens partageaient activement leurs intérêts, leurs souvenirs et leurs idées de manière authentique. Ce qui a été construit sur la connexion humaine est maintenant envahi par du contenu automatisé et des bots.

Alors que l’IA a débloqué un levier créatif et une efficacité économique sans précédent, elle a également érodé les signaux qui rendaient autrefois l’interaction en ligne significative.

L’avenir des médias sociaux va probablement se diviser, avec un chemin menant vers des flux hyper-automatisés optimisés pour l’engagement et l’autre pointant vers des espaces vérifiablement humains qui donnent la priorité à la culture, à la crédibilité et au contexte plutôt qu’à la portée.

Références

<sup>1. Jones, C. R. & Bergen, B. K. « Les gens ne peuvent pas distinguer GPT-4 d’un humain dans un test de Turing. » arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. « L’impact de l’IA générative sur les médias sociaux : une étude expérimentale. » arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. « Étiquetage du contenu synthétique : perceptions des utilisateurs des conceptions d’étiquettes de warning pour le contenu généré par l’IA sur les médias sociaux. » arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. « Examiner l’impact du détail de l’étiquette et du contenu sur les perceptions des utilisateurs des images générées par l’IA sur les médias sociaux. » arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>