Assurer l’authenticité avec l’avènement de l’intelligence artificielle (IA)

L’adoption de l’IA dans tous les aspects de la vie est en plein essor. Les estimations suggèrent que le marché devrait tripler dans les sept prochaines années.

D’une taille d’environ 242 milliards de dollars, il devrait atteindre près de 740 milliards de dollars d’ici 2030. Différentes industries ont commencé à intégrer l’IA dans leurs opérations. Les industries qui l’ont le plus exploitée jusqu’à présent sont les soins de santé, la finance, la fabrication, les services commerciaux et juridiques, etc.

Dans une moindre mesure, l’IA a commencé à modifier les paradigmes opérationnels dans des industries comme les médias, le divertissement, la sécurité, la vente au détail, l’énergie, etc.

Avec l’adoption accrue de l’IA, le défi de garantir l’authenticité est apparu comme un problème important qui nécessite une attention immédiate.Nous commençons aujourd’hui notre discussion en examinant quels sont ces défis.

Cliquez ici pour en savoir plus sur l’investissement dans l’intelligence artificielle.

Défis d’authenticité dans l’adoption de l’IA

Ce qui constitue la force de l’IA est devenue sa faiblesse. Les algorithmes d’IA sont capables de générer des images, des vidéos, des articles et tout autre type de contenu multimédia réaliste qui pourrait être extrêmement difficile pour un spectateur moyen de distinguer de l’original.

Pour l’œil moyen, il peut sembler s’agir d’informations authentiques provenant d’une source réputée, alors qu’en réalité, il pourrait s’agir de contenu faux généré à des fins de propagande malveillante. Plusieurs événements sont survenus récemment qui mettent à nu cet aspect de l’adoption croissante de l’IA.

Image de l’explosion du Pentagone générée par l’IA

En mai 2023, des informations ont été publiées sur une explosion près du Pentagone aux États-Unis. L’image montrait beaucoup de fumée noire s’échappant du jardin près du bâtiment du Pentagone. Cette image a été partagée par un compte Twitter vérifié, Bloomberg Feed, qui avait un tick bleu. Peu de temps après, de nombreux comptes vérifiés avec des ticks bleus ont également partagé l’image. Pourtant, il s’agissait d’une image générée par l’IA, et elle a trompé beaucoup de gens. La politique récente de X pour rendre les ticks bleus disponibles pour une charge mensuelle de 8 dollars a encore aggravé le problème.

Puisque n’importe qui pouvait avoir un compte vérifié et que les comptes vérifiés obtiennent plus de visibilité, les informations se sont propagées rapidement, suscitant des inquiétudes quant à l’usurpation d’identité de personnalités publiques, de fonctionnaires gouvernementaux et de sites d’actualité, créant ainsi un chaos et une crise d’authenticité dans le domaine numérique.

Bien que l’image puisse à peine être reconnue comme générée par l’IA par un utilisateur général de médias sociaux X, certains chercheurs en IA ont pu identifier les défauts ou les irrégularités.

Selon Nick Waters,un tel chercheur en IA :

“Le « mélange inhabituel » de la clôture du bâtiment avec les barrières de la foule montre que l’image pourrait avoir été fabriquée ou manipulée artificiellement.”

Cependant, la fausse information a atteint son objectif, même si ce n’était que pour un bref moment, en créant un chaos et une confusion sur les médias sociaux et au-delà.

Des milliers d’images fausses sur Adobe Stock

Selon un rapport publié dans le Washington Post, les images de stock conçues par l’IA sont rampantes. Une recherche sur Adobe Stock avec le terme « guerre en Ukraine » a donné plus de 15 000 images fausses du conflit. Le rapport a également noté une forte présence de centaines d’images d’IA de personnes lors de manifestations Black Lives Matter qui n’ont jamais eu lieu.

Des dizaines d’images générées par l’IA étaient également disponibles pour les incendies de forêt de Maui. Beaucoup de ces images ressemblaient tellement à des photos réelles prises par des photojournalistes qu’il était difficile de les distinguer des vraies.

Le cas de clips d’actualité ressemblant à la vie réelle

Selon un autre rapport publié par Forbes sur les fausses informations générées par l’IA, Krishna Sahay, une star de Tiktok et YouTube, est l’un des nombreux utilisateurs de médias sociaux qui utilisent l’IA générative pour créer des clips d’actualité ressemblant à la vie réelle avec des présentateurs de nouvelles de grands médias mainstream dont le travail est très crédible.

De CBS à CNN en passant par la BBC, de nombreux présentateurs de ces agences de presse figurent sur cette liste. Ces vidéos sont également connues sous le nom de deepfakes, où des algorithmes d’IA générative puissants aident à créer du contenu audiovisuel qui ressemble et sonne comme les présentateurs eux-mêmes.

Selon le rapport, Krishna Sahay a seul un public de millions. Les vidéos de Sahay comprennent des commentaires problématiques de présentateurs de fausses informations manipulées par l’IA sur des questions sensibles telles que les fusillades dans les écoles, les attaques terroristes, les attaques criminelles et plus encore.

Selon Hany Farid, un expert en deepfakes et professeur à l’UC Berkeley, ces vidéos exploitent la popularité et la crédibilité des présentateurs de nouvelles connus comme un « vaisseau convaincant pour délivrer de la désinformation ».

Selon le professeur Farid : « Dans de nombreux cas, les présentateurs sont connus des téléspectateurs et sont de confiance, et même s’ils ne le sont pas, le format général des actualités est familier et donc plus de confiance. » Il estime que pour arrêter ce fléau, il faudrait « devenir plus sérieux dans la protection des droits des personnes dont la ressemblance et la voix sont utilisées ».

Deepfakes de la guerre de Gaza

Internet a également vu une invasion importante de vidéos deepfakes liées à la guerre de Gaza. En réponse à ce défi, Jean-Claude Goldenstein, PDG de CREOpoint, une société de technologie spécialisée dans l’IA, a joué un rôle instrumental dans l’évaluation de la validité d’un tel contenu. Reconnaissant la gravité de la situation, la société a développé une base de données des deepfakes les plus viraux qui ont émergé de Gaza, marquant une étape cruciale pour lutter contre cette menace numérique.