Assurer l’authenticité à l’aube de l’intelligence artificielle (IA)

L’adoption de l’IA dans tous les domaines de la vie est en plein essor. Les estimations suggèrent que le marché est prêt à tripler au cours des sept prochaines années. 

Partant d’une taille d’environ 242 milliards de dollars US, on prévoit qu’il atteindra près de 740 milliards de dollars US d’ici 2030. Différents secteurs ont commencé à intégrer l’IA dans leurs opérations. Les industries qui l’ont le plus exploité jusqu’à présent sont la santé, la finance, la fabrication, les services aux entreprises et juridiques, etc. 

Dans une moindre mesure, l’IA a commencé à modifier les paradigmes opérationnels dans des secteurs tels que les médias, le divertissement, la sécurité, le commerce de détail, l’énergie, etc. 

Avec l’augmentation de l’adoption de l’IA, le défi d’assurer l’authenticité est apparu comme une problématique importante qui nécessite une attention immédiate. Nous commençons la discussion d’aujourd’hui en examinant quels sont ces défis.

Cliquez ici pour tout savoir sur l’investissement dans l’intelligence artificielle. 

Défis d’authenticité dans l’adoption de l’IA

Ce qui était la force de l’IA s’est révélé être sa faiblesse. Les algorithmes d’IA sont capables de générer des images, vidéos, articles et toute autre forme de contenu multimédia réalistes, qu’il peut être extrêmement difficile pour un spectateur moyen de distinguer de l’original. 

À l’œil moyen, cela peut sembler être une information authentique provenant d’une source réputée, alors qu’en réalité, il peut s’agir d’un contenu totalement opposé : du faux contenu généré à des fins de propagande malveillante. Plusieurs événements récents ont mis en lumière cet aspect de la montée de l’adoption de l’IA. 

Image d’explosion du Pentagone générée par IA

En mai 2023, une information a été publiée concernant une explosion près du Pentagone aux États-Unis. L’image montrait beaucoup de fumée noire s’échappant du jardin près du bâtiment du Pentagone. Cette image a été partagée par un compte Twitter vérifié, Bloomberg Feed, qui possédait la coche bleue. Peu après, de nombreux comptes vérifiés avec la coche bleue ont également partagé l’image. Pourtant, il s’agissait d’une image générée par IA, qui a trompé beaucoup de personnes. La récente politique de X consistant à rendre les coches bleues disponibles contre un abonnement mensuel de 8 $ US a aggravé le problème. 

Comme n’importe qui pouvait obtenir un compte vérifié et que les comptes vérifiés bénéficient d’une plus grande visibilité, la nouvelle s’est rapidement propagée, soulevant des inquiétudes concernant l’usurpation de personnalités publiques, de responsables gouvernementaux et de sites d’information, créant le chaos et une crise d’authenticité dans le domaine numérique.

Bien que l’image soit difficile à reconnaître comme générée par IA par un utilisateur moyen du réseau social X, certains chercheurs en IA ont pu identifier les défauts ou irrégularités. 

Selon Nick Waters un tel chercheur en IA :

“L’assemblage ‘inhabituel’ de la clôture du bâtiment avec les barrières de foule montrait que l’image aurait pu être créée ou manipulée artificiellement.”

Cependant, la falsification a atteint son objectif, même si ce n’est que pendant un bref instant, en créant le chaos et la confusion sur les réseaux sociaux et au-delà. 

Des milliers d’images falsifiées sur Adobe Stock

Selon un rapport publié dans le Washington Post, les images de stock concoctées par IA sont omniprésentes. Une recherche sur Adobe Stock avec le terme « Ukraine War » a donné plus de 15 000 images falsifiées du conflit. Le rapport a également noté une forte présence de centaines d’images IA de personnes lors de manifestations Black Lives Matter qui n’ont jamais eu lieu. 

Des dizaines d’images générées par IA étaient également disponibles pour les incendies de Maui. Beaucoup de ces images ressemblaient tellement aux photos réelles prises par des photojournalistes qu’il était difficile de distinguer les fausses des vraies. 

Le cas des extraits d’actualités apparemment réels

Selon un autre rapport publié par Forbes sur les faux générés par IA, la star de TikTok et YouTube Krishna Sahay fait partie de plusieurs utilisateurs des réseaux sociaux qui utilisent l’IA générative pour créer des extraits d’actualités apparemment réels de grands présentateurs des principaux médias grand public, dont le travail bénéficie d’une grande crédibilité. 

De CBS à CNN en passant par la BBC, de nombreux présentateurs de ces chaînes d’information figurent sur cette liste. Ces vidéos sont également connues sous le nom de deep fakes, où de puissants algorithmes d’IA générative créent du contenu audiovisuel qui ressemble et sonne comme les présentateurs eux‑mêmes. 

Selon le rapport, Krishna Sahay seul possède une audience de plusieurs millions. Les vidéos de Sahay comprennent des commentaires problématiques sur des présentateurs falsifiés par IA concernant des sujets sensibles, tels que les fusillades dans les écoles, les attentats terroristes, les attaques criminelles, etc. 

Selon Hany Farid, expert en deep fake et professeur à l’UC Berkeley, ces vidéos exploitent la popularité et la crédibilité des présentateurs d’actualité connus comme un « véhicule convaincant pour diffuser de la désinformation ». 

Selon le Prof. Farid : « Dans de nombreux cas, les présentateurs sont connus du public et dignes de confiance, et même si ce n’est pas le cas, le format général de l’actualité est familier et donc plus fiable. » Il estime que pour stopper cette menace, il faut « prendre plus au sérieux la protection des droits des personnes dont l’image et la voix sont détournées ». 

Deep fakes de la guerre du Gaza

Internet a également été le théâtre d’une importante invasion de vidéos deep fake liées à la guerre du Gaza. En réponse à ce défi, Jean‑Claude Goldenstein, PDG de CREOpoint, une société technologique spécialisée dans l’IA, a joué un rôle essentiel dans l’évaluation de la validité de ce type de contenu. Reconnaissant la gravité de la situation, l’entreprise a développé une base de données des deep fakes les plus viraux issus du Gaza, marquant une étape cruciale dans la lutte contre cette menace numérique. 

According to Goldenstein:

“Images, vidéos et audio : avec l’IA générative, cela va entraîner une escalade que vous n’avez jamais vue.”

Ces vidéos réutilisent souvent du contenu provenant de conflits antérieurs. Elles cherchent à susciter une forte réaction émotionnelle en accentuant l’intensité de la catastrophe. 

Outre une connaissance approfondie de l’IA générative, ces équipes de création de deep fakes comprennent des personnes qui maîtrisent la psychologie humaine et savent comment cibler les impulsions et les angoisses les plus profondes des gens. 

Entre les mains de propagandistes, de théoriciens du complot, de terroristes ou d’organisations d’escroquerie, les outils d’IA générant du faux contenu sont devenus l’une des armes les plus mortelles. Le besoin de les contrôler augmente chaque jour. 

L’une des méthodes les plus efficaces pour combattre cette menace croissante serait d’assurer l’authenticité de la source. Les efforts de recherche et de développement de solutions pour garantir l’authenticité sont en plein essor. Voici quelques exemples concrets. 

Comment garantir l’authenticité du contenu à l’ère de l’intelligence artificielle ?

Technologie d’authentification intégrée à l’appareil photo de Sony

Sony Electronics s’apprête à proposer une solution novatrice. Elle a achevé le deuxième cycle de tests de sa technologie d’authenticité intégrée à l’appareil photo en collaboration avec l’Associated Press. 

Le but de cette technologie est d’équiper les images capturées d’un certificat de naissance qui authentifiera l’origine du contenu. Plus précisément, il s’agira d’une signature numérique basée sur la machine, générée à l’intérieur de l’appareil photo au moment même de la capture, au niveau du chipset matériel.

Selon Neal Manowitz, président et directeur des opérations de Sony Electronics, la « technologie d’authenticité intégrée à l’appareil photo a montré des résultats précieux », et l’entreprise « continuera à pousser son développement vers une diffusion plus large ». 

Le test de terrain conjoint de Sony Electronics et de l’AP a été achevé en octobre de cette année. L’objectif de ce cycle de tests était d’évaluer l’efficacité de l’authentification de la capture et du flux de travail associé.

Le troisième collaborateur de ce projet était CameraBits, connu pour avoir créé l’outil de flux de travail standard de l’industrie, PhotoMechanic.

Le rôle de CameraBits dans cette collaboration consistait à fournir la technologie permettant de préserver la signature numérique de l’appareil via le processus d’édition des métadonnées.

Selon David Ake, directeur de la photographie de l’Associated Press, « Les images falsifiées et manipulées constituent une préoccupation majeure pour les organisations de presse. Elles ne se contentent pas de contribuer à la désinformation, elles érodent finalement la confiance du public dans des images factuelles et précises. »

La technologie de signature et d’authentification intégrée à l’appareil sera déployée sous forme de mise à jour du firmware sur plusieurs modèles au printemps 2024.

Sony Group Corporation (SONY ) a une capitalisation boursière de 106,35 milliards de dollars, un ratio P/E de 19,49, et en 2022, elle a enregistré un chiffre d’affaires de 82,64 milliards de dollars.

Technologie pour combattre les manipulations vocales deep fake

Les technologies basées sur l’IA ont conduit à des avancées dans la synthèse vocale réaliste. Dans leur forme initiale, ces technologies peuvent être très bénéfiques. Elles peuvent aider à concevoir des assistants vocaux personnalisés et d’autres outils de communication qui améliorent l’accessibilité. Cependant, à l’inverse, beaucoup les utilisent pour créer des voix pour des vidéos deep fake. 

Pour répondre à cette menace, Ning Zhang, professeur adjoint d’informatique et d’ingénierie à la McKelvey School of Engineering de l’Université Washington, a développé un outil nommé AntiFake. Il ne s’agit pas d’un outil d’atténuation qui aide à la détection après une attaque. Au contraire, c’est un outil proactif visant à éradiquer le problème dès le départ. 

According to Prof. Zhang:

“AntiFake s’assure que lorsque nous diffusons des données vocales, il est difficile pour les criminels d’utiliser ces informations pour synthétiser nos voix et nous usurper.”

Dans une démarche intéressante pour combattre les cybercriminels sophistiqués, le Prof. Zhang a décidé de leur rendre la monnaie. Selon lui :

“L’outil utilise une technique d’IA adversaire qui faisait initialement partie de la boîte à outils des cybercriminels, mais nous l’utilisons maintenant pour nous défendre contre eux.”

Le principe de fonctionnement de base d’AntiFake consiste à déformer légèrement le signal audio enregistré. La nature de la distorsion est si finement calibrée que, bien qu’elle semble correcte à l’oreille humaine, elle est perçue comme totalement différente par l’IA. 

Selon les données publiques disponibles, AntiFake a affiché un taux de protection supérieur à 95 %. Il a également prouvé son efficacité en étant accessible à des populations diverses. 

Utilisation de la blockchain pour garantir l’authenticité

OARO Media solutions tirent parti des propriétés d’immutabilité de la blockchain pour lutter contre la menace des deep fakes. Elles permettent de créer une traçabilité de données immuable pour les entreprises, les autorités gouvernementales et les utilisateurs individuels afin d’authentifier toute photo ou vidéo. 

Le fonctionnement d’Oaro Media sur le téléphone mobile d’un utilisateur est simple mais d’une efficacité révolutionnaire. L’utilisateur commence par accéder à la caméra du téléphone via un lien web SMS ou l’application d’un assureur. Ensuite, un certificat est délivré au contenu visuel, incluant un enregistrement infalsifiable de l’ID utilisateur, du contenu, de l’horodatage et des coordonnées GPS. Ce processus aide le secteur de l’assurance à authentifier les sinistres et à distinguer les faux générés par IA des contenus réels. 

Arrêter l’utilisation des deep fakes dans le cadre de la guerre de l’information

Les solutions et services anti‑deep‑fake de Sentinel aident les gouvernements démocratiques, les agences de défense et les entreprises à protéger leurs ressources contre les impacts du contenu IA généré de manière malveillante. Elles se sont associées à l’Union européenne et au ministère estonien des Affaires économiques et des Communications. Cependant, il s’agit d’une solution post‑attaque qui permet de détecter les deep fakes une fois qu’ils sont en circulation. 

Son fonctionnement repose sur un flux simple en quatre étapes. Dans la première étape, l’utilisateur télécharge le média numérique via le site web ou l’API de Sentinel. Le système Sentinel analyse automatiquement le média pour détecter les falsifications IA. Il fournit ensuite un verdict indiquant si le média est un deep fake ou non. Enfin, pour sensibiliser les utilisateurs au processus, il affiche une visualisation de la manipulation. 

Assurer l’authenticité à l’ère de l’IA : scénario d’innovation florissante pour le futur

Le contenu non authentique généré par l’IA est un outil puissant pour déformer la réalité et diffuser une propagande malveillante. Même lorsqu’il est créé pour des raisons apparemment bénignes, comme une blague ou des likes sur les réseaux sociaux, il peut inciter à une violence à grande échelle. 

Son impact s’étend à une méfiance croissante dans divers domaines, des relations diplomatiques entre États aux interactions entre les entreprises de services et leurs utilisateurs, voire les relations personnelles. Ainsi, il est encourageant que les chercheurs et scientifiques technologiques du monde entier aient reconnu les dangers du contenu falsifié incontrôlé. Nous avons déjà mis en avant plusieurs initiatives qui traitent de ce problème.

Il y en a beaucoup d’autres. Sensity, par exemple, développe une plateforme d’intelligence des menaces visuelles. Son API est déjà capable de détecter les dernières techniques de manipulation et de synthèse basées sur l’IA. Une autre startup, Quantum Integrity, a mis au point des solutions SaaS d’IA capables de détecter les falsifications d’images et de vidéos. 

Les cybercriminels continueront effectivement à inventer de nouvelles techniques pour nous tromper. Mais de nombreuses entreprises seront capables d’anticiper et de les contrecarrer. Avec l’innovation qui progresse à un rythme soutenu, le combat n’est plus une lutte David contre Goliath. 

Cliquez ici pour tout savoir sur l’investissement dans cinq technologies convergentes.