EU AI Act: Une étape importante vers la gouvernance mondiale de l’IA

Ces dernières années, l’intelligence artificielle (IA) est apparue comme un outil puissant qui a transformé de nombreux aspects de la vie moderne, y compris la création et la consommation de contenu. L’utilisation d’outils d’IA générative comme ChatGPT a ouvert de nouvelles possibilités pour la création de contenu, mais a également soulevé de nouveaux défis et questions concernant le droit d’auteur. La question du droit d’auteur et du contenu généré par l’IA est complexe, impliquant diverses considérations juridiques et éthiques.

À mesure que les technologies d’IA deviennent plus répandues dans la création de contenu, il est essentiel d’aborder les questions de propriété, d’attribution et de rémunération des œuvres générées par l’IA. L’un des principaux défis est que les lois actuelles sur le droit d’auteur peinent à suivre le rythme rapide des avancées technologiques de l’IA. Le cadre juridique actuel, conçu pour les formes traditionnelles de création de contenu, n’est peut-être pas suffisamment équipé pour traiter les aspects uniques du contenu généré par l’IA.

De plus, à mesure que le contenu généré par l’IA se répand, il est crucial de considérer les implications éthiques, notamment en ce qui concerne les problèmes de biais, de confidentialité et de responsabilité. Les algorithmes d’IA peuvent amplifier les biais existants, entraînant un traitement injuste de certains groupes ou individus. En outre, le contenu généré par l’IA peut soulever des préoccupations en matière de confidentialité, car il peut impliquer l’utilisation de données personnelles.

Pour relever ces défis, les décideurs politiques, les dirigeants de l’industrie et les autres parties prenantes travaillent à établir des lignes directrices et des réglementations claires qui équilibrent les intérêts des créateurs, des utilisateurs et des technologies d’IA tout en tenant compte des implications éthiques du contenu généré par l’IA. Par exemple, l’Union européenne (UE) rédige actuellement le AI Act, une nouvelle loi visant à réguler l’utilisation des technologies d’IA dans l’UE. Nous aborderons davantage ce sujet dans cet article.

Qu’est‑ce que le AI Act de l’UE ?

L’Union européenne (UE) a présenté le AI Act de l’UE en avril 2021, proposant un cadre juridique et réglementaire complet pour l’IA. Le règlement proposé couvre tous les types d’IA dans divers secteurs, y compris les entités qui utilisent les systèmes d’IA à des fins professionnelles. Le règlement vise à relever les défis et les risques liés au développement et au déploiement de l’IA, y compris l’IA discriminatoire et violatrice des droits.

Le AI Act de l’UE place principalement la responsabilité sur les fournisseurs de systèmes d’IA pour créer un cadre juridique pour le développement, la distribution et l’utilisation de l’IA. Le règlement comprend des articles larges et généraux afin d’assurer son application à travers différentes industries et cas d’usage. Le AI Act de l’UE est actuellement en cours de processus législatif et est soumis à la procédure législative ordinaire de l’UE. Les membres du Parlement européen ont approuvé le projet de AI Act de façon préliminaire en avril 2023, et le texte doit être soumis à un vote en séance plénière en juin 2023. Une fois approuvé, le AI Act de l’UE fera partie des premières réglementations spécifiques à l’IA dans le monde.

Il est essentiel de noter que le AI Act de l’UE représente un développement majeur dans la régulation des systèmes d’IA, car il aborde de manière exhaustive et uniforme les risques et défis associés. La nature générale du règlement garantit son adaptabilité et son applicabilité à travers différentes industries et cas d’usage, marquant une étape importante vers la régulation de l’IA dans l’UE.

Comment le AI Act de l’UE pourrait-il aider les œuvres génératives ?

Le AI Act de l’UE, règlement proposé pour l’utilisation de la technologie d’IA, pourrait également aider à réguler l’utilisation des œuvres génératives. Le texte comprend des dispositions sur la transparence, la qualité des données et la supervision humaine, qui sont pertinentes pour le développement et l’utilisation de modèles d’IA générative tels que ChatGPT. En particulier, le texte obligerait les entreprises qui utilisent des outils d’IA à divulguer tout matériel protégé par le droit d’auteur employé dans le développement de leurs systèmes. Cela pourrait aider à prévenir l’utilisation non autorisée de la propriété intellectuelle dans les œuvres génératives. De plus, l’UE propose d’exiger des entreprises qui fournissent des services d’IA générative qu’elles expliquent les raisons et les normes éthiques de leurs décisions.

Il convient de noter que les outils d’IA générative, comme ChatGPT, ont également fait l’objet d’un examen dans d’autres domaines. Par exemple, le Bureau de protection financière des consommateurs des États‑Unis (CFPB) examine comment les outils d’IA générative pourraient propager des biais ou de la désinformation et créer des risques dans le secteur des services financiers. Certains experts ont souligné que les algorithmes utilisés par les outils d’IA générative comme ChatGPT pourraient être soumis à des protections juridiques similaires à celles qui régissent le contenu sur les plateformes de médias sociaux telles que YouTube.

L’IA générative n’était pas mise en avant dans la proposition originale du AI Act, car elle ne comportait qu’une seule mention du « chatbot » dans le document de 108 pages. Cependant, le texte a été révisé pour inclure des règles plus strictes concernant les systèmes « foundation model », qui comprennent les systèmes d’IA générative comme ChatGPT. Le texte révisé souligne également l’importance de développer des normes européennes pour l’IA, ce qui pourrait aider à garantir que les modèles d’IA générative répondent aux exigences essentielles du texte pour différents niveaux de risque.

Risques et défis associés au développement et au déploiement de l’IA

Le développement et le déploiement de l’IA comportent divers risques et défis qui doivent être abordés afin d’assurer son utilisation éthique. L’une des principales préoccupations est que les systèmes d’IA, s’ils ne sont pas correctement mis en œuvre, peuvent violer les droits humains et discriminer les communautés marginalisées. Les systèmes d’IA discriminatoires peuvent entraîner des processus décisionnels biaisés qui affectent de manière disproportionnée certains groupes, tels que les migrants, les réfugiés et les demandeurs d’asile.

De plus, les systèmes d’IA qui interagissent avec des objets physiques, tels que les véhicules autonomes et les robots, ont le potentiel de causer des dommages, faisant de la sécurité et de la sûreté une préoccupation éthique majeure dans le développement de l’IA. Le développement de code généré par l’IA peut également entraîner des conséquences imprévues, et la capacité des grands modèles de langage (LLM) à générer du code fonctionnel est limitée, les rendant des outils puissants pour répondre à des questions techniques de haut niveau mais spécifiques.

Pour relever ces défis, les Principes d’IA d’Asilomar recommandent que les systèmes d’IA soient développés et utilisés afin de réduire le risque de préjudice involontaire aux humains. Il est également important de veiller à ce que les systèmes d’IA soient conçus de manière inclusive et transparente, afin de minimiser le risque de préjudice involontaire aux utilisateurs humains.

Alors que l’UE et les États‑Unis jouent conjointement un rôle crucial dans l’avenir de la gouvernance mondiale de l’IA, il est essentiel de veiller à ce que les approches de l’UE et des États‑Unis en matière de gestion des risques liés à l’IA soient généralement alignées afin de faciliter le commerce bilatéral. Parallèlement, les développeurs d’IA doivent mettre en place des garde-fous qui protègent les utilisateurs contre les risques potentiels. OpenAI, par exemple, a établi des garde-fous pour l’IA et possède une vision du développement éthique et responsable de l’IA.

Comment les États‑Unis abordent-ils le droit d’auteur lié à l’IA ?

La question des règles de droit d’auteur liées à l’IA aux États‑Unis est un sujet complexe et en évolution. Plusieurs affaires juridiques récentes et des réglementations proposées éclairent l’état actuel du droit.

Une préoccupation majeure est de savoir si les œuvres générées par l’IA peuvent être protégées par le droit d’auteur. Actuellement, la plupart des pays, y compris les États‑Unis, exigent un auteur humain pour que la protection du droit d’auteur s’applique. Cependant, les discussions en cours et les législations proposées pourraient modifier cette exigence à l’avenir.

Une autre question porte sur l’utilisation de matériel protégé par le droit d’auteur dans la formation des modèles d’IA. Certains outils d’IA sont entraînés sur d’énormes ensembles de données contenant des œuvres protégées sans obtenir de licence spécifique pour cet usage. Cela soulève des questions quant à savoir si cet usage constitue une violation du droit d’auteur.

Des affaires juridiques récentes éclairent également la question des règles de droit d’auteur liées à l’IA. Par exemple, Getty Images (GETY ) a intenté une action en justice contre Stability AI en février 2023, alléguant une violation du droit d’auteur, des marques déposées et une dilution de marque.

En avril 2023, la Cour suprême des États‑Unis a entendu une affaire qui pourrait avoir des implications pour les œuvres générées par l’IA. L’affaire porte sur la loi du fair use et sur la possibilité que les outils d’IA soient protégés en vertu de celle-ci.

Les réglementations proposées dans l’Union européenne pourraient également avoir un impact sur les règles de droit d’auteur liées à l’IA aux États‑Unis. L’UE rédige le AI Act pour réguler les technologies d’IA émergentes, y compris les questions de droit d’auteur et de propriété intellectuelle.

En conclusion

En conclusion, les législateurs de l’UE ont convenu que les entreprises utilisant des outils d’IA générative comme ChatGPT devront divulguer tout matériel protégé par le droit d’auteur utilisé dans le développement de leurs systèmes, dans le cadre d’un projet de loi plus vaste connu sous le nom de AI Act. C’est, à mon avis, une avancée majeure.

La question complexe du contenu généré par l’IA et du droit d’auteur nécessite une attention tant juridique qu’éthique. Alors que les débats et les procès se poursuivent concernant l’utilisation des outils d’IA générative dans la création de contenu, il apparaît clairement que les lois actuelles sur le droit d’auteur peinent à suivre le rythme des avancées technologiques.

Alors que l’IA continue de révolutionner la production et la consommation de contenu, les décideurs politiques et les dirigeants de l’industrie doivent collaborer pour établir des lignes directrices qui équilibrent les intérêts des créateurs, des utilisateurs et des technologies d’IA. Ces lignes directrices devraient apporter de la clarté sur des questions telles que la propriété, l’attribution et la rémunération du contenu généré par l’IA.

Il est également essentiel de prendre en compte les implications éthiques du contenu généré par l’IA, notamment les questions de biais, de confidentialité et de responsabilité. À mesure que le contenu généré par l’IA se répand, il est crucial d’assurer une production et une utilisation responsables et transparentes.

Pour répondre à cette problématique, les décideurs politiques, les dirigeants de l’industrie et les autres parties prenantes doivent travailler ensemble pour établir des lignes directrices et des réglementations claires. Ces réglementations devraient équilibrer les intérêts de toutes les parties concernées et tenir compte des implications éthiques du contenu généré par l’IA. Cet effort est crucial pour garantir que l’IA continue de transformer la création et la consommation de contenu de manière équitable, juste et responsable.