EU AI Act: Um Passo Significativo Rumo à Governança Global de IA

Nos últimos anos, a Inteligência Artificial (IA) surgiu como uma ferramenta poderosa que transformou muitos aspectos da vida moderna, incluindo a criação e o consumo de conteúdo. O uso de ferramentas de IA generativa como o ChatGPT abriu novas possibilidades para a criação de conteúdo, mas também trouxe novos desafios e questões relacionadas a direitos autorais. A questão dos direitos autorais e do conteúdo gerado por IA é complexa, envolvendo diversas considerações legais e éticas.

À medida que as tecnologias de IA se tornam mais prevalentes na criação de conteúdo, é essencial abordar as questões de propriedade, atribuição e compensação para obras geradas por IA. Um dos principais desafios é que as leis de direitos autorais existentes estão lutando para acompanhar os rápidos avanços da tecnologia de IA. O quadro legal atual, projetado para formas tradicionais de criação de conteúdo, pode não estar adequadamente preparado para lidar com os aspectos únicos do conteúdo gerado por IA.

Além disso, à medida que o conteúdo gerado por IA se torna mais comum, é crucial considerar as implicações éticas, particularmente em questões como viés, privacidade e responsabilidade. Algoritmos de IA podem amplificar vieses existentes, levando a tratamento injusto de certos grupos ou indivíduos. Ademais, o conteúdo gerado por IA pode gerar preocupações de privacidade, pois pode envolver o uso de dados pessoais.

Para enfrentar esses desafios, formuladores de políticas, líderes da indústria e outras partes interessadas estão trabalhando para estabelecer diretrizes e regulamentações claras que equilibrem os interesses de criadores, usuários e tecnologias de IA, ao mesmo tempo em que consideram as implicações éticas do conteúdo gerado por IA. Por exemplo, a União Europeia (UE) está atualmente elaborando o AI Act, uma nova lei destinada a regular o uso de tecnologias de IA na UE. Falaremos mais sobre isso neste artigo.

O que é o AI Act da UE?

A União Europeia (UE) introduziu o AI Act da UE em abril de 2021, propondo um quadro legal e regulatório abrangente para a IA. A regulamentação proposta cobre todos os tipos de IA em diversos setores, incluindo entidades que utilizam sistemas de IA profissionalmente. A regulamentação visa enfrentar os desafios e riscos associados ao desenvolvimento e implantação de IA, incluindo IA discriminatória e que viola direitos.

O AI Act da UE coloca principalmente a responsabilidade nos provedores de sistemas de IA para criar um quadro legal para o desenvolvimento, distribuição e uso da IA. A regulamentação inclui artigos amplos e gerais para garantir sua aplicação em diferentes indústrias e casos de uso. O AI Act da UE está atualmente passando pelo processo legislativo e está sujeito ao procedimento legislativo ordinário da UE. Membros do Parlamento Europeu concordaram preliminarmente com o AI Act em abril de 2023, e o texto está programado para avançar para uma votação plenária em junho de 2023. Após a aprovação, o AI Act da UE será uma das primeiras regulamentações específicas para IA no mundo.

É essencial notar que o AI Act da UE representa um desenvolvimento significativo na regulação de sistemas de IA, pois aborda de forma abrangente e uniforme os riscos e desafios associados. A natureza geral da regulamentação garante adaptabilidade e aplicabilidade em diferentes indústrias e casos de uso, marcando um passo importante rumo à regulação de IA na UE.

Como o AI Act da UE ajudaria nas obras generativas?

O AI Act da UE, uma regulamentação proposta para o uso da tecnologia de IA, também pode ajudar a regular o uso de obras generativas. O ato inclui disposições sobre transparência, qualidade de dados e supervisão humana, que são relevantes para o desenvolvimento e uso de modelos de IA generativa como o ChatGPT. Em particular, o ato exigiria que as empresas que utilizam ferramentas de IA divulgassem quaisquer materiais protegidos por direitos autorais empregados no desenvolvimento de seus sistemas. Isso poderia ajudar a prevenir o uso não autorizado de propriedade intelectual em obras generativas. Além disso, a UE propõe exigir que as empresas que fornecem serviços de IA generativa expliquem as razões e os padrões éticos de suas decisões.

Vale notar que as ferramentas de IA generativa, como o ChatGPT, também foram alvo de escrutínio em outras áreas. Por exemplo, o Escritório de Proteção Financeira ao Consumidor dos EUA (CFPB) examina como as ferramentas de IA generativa podem propagar viés ou desinformação e criar riscos no setor de serviços financeiros. Alguns especialistas apontaram que os algoritmos usados por ferramentas de IA generativa como o ChatGPT poderiam estar sujeitos a proteções legais semelhantes às que regem o conteúdo em plataformas de mídia social como o YouTube.

A IA generativa não foi destacada na proposta original do AI Act, pois havia apenas uma menção a “chatbot” no documento de 108 páginas. No entanto, o ato foi revisado para incluir regras mais rígidas para sistemas de “modelo de base”, que incluem sistemas de IA generativa como o ChatGPT. O texto revisado também enfatiza a importância de desenvolver padrões europeus para IA, o que poderia ajudar a garantir que os modelos de IA generativa atendam aos requisitos essenciais do ato para diferentes níveis de risco.

Riscos e desafios associados ao desenvolvimento e implantação de IA

O desenvolvimento e a implantação de IA trazem diversos riscos e desafios que precisam ser abordados para garantir seu uso ético. Uma das principais preocupações é que os sistemas de IA, se não forem implementados corretamente, podem violar direitos humanos e discriminar comunidades marginalizadas. Sistemas de IA discriminatórios podem levar a processos de tomada de decisão enviesados que afetam desproporcionalmente certos grupos, como migrantes, refugiados e requerentes de asilo.

Além disso, sistemas de IA que interagem com objetos físicos, como veículos autônomos e robôs, têm o potencial de causar danos, tornando a segurança e a proteção uma preocupação ética significativa no desenvolvimento de IA. O desenvolvimento de código gerado por IA também pode levar a consequências não intencionais, e a capacidade dos LLMs de gerar código funcional é limitada, embora sejam ferramentas poderosas para responder a questões técnicas de alto nível, porém específicas.

Para enfrentar esses desafios, os Princípios de IA de Asilomar recomendam que os sistemas de IA sejam desenvolvidos e empregados para reduzir o risco de danos não intencionais aos humanos. Também é importante garantir que os sistemas de IA sejam projetados para ser inclusivos e transparentes, minimizando o risco de danos não intencionais aos usuários humanos.

À medida que a UE e os EUA são conjuntamente fundamentais para o futuro da governança global de IA, é crucial garantir que as abordagens da UE e dos EUA para a gestão de riscos de IA estejam geralmente alinhadas para facilitar o comércio bilateral. Ao mesmo tempo, os desenvolvedores de IA precisam estabelecer salvaguardas que protejam os usuários de riscos potenciais. A OpenAI, por exemplo, estabeleceu salvaguardas de IA e tem uma visão para o desenvolvimento ético e responsável da IA.

Como os Estados Unidos encaram os direitos autorais de IA?

O tema das regras de direitos autorais de IA nos Estados Unidos é uma questão complexa e em evolução. Vários casos legais recentes e regulamentações propostas lançam luz sobre o estado atual da lei.

Uma preocupação importante é se obras geradas por IA podem ser protegidas pela lei de direitos autorais. Atualmente, a maioria dos países, incluindo os EUA, exige um autor humano para que a proteção de direitos autorais seja concedida. No entanto, discussões em andamento e legislações propostas podem mudar esse requisito no futuro.

Outra questão é o uso de material protegido por direitos autorais no treinamento de modelos de IA. Algumas ferramentas de IA são treinadas em conjuntos de dados massivos que contêm obras protegidas por direitos autorais sem obter licenças específicas para esse uso. Isso levanta dúvidas sobre se esse uso constitui violação de direitos autorais.

Casos legais recentes também lançam luz sobre a questão das regras de direitos autorais de IA. Por exemplo, a Getty Images (GETY ) entrou com uma ação judicial contra a Stability AI em fevereiro de 2023, alegando violação de direitos autorais, infração de marca registrada e diluição de marca.

Em abril de 2023, a Suprema Corte dos EUA ouviu um caso que pode ter implicações para obras geradas por IA. O caso trata da lei de uso justo e se as ferramentas de IA podem ser protegidas por ela.

Regulamentações propostas na União Europeia também podem ter impacto nas regras de direitos autorais de IA nos EUA. A UE está elaborando o AI Act para regular a tecnologia emergente de IA, incluindo questões de direitos autorais e propriedade intelectual.

Em conclusão

Em conclusão, os legisladores da UE concordaram que as empresas que utilizam ferramentas de IA generativa como o ChatGPT deverão divulgar qualquer material protegido por direitos autorais usado no desenvolvimento de seus sistemas como parte de um projeto de lei maior conhecido como AI Act. Na minha opinião, é um grande passo.

A questão complexa do conteúdo gerado por IA e dos direitos autorais requer atenção tanto de perspectivas legais quanto éticas. Enquanto debates e processos judiciais continuam sobre o uso de ferramentas de IA generativa na criação de conteúdo, é evidente que as leis de direitos autorais atuais estão lutando para acompanhar os avanços tecnológicos.

À medida que a IA continua a revolucionar a produção e o consumo de conteúdo, formuladores de políticas e líderes da indústria devem colaborar para estabelecer diretrizes que equilibrem os interesses de criadores, usuários e tecnologias de IA. Essas diretrizes devem oferecer clareza sobre questões como propriedade, atribuição e compensação pelo conteúdo gerado por IA.

Também é essencial considerar as implicações éticas do conteúdo gerado por IA, incluindo questões como viés, privacidade e responsabilidade. À medida que o conteúdo gerado por IA se torna mais prevalente, é crucial garantir uma produção e uso responsáveis e transparentes.

Para enfrentar essa questão, formuladores de políticas, líderes da indústria e outras partes interessadas devem trabalhar juntos para estabelecer diretrizes e regulamentações claras. Essas regulamentações devem equilibrar os interesses de todas as partes envolvidas e levar em conta as implicações éticas do conteúdo gerado por IA. Esse esforço é fundamental para garantir que a IA continue transformando a criação e o consumo de conteúdo de forma justa, equitativa e responsável.