EU AI Act: Un Paso Significativo Hacia la Gobernanza Global de la IA

En los últimos años, la Inteligencia Artificial (IA) se ha convertido en una herramienta poderosa que ha transformado muchos aspectos de la vida moderna, incluida la creación y el consumo de contenido. El uso de herramientas de IA generativa como ChatGPT ha abierto nuevas posibilidades para la creación de contenido, pero también ha planteado nuevos desafíos y preguntas sobre los derechos de autor. El tema de los derechos de autor y el contenido generado por IA es complejo, involucrando diversas consideraciones legales y éticas.

A medida que las tecnologías de IA se vuelven más frecuentes en la creación de contenido, es esencial abordar las preguntas sobre la propiedad, la atribución y la compensación de las obras generadas por IA. Uno de los principales desafíos es que las leyes de derechos de autor existentes están luchando por mantenerse al día con los rápidos avances de la tecnología de IA. El marco legal actual, diseñado para formas tradicionales de creación de contenido, puede no estar adecuadamente equipado para abordar los aspectos únicos del contenido generado por IA.

Además, a medida que el contenido generado por IA se vuelve más frecuente, es crucial considerar las implicaciones éticas, particularmente en cuestiones como sesgo, privacidad y responsabilidad. Los algoritmos de IA pueden amplificar sesgos existentes, lo que lleva a un trato injusto de ciertos grupos o individuos. Asimismo, el contenido generado por IA puede generar preocupaciones de privacidad, ya que puede implicar el uso de datos personales.

Para abordar estos desafíos, los responsables de políticas, los líderes de la industria y otras partes interesadas están trabajando para establecer directrices y regulaciones claras que equilibren los intereses de los creadores, usuarios y tecnologías de IA, al mismo tiempo que consideran las implicaciones éticas del contenido generado por IA. Por ejemplo, la Unión Europea (UE) está redactando actualmente el AI Act, una nueva ley destinada a regular el uso de tecnologías de IA en la UE. Hablaremos más sobre esto en este artículo.

¿Qué es la Ley de IA de la UE?

La Unión Europea (UE) introdujo la Ley de IA de la UE en abril de 2021, proponiendo un marco legal y regulatorio integral para la IA. La regulación propuesta cubre todos los tipos de IA en diversos sectores, incluidas las entidades que utilizan sistemas de IA de manera profesional. La regulación busca abordar los desafíos y riesgos vinculados al desarrollo y despliegue de la IA, incluida la IA discriminatoria y que viola derechos.

La Ley de IA de la UE coloca principalmente la responsabilidad en los proveedores de sistemas de IA para crear un marco legal para desarrollar, distribuir y usar la IA. La regulación incluye artículos amplios y generales para garantizar su aplicación en diferentes industrias y casos de uso. La Ley de IA de la UE está actualmente en proceso legislativo y está sujeta al procedimiento legislativo ordinario de la UE. Los miembros del Parlamento Europeo acordaron preliminarmente la Ley de IA en abril de 2023, y el texto está programado para proceder a una votación plenaria en junio de 2023. Tras su aprobación, la Ley de IA de la UE será una de las primeras regulaciones específicas de IA en el mundo.

Es esencial señalar que la Ley de IA de la UE es un desarrollo importante en la regulación de los sistemas de IA, ya que aborda de manera integral y uniforme los riesgos y desafíos asociados. La naturaleza general de la regulación garantiza adaptabilidad y aplicabilidad en diferentes industrias y casos de uso, marcando un paso significativo hacia la regulación de la IA en la UE.

¿Cómo ayudaría la Ley de IA de la UE con las obras generativas?

La Ley de IA de la UE, una regulación propuesta para el uso de la tecnología de IA, también podría ayudar a regular el uso de obras generativas. La ley incluye disposiciones sobre transparencia, calidad de datos y supervisión humana, que son relevantes para desarrollar y usar modelos de IA generativa como ChatGPT. En particular, la ley exigiría a las empresas que utilizan herramientas de IA que revelen cualquier material protegido por derechos de autor empleado en el desarrollo de sus sistemas. Esto podría ayudar a prevenir el uso no autorizado de propiedad intelectual en obras generativas. Además, la UE propone exigir a las empresas que ofrecen servicios de IA generativa que expliquen las razones y los estándares éticos de sus decisiones.

Vale la pena señalar que las herramientas de IA generativa, como ChatGPT, también han sido objeto de escrutinio en otras áreas. Por ejemplo, la Oficina de Protección Financiera del Consumidor de EE. UU. (CFPB) examina cómo las herramientas de IA generativa podrían propagar sesgos o desinformación y crear riesgos en el sector de servicios financieros. Algunos expertos han señalado que los algoritmos utilizados por herramientas de IA generativa como ChatGPT podrían estar sujetos a protecciones legales similares a las que regulan el contenido en plataformas de redes sociales como YouTube.

La IA generativa no estuvo destacada en la propuesta original de la Ley de IA, ya que solo tenía una mención de “chatbot” en el documento de 108 páginas. Sin embargo, la ley ha sido revisada para incluir reglas más estrictas para los sistemas de “modelo fundacional”, que incluyen sistemas de IA generativa como ChatGPT. El texto revisado también enfatiza la importancia de desarrollar normas europeas para la IA, lo que podría ayudar a garantizar que los modelos de IA generativa cumplan con los requisitos esenciales de la ley para diferentes niveles de riesgo.

Riesgos y desafíos asociados con el desarrollo y despliegue de la IA

El desarrollo y despliegue de la IA conllevan diversos riesgos y desafíos que deben abordarse para garantizar su uso ético. Una de las principales preocupaciones es que los sistemas de IA, si no se implementan correctamente, pueden violar los derechos humanos y discriminar a comunidades marginadas. Los sistemas de IA discriminatorios pueden generar procesos de toma de decisiones sesgados que afectan desproporcionadamente a ciertos grupos, como migrantes, refugiados y solicitantes de asilo.

Además, los sistemas de IA que interactúan con objetos físicos, como vehículos autónomos y robots, tienen el potencial de causar daño, lo que convierte la seguridad y la protección en una preocupación ética significativa en el desarrollo de la IA. El desarrollo de código generado por IA también puede conducir a consecuencias no deseadas, y la capacidad de los LLM para generar código funcional es limitada, lo que los convierte en herramientas poderosas para responder preguntas técnicas de alto nivel pero específicas.

Para abordar estos desafíos, los Principios de IA de Asilomar recomiendan que los sistemas de IA se desarrollen y empleen para reducir el riesgo de daño no intencional a los humanos. También es importante garantizar que los sistemas de IA estén diseñados para ser inclusivos y transparentes y para minimizar el riesgo de daño no intencional a los usuarios humanos.

Dado que la UE y EE. UU. son conjuntamente fundamentales para el futuro de la gobernanza global de la IA, es crucial asegurar que los enfoques de la UE y EE. UU. respecto a la gestión de riesgos de la IA estén generalmente alineados para facilitar el comercio bilateral. Al mismo tiempo, los desarrolladores de IA deben establecer salvaguardas que protejan a los usuarios de riesgos potenciales. OpenAI, por ejemplo, ha establecido salvaguardas de IA y tiene una visión para el desarrollo ético y responsable de la IA.

¿Cómo está EE. UU. abordando los derechos de autor de la IA?

El tema de las normas de derechos de autor de la IA en los Estados Unidos es un asunto complejo y en evolución. Varios casos legales recientes y regulaciones propuestas arrojan luz sobre el estado actual de la legislación.

Una preocupación importante es si las obras generadas por IA pueden estar protegidas por la ley de derechos de autor. Actualmente, la mayoría de los países, incluidos EE. UU., requieren un autor humano para que surja la protección de derechos de autor. Sin embargo, las discusiones en curso y la legislación propuesta podrían cambiar este requisito en el futuro.

Otro problema es el uso de material protegido por derechos de autor en el entrenamiento de modelos de IA. Algunas herramientas de IA se entrenan con conjuntos de datos masivos que contienen obras protegidas sin obtener licencias específicas para este uso. Esto plantea preguntas sobre si dicho uso constituye una infracción de derechos de autor.

Los casos legales recientes también arrojan luz sobre el tema de las normas de derechos de autor de la IA. Por ejemplo, Getty Images presentó una demanda contra Stability AI en febrero de 2023, alegando infracción de derechos de autor, infracción de marca registrada y dilución de marca registrada.

En abril de 2023, la Corte Suprema de EE. UU. escuchó un caso que podría tener implicaciones para las obras generadas por IA. El caso se refiere a la ley de uso justo y si las herramientas de IA pueden estar protegidas bajo ella.

Las regulaciones propuestas en la Unión Europea también pueden tener un impacto en las normas de derechos de autor de la IA en EE. UU. La UE está redactando la Ley de IA para regular la tecnología emergente de IA, incluidos los problemas de derechos de autor y propiedad intelectual.

En conclusión

En conclusión, los legisladores de la UE han acordado que las empresas que utilizan herramientas de IA generativa como ChatGPT deberán revelar cualquier material protegido por derechos de autor utilizado en el desarrollo de sus sistemas como parte de un proyecto de ley más amplio conocido como la Ley de IA. En mi opinión, es un gran paso.

El complejo tema del contenido generado por IA y los derechos de autor requiere atención tanto desde perspectivas legales como éticas. Mientras los debates y demandas continúan respecto al uso de herramientas de IA generativa en la creación de contenido, es evidente que las leyes de derechos de autor actuales están luchando por mantenerse al día con los avances tecnológicos.

A medida que la IA continúa revolucionando la producción y el consumo de contenido, los responsables de políticas y los líderes de la industria deben colaborar para establecer directrices que equilibren los intereses de los creadores, usuarios y tecnologías de IA. Estas directrices deben proporcionar claridad sobre cuestiones como la propiedad, la atribución y la compensación del contenido generado por IA.

También es esencial considerar las implicaciones éticas del contenido generado por IA, incluidos temas como sesgo, privacidad y responsabilidad. A medida que el contenido generado por IA se vuelve más frecuente, es crucial garantizar una producción y uso responsables y transparentes.

Para abordar este problema, los responsables de políticas, los líderes de la industria y otras partes interesadas deben trabajar juntos para establecer directrices y regulaciones claras. Estas regulaciones deben equilibrar los intereses de todas las partes involucradas y tener en cuenta las implicaciones éticas del contenido generado por IA. Este esfuerzo es fundamental para garantizar que la IA continúe transformando la creación y el consumo de contenido de manera justa, equitativa y responsable.