Garantizando la Autenticidad con el Amanecer de la Inteligencia Artificial (IA)

La adopción de la IA en todos los ámbitos de la vida está en auge. Las estimaciones sugieren que el mercado está listo para triplicarse en un lapso de los próximos siete años. 

Desde un tamaño de casi US$242 mil millones, se espera que crezca a casi US$740 mil millones para 2030. Diferentes industrias han comenzado a incorporar la IA en sus operaciones. Las industrias que más la han aprovechado hasta ahora han sido la salud, finanzas, la manufactura, los servicios empresariales y legales, etc. 

En menor medida, la IA ha empezado a alterar los paradigmas operativos en industrias como los medios, el entretenimiento, la seguridad, el comercio minorista, la energía, etc. 

Con el aumento de la adopción de la IA, el desafío de garantizar la autenticidad ha surgido como un problema significativo que necesita ser abordado de inmediato. Comenzamos la discusión de hoy analizando cuáles son estos desafíos.

Haz clic aquí para aprender todo sobre invertir en inteligencia artificial. 

Desafíos de Autenticidad en la Adopción de IA

Lo que antes era la fortaleza de la IA se ha convertido en su debilidad. Los algoritmos de IA son capaces de generar imágenes, videos, artículos y cualquier otra forma de contenido multimedia realista que podría ser inmensamente difícil para un espectador promedio distinguir del original. 

A simple vista, puede parecer información auténtica de una fuente reputada, mientras que en realidad podría ser exactamente lo contrario: contenido falso generado para propaganda maliciosa. Varios eventos han ocurrido recientemente que ponen al descubierto este lado de la creciente adopción de la IA. 

Imagen Falsa del Pentágono Generada por IA

En mayo de 2023, se publicó una noticia sobre una explosión cerca del Pentágono en los Estados Unidos. La imagen mostraba mucho humo negro saliendo del jardín cercano al edificio del Pentágono. Esta imagen fue compartida por una cuenta verificada de Twitter, Bloomberg Feed, que tenía la marca azul. Poco después, muchas cuentas verificadas con la marca azul también compartieron la imagen. Sin embargo, era una imagen generada por IA, y engañó a muchos. La reciente política de X de hacer que las marcas azules estén disponibles por una tarifa mensual de US$8 agravó aún más el problema. 

Dado que cualquiera podría tener una cuenta verificada y estas cuentas obtienen mayor visibilidad, la noticia se difundió rápidamente, generando preocupaciones sobre la suplantación de figuras públicas, funcionarios gubernamentales y sitios de noticias, creando caos y una crisis de autenticidad en el ámbito digital.

Aunque el usuario general de la red social X apenas podía reconocer que la imagen era generada por IA, algunos investigadores de IA pudieron identificar los defectos o irregularidades. 

Según Nick Waters, uno de esos investigadores de IA:

“La fusión ‘inusual’ de la cerca del edificio con las barreras de la multitud mostró que la imagen podría haber sido creada o manipulada artificialmente.”

Sin embargo, la falsificación cumplió su propósito, aunque fuera por un breve momento, al crear caos y confusión en las redes sociales y más allá. 

Miles de Imágenes Falsas en Adobe Stock

Según un informe publicado en el Washington Post, las imágenes de archivo creadas por IA son rampantes. Una búsqueda en Adobe Stock con el término ‘Guerra de Ucrania’ resultó en más de 15 000 imágenes falsas del conflicto. El informe también señaló una fuerte presencia de cientos de imágenes de IA de personas en protestas de Black Lives Matter que nunca ocurrieron. 

Decenas de imágenes generadas por IA también estaban disponibles para los incendios forestales de Maui. Muchas de estas imágenes se asemejaban tanto a fotos reales capturadas por fotoperiodistas que resultaba casi imposible distinguir las falsas de las reales. 

El Caso de Clips de Noticias que Parecen Reales

Según otro informe publicado por Forbes sobre falsificaciones generadas por IA, la estrella de TikTok y YouTube Krishna Sahay es uno entre varios usuarios de redes sociales que utilizan IA generativa para crear clips de noticias que parecen reales de los principales presentadores de medios de comunicación tradicionales, cuyo trabajo goza de gran credibilidad. 

Desde CBS hasta CNN y BBC, muchos presentadores de estas agencias de noticias aparecen en esta lista. Estos videos también se conocen como deep fakes, donde potentes algoritmos de IA generativa ayudan a crear contenido audiovisual que se ve y suena como los propios presentadores. 

Según el informe, Krishna Sahay solo tiene una audiencia de millones. Los videos de Sahay incluyen comentarios problemáticos de presentadores falsos manipulados por IA sobre temas sensibles, como tiroteos escolares, ataques terroristas, ataques criminales y más. 

Según Hany Farid, experto en deep fake y profesor de la UC Berkeley, estos videos explotan la popularidad y credibilidad de los presentadores de noticias conocidos como un “vehículo convincente para difundir desinformación”.

Según el Prof. Farid: “En muchos casos, los presentadores son conocidos y confiables para los espectadores, y aun cuando no lo sean, el formato general de las noticias es familiar y, por lo tanto, más confiable.” Él cree que detener esta amenaza requerirá que “nos tomemos más en serio la protección de los derechos de las personas cuya imagen y voz están siendo cooptadas.” 

Deep Fakes de la Guerra de Gaza

Internet también vio una invasión significativa de videos deep fake relacionados con la guerra de Gaza. En respuesta a este desafío, Jean‑Claude Goldenstein, CEO de CREOpoint, una empresa tecnológica especializada en IA, ha sido fundamental en la evaluación de la validez de dicho contenido. Reconociendo la gravedad de la situación, la compañía ha desarrollado una base de datos de los deep fakes más virales que surgieron de Gaza, marcando un paso crucial para abordar esta amenaza digital.

Según Goldenstein:

“Imágenes, video y audio: con IA generativa, será una escalada que no se ha visto antes.” 

Estos videos a menudo reutilizan contenido de conflictos anteriores. Buscan generar una fuerte respuesta emocional al acentuar la intensidad del desastre. 

Además de conocer a fondo la IA generativa, los equipos que crean deep fakes incluyen personas que entienden la psicología humana y cómo dirigirse a los impulsos y ansiedades más profundos de la gente. 

En manos de propagandistas, teóricos de la conspiración, terroristas u organizaciones estafadoras, las herramientas de IA que generan contenido falso se han convertido en una de las armas más mortales. La necesidad de mantenerlas bajo control aumenta cada día que pasa. 

Una de las formas más efectivas de combatir esta creciente amenaza sería garantizar la autenticidad de la fuente. Los esfuerzos de investigación y desarrollo de soluciones para asegurar la autenticidad están en pleno auge. A continuación, algunos ejemplos de la vida real. 

¿Cómo garantizar la autenticidad del contenido en la Era de la Inteligencia Artificial?

Tecnología de Autenticación en Cámara de Sony

Sony Electronics está a punto de presentar una solución novedosa. Ha completado la segunda ronda de pruebas de su tecnología de autenticación en cámara en colaboración con la Associated Press. 

El propósito de esta tecnología es dotar a las imágenes capturadas de un certificado de nacimiento que autentique el origen del contenido. Más específicamente, será una firma digital basada en máquina que se producirá dentro de la cámara en el mismo momento de la captura, en el chipset de hardware. 

Según Neal Manowitz, presidente y COO de Sony Electronics, la “tecnología de autenticación en cámara ha mostrado resultados valiosos”, y la compañía “continuará impulsando su desarrollo hacia un lanzamiento más amplio”.

La prueba conjunta de campo de Sony Electronics y AP llegó a su fin en octubre de este año. El objetivo de esta ronda de pruebas era evaluar la eficiencia de la autenticación de captura y el flujo de trabajo relacionado. 

El tercer colaborador en este proyecto fue CameraBits, conocido por crear la herramienta estándar de la industria PhotoMechanic. 

El papel de CameraBits en esta colaboración consistió en ofrecer la tecnología para preservar la firma digital de la cámara mediante el proceso de edición de metadatos. 

Según David Ake, director de fotografía de la Associated Press, “Las imágenes falsas y manipuladas son una preocupación importante para las organizaciones de noticias. No solo contribuyen a la desinformación, sino que, en última instancia, erosionan la confianza del público en imágenes fácticas y precisas”.

La firma y tecnología de autenticación en cámara se lanzará como una actualización de firmware en varios modelos en la primavera de 2024.

Sony Group Corporation tiene una capitalización de mercado de $106.35 mil millones, un ratio P/E de 19.49, y en 2022 registró $82.64 mil millones en ingresos.

Tecnología para Combatir Manipulaciones de Voz Deep Fake

Las tecnologías basadas en IA han impulsado desarrollos en la síntesis de voz realista. En su forma originalmente prevista, la tecnología puede ser de gran utilidad. Puede ayudar a crear asistentes de voz personalizados y otras herramientas de comunicación que mejoren la accesibilidad. Sin embargo, por el otro lado, muchos la están usando para crear voces para videos deep fake. 

Para responder a esta amenaza, Ning Zhang, profesora asistente de informática e ingeniería en la McKelvey School of Engineering de Washington University, ha desarrollado una herramienta llamada AntiFake. No es una herramienta de mitigación que ayude a la detección posterior al ataque. Más bien, es una herramienta proactiva destinada a cortar el problema de raíz.

Según la Prof. Zhang:

“AntiFake se asegura de que cuando difundimos datos de voz, sea difícil para los criminales usar esa información para sintetizar nuestras voces e imitarnos.”

En un movimiento interesante para combatir a los ciberdelincuentes sofisticados, la Prof. Zhang ha decidido devolverles el golpe con sus propias monedas. Según ella:

“La herramienta utiliza una técnica de IA adversarial que originalmente formaba parte del arsenal de los ciberdelincuentes, pero ahora la usamos para defendernos de ellos.”

El principio operativo central de AntiFake es distorsionar ligeramente la señal de audio grabada. La naturaleza de la distorsión está tan finamente calibrada que, aunque suena correcta para el oído humano, se transmite como algo completamente diferente a la IA. 

Según datos de dominio público, AntiFake ha demostrado una tasa de protección de más del 95 %. También ha probado su eficacia al ser accesible para poblaciones diversas. 

Uso de Blockchain para Garantizar la Autenticidad

OARO Media solutions aprovechan las propiedades de inmutabilidad de blockchain para combatir la amenaza de los deep fakes. Ayudan a crear una cadena de datos inmutable para empresas, autoridades gubernamentales y usuarios individuales, con el fin de autenticar cualquier foto o video. 

El modo en que OARO Media funciona en el teléfono móvil del usuario es simple pero revolucionariamente eficaz. El usuario comienza accediendo a la cámara del móvil mediante un enlace web SMS o la aplicación de una aseguradora. Luego, se emite un certificado al contenido visual, que incluye un registro no falsificable de la identificación del usuario, el contenido, la marca de tiempo y las coordenadas GPS. Este proceso ayuda a la industria de seguros a autenticar reclamaciones y distinguir los falsos generados por IA de los reales. 

Detener el Uso de Deepfakes como Parte de la Guerra de Información

Las soluciones y servicios anti‑deepfake de Sentinel ayudan a gobiernos democráticos, agencias de defensa y empresas a proteger sus recursos del impacto del contenido de IA generado maliciosamente. Ha colaborado con la Unión Europea y el Ministerio de Asuntos Económicos y Comunicaciones de la República de Estonia. Sin embargo, es una solución posterior al ataque que ayuda a detectar deep fakes una vez que han entrado en circulación. 

Su funcionamiento sigue un flujo sencillo de cuatro pasos. En el primer paso, el usuario sube el medio digital a través del sitio web o API de Sentinel. El sistema de Sentinel analiza automáticamente el medio para detectar falsificaciones de IA. Luego ofrece un veredicto sobre si el medio es un deep fake o no. Finalmente, para que los usuarios comprendan cómo se lleva a cabo el proceso, muestra una visualización de la manipulación. 

Garantizando la Autenticidad en medio de la IA: Escenario de Innovación Próspera para el Futuro

El contenido no auténtico generado por IA es una herramienta potente para distorsionar la realidad y difundir propaganda perniciosa. Ese contenido, incluso cuando se crea por razones aparentemente benignas como una broma o para obtener likes en redes sociales, puede incitar violencia a gran escala. 

Su impacto se extiende a aumentar la desconfianza en diversas áreas, desde las relaciones diplomáticas entre estados hasta las interacciones entre empresas de servicios y sus usuarios e incluso las relaciones personales. Por lo tanto, es una señal positiva que investigadores y científicos tecnológicos de todo el mundo hayan reconocido los peligros del contenido falso sin control. Ya hemos destacado varias iniciativas que abordan este problema.

Hay muchas más. Sensity, por ejemplo, está desarrollando una plataforma de inteligencia de amenazas visuales. Su API ya es capaz de detectar las últimas técnicas de manipulación y síntesis basadas en IA. Otra startup, Quantum Integrity, ha creado soluciones SaaS de IA que pueden detectar falsificaciones de imágenes y videos. 

Los ciberdelincuentes seguirán ideando técnicas más nuevas para engañarnos. Pero muchas empresas podrán anticiparse y frustrarlas. Con la innovación continuando a un ritmo constante, la lucha ya no es un David contra un Goliat. 

Haz clic aquí para aprender todo sobre invertir en cinco tecnologías convergentes.