El choque entre el poder de la IA y las normas democráticas

A medida que la tecnología de IA se vuelve más frecuente y poderosa, se ha vuelto cada vez más difícil encontrar un equilibrio entre los valores democráticos y el progreso tecnológico. Por un lado, nunca ha sido tan fácil para la gente compartir sus visiones con las masas.

Sin embargo, la IA carece de límites, lo que significa que constantemente empuja los límites de casi todas las métricas sociales. Así es como los desarrolladores de IA siguen intentando crear armonía entre las capacidades de la IA y los valores democráticos, y por qué puede ser imposible lograrlo.

Cómo la IA está remodelando las protecciones de la libertad de expresión

Artificial intelligence has had a resounding effect on free speech. For one, it’s made it easier for people to create vibrant portrayals of their vision and share them with the public via social media. It’s also reduced production costs to nearly zero, enabling any organization to champion its cause virtually.

La inteligencia artificial ha tenido un efecto contundente en la libertad de expresión. Por un lado, ha facilitado que la gente cree representaciones vibrantes de su visión y las comparta con el público a través de las redes sociales. Además, ha reducido los costos de producción a casi cero, lo que permite a cualquier organización defender su causa de forma virtual.

Las herramientas de IA ofrecen varios beneficios, incluida la capacidad de alterar y personalizar fácilmente sus mensajes para adaptarse a demografías específicas. Además, el contenido generado por IA, hasta ahora, se ha considerado bajo la protección de la Primera Enmienda. Como tal, permite a los creadores una expresión libre.

Por el contrario, la IA ha provocado una avalancha de desinformación. Es más difícil que nunca para la gente discernir qué información proviene de un experto genuino y qué fue creada por un algoritmo. Lamentablemente, el resultado es una erosión de la confianza en los sistemas.

Cómo los algoritmos de redes sociales amplifican la desinformación de la IA

Sumado al caos, los algoritmos de redes sociales pueden promover deepfakes ya que suelen ser más controvertidos, lo que genera más interacción. Esto crea un ciclo donde las falsedades se muestran más prominentemente que la información real. Lamentablemente, no existe una normativa que exija etiquetar la desinformación de IA.

IA y la participación ciudadana en los sistemas democráticos

La inteligencia artificial abre la puerta a una participación más amplia de los ciudadanos. Sus sistemas facilitan que el gobierno y los ciudadanos comuniquen sus ideas y sigan el consenso público. Además, ha demostrado ser útil para resumir legislación compleja y compartir datos vitales que informen a los ciudadanos.

Riesgos de vigilancia de IA y preocupaciones democráticas sobre la privacidad

Existen varios riesgos de vigilancia que la IA crea junto con la promoción de la participación. Estos sistemas pueden rastrear fácilmente a los votantes. Hay sistemas de IA que pueden revisar todo tu rastro digital y proporcionar una evaluación de tus opiniones políticas basada en tu actividad web.

Además, esta tecnología puede usarse para determinar quién es una persona según su rastro digital o sus preferencias. Todas estas herramientas no requieren una orden judicial como las tecnologías anteriores. Por lo tanto, el potencial de abuso se incrementa.

El papel de la IA en las elecciones modernas y la integridad electoral

La inteligencia artificial ofrece varios beneficios al proceso electoral. Por un lado, facilita el monitoreo de los resultados. Los sistemas de IA también pueden ayudar a rastrear cualquier interrupción en forma de intimidación o amenazas a los votantes.

Deepfakes de IA y la crisis de la confianza política

De toda la desinformación de IA que causa caos hoy, los principales problemas surgen alrededor de los deepfakes. Esta tecnología permite a las personas crear fácilmente duplicados de funcionarios públicos, profesionales de la industria o cualquier persona que deseen, incluidos candidatos políticos.

Fuente – BBC

Los deepfakes políticos continúan generando problemas para los funcionarios y distorsionan la información al público. El problema es que estos falsos se han vuelto casi indistinguibles de la realidad. Por lo tanto, han sido adoptados por casi todo tipo de grupos que buscan crear caos o sembrar la desconfianza en el público.

El “dividendo del mentiroso” y la erosión de la confianza pública

El constante bombardeo de deepfakes de IA tiene otro efecto inesperado: el dividendo del mentiroso. Este término se refiere a un incidente que cuenta con hechos y evidencias reales, pero que aún así es negado por el acusado como un deepfake de IA.

Esta estrategia degrada la confianza en los sistemas y crea un escenario donde la persona promedio no puede tomar decisiones informadas. También elimina cualquier posibilidad de debate razonable, ya que todas las partes quedan polarizadas en los temas debido a la desinformación.

Ejemplos reales de deepfakes de IA en elecciones

Hay varios ejemplos recientes de deepfakes que causan estragos durante elecciones. Un incidente notable ocurrió el 21 de enero de 2024, cuando se utilizó un deepfake de llamada robótica. El sistema de IA se configuró para contactar a demócratas registrados.

Cuando respondieron, se utilizó una voz deepfake del presidente Joe Biden para instarlos a “guardar su voto para noviembre”. Los informes muestran que su mensaje se envió a 20 000 personas, lo que provocó que muchos decidieran no participar en las elecciones como indicaba el mensaje.

Cuando se dieron a conocer los informes sobre las llamadas robóticas, se inició una investigación. Sin embargo, ya había concluido la elección y no se recontaron boletas. Este escenario es solo uno de muchos que resaltan los peligros de la interferencia electoral mediante deepfakes de IA.

Escándalo de deepfake en las elecciones de Eslovaquia de 2023

Otro ejemplo de interferencia de IA en elecciones ocurrió en las elecciones de Eslovaquia de 2023. En este incidente, surgió un video falso que mostraba al líder de Progressive Slovakia, Michal Šimečka, hablando sobre manipular la elección. El video fue etiquetado posteriormente como falso, pero no hasta que había recibido millones de visualizaciones y compartidos en TikTok, Facebook y Telegram.

Cómo detectar deepfakes de IA en 2026

Detectar deepfakes no es una tarea fácil. Antes, la tecnología dejaba muchos errores, como parpadeos poco naturales, iluminación extraña o incluso la apariencia de sincronización labial. La investigación sugiere que los humanos a menudo son malos detectando deepfakes de alta calidad, obteniendo resultados cercanos al azar según el contexto y la modalidad.

Una forma de determinar si un video es un deepfake es buscar los fotogramas de la imagen usando Google para encontrar el contenido original. También intentarán usar el audio para buscar sonidos poco naturales. En algunos casos, es imposible detectar un deepfake de alta calidad sin herramientas técnicas.

Principales herramientas de detección de deepfakes de IA y sus limitaciones

Irónicamente, las herramientas de IA son la mejor opción al intentar determinar la legitimidad de un video. Estas opciones incluyen Deepware Scanner, Reality Defender, Video Authenticator de Microsoft y más.

Estos protocolos cuentan con algoritmos propietarios diseñados para localizar cualquier inconsistencia de píxeles o patrones encontrados en fotogramas de video generados por IA. Estos sistemas también pueden cruzar la información con datos locales, lo que les permite revelar una interferencia de IA.

Las mejores herramientas de detección de IA no son perfectas, con protocolos como Bio-ID alcanzando un 98 % en pruebas recientes. El hecho de que el 2 % de los deepfakes fueran discernibles incluso por otros sistemas de IA es motivo de preocupación de cara al futuro.

Alfabetización mediática como defensa contra la manipulación de IA

Quizás la mejor manera de combatir los deepfakes sea enfocarse en impulsar la alfabetización mediática entre las masas. Es fundamental que exista una etiqueta obligatoria que facilite determinar si un video es un deepfakes o es legítimo.

Por qué la autorregulación de las grandes tecnológicas ha fallado en la gobernanza de la IA

La historia ha demostrado que las empresas tecnológicas no pueden autorregularse. Su enfoque está en el beneficio y la innovación. Este deseo puede venir a costa de la privacidad y la verdad. Por lo tanto, no existe un escenario en el que una empresa tecnológica pueda prevenir eficazmente que los deepfakes lleguen a sus seguidores.

Esfuerzos gubernamentales de regulación de IA en 2026

Dado que las empresas tecnológicas son incapaces de proporcionar las protecciones necesarias contra estos problemas, los gobiernos han comenzado a tomar la antorcha. Sin embargo, este escenario no es ideal, ya que los gobiernos no comprenden la tecnología de manera que les permita crear salvaguardas que no obstaculicen la innovación.

Empresas de IA vs Gobierno: el choque de políticas de 2026

La brecha entre los gobiernos y los proveedores de IA ha comenzado a crecer en los últimos meses. Mientras los legisladores están ansiosos por proteger al público de los deepfakes y la desinformación, el ejército sigue impulsando la integración total de herramientas de IA en su arsenal.

Este deseo de usar esta tecnología como parte de la cadena de muerte ha provocado varios enfrentamientos públicos entre empresas y el gobierno de EE. UU. A continuación, algunos de los incidentes más recientes, que resaltan los riesgos y el posible lado oscuro de la guerra con IA.

Anthropic vs el Departamento de Defensa de EE. UU

Anthropic está en medio de un enfrentamiento público con el Departamento de Defensa de EE. UU sobre el uso de su modelo Claude AI. El desacuerdo gira en torno a conceder acceso ilimitado a la IA, lo que podría resultar en que el sistema se utilice para llevar a cabo vigilancia masiva interna.

Anthropic, que se lanzó en 2021, también ha negado el acceso total debido a preocupaciones sobre la fiabilidad de los sistemas de objetivo de IA. Ambas líneas rojas fueron establecidas por el CEO de la empresa, Dario Amodei, citando la falta de fiabilidad como principal preocupación.

Límites propuestos por Anthropic al uso militar de IA

En esta parte, el Pentágono argumenta que este contrato de $200 M debería incluir acceso sin restricciones. Anthropic hizo algunas concesiones durante el debate, permitiendo que los sistemas de IA se usen en misiles y defensa. Incluso declaró que estaría de acuerdo con operaciones de la NSA, siempre que excluyan la vigilancia masiva de ciudadanos estadounidenses.

Por qué el Pentágono rechazó las restricciones de Anthropic

Sin embargo, eso no fue suficiente para los funcionarios del Pentágono. Poco después de que Anthropic rechazara esta afirmación, la administración Trump prohibió sus productos para cualquier organización federal. Específicamente, el presidente calificó los productos de Anthropic como un “riesgo de seguridad nacional”. Los informes sobre la disputa también hicieron referencia a la Ley de Producción de Defensa como una posible herramienta de presión, aunque la justificación legal precisa debe describirse con cuidado a menos que se cite directamente de la orden.

Esta maniobra significa que Anthropic no podrá asegurar contratos militares o gubernamentales en el futuro, dejando a la empresa en un escenario precario donde debe elegir entre sus creencias fundamentales y el beneficio.

Cómo OpenAI y xAI respondieron al cambio del Pentágono

El competidor de Anthropic, OpenAI, intervino rápidamente para ocupar el lugar de Anthropic, prometiendo total cumplimiento con el Pentágono. Por lo tanto, la empresa firmó un acuerdo clasificado con el gobierno, que incluye el uso legal sin restricciones de su sistema de IA.

Aplicaciones militares actuales de la inteligencia artificial

Ya existen numerosos ejemplos de sistemas de IA que ayudan a aumentar el ritmo y la escala de la guerra. Estos sistemas están optimizados para trabajar de la mano con el creciente número de sistemas autónomos, como la tecnología de enjambres de drones.

La inteligencia artificial se considera un factor de cambio porque puede fusionar datos de una enorme variedad de sensores para proporcionar un objetivo más rápido y más. También es crucial en los sectores logísticos y financieros del ejército, donde puede ayudar a garantizar el mantenimiento preventivo y que otras tareas clave se mantengan en el cronograma.

Uso de sistemas de objetivo de IA de Israel en Gaza

El uso de sistemas de objetivo de IA se destacó en la campaña de Gaza de Israel. Estas operaciones aprovecharon herramientas como Lavender para cruzar los movimientos de una persona con posibles comportamientos militantes.

Esta herramienta permitió al ejército israelí rastrear y atacar a combatientes de bajo nivel de Hamas antes de bombear sus hogares. Según el personal militar israelí, el sistema tendría una tasa de error del 10 %. Sin embargo, ese número es altamente debatible.

El sistema de objetivo de IA “Gospel” explicado

Otra herramienta de IA israelí llamada Gospel está configurada para proporcionar 100 objetivos diarios. Cruza movimientos y otros datos para localizar posibles edificios que puedan albergar combatientes enemigos. Este sistema se usa a menudo con el programa de IA “Where’s Daddy” que permite el seguimiento autónomo de personal marcado.

IA en la aplicación de la ley: detección de amenazas y riesgos de privacidad

El uso de sistemas de IA en la aplicación de la ley es otro debate muy controvertido. Muchas personas se sorprendieron al saber que los sistemas de ChatGPT señalaron al tirador masivo de Canadá, Jesse Van Rootselaar, de Tumbler Ridge, como una amenaza potencial.

Específicamente, el sistema de IA detectó violaciones de políticas ocho meses antes, cuando el usuario preguntó repetidamente sobre violencia armada. La consulta se envió a varios revisores humanos, lo que llevó a que la cuenta fuera prohibida y el usuario marcado.

Por qué los sistemas de señalamiento de IA a menudo no activan la intervención

A pesar de las alarmas sonando, la empresa afirma que la cuenta no superó el umbral que consideran una amenaza activa. Por lo tanto, las autoridades nunca fueron notificadas. Si lo hubieran sido, podrían haber entrevistado y salvado ocho vidas el 10 de febrero de 2026.

Curiosamente, los registros internos de la empresa muestran que hubo un debate sobre notificar a las autoridades tras la prohibición de la cuenta. Más tarde se reveló que el tirador abrió otra cuenta evadiendo la prohibición antes de sus ataques.

Los funcionarios gubernamentales argumentan que era responsabilidad de OpenAI notificar a las autoridades del chat sospechoso, y que si lo hubieran hecho, podrían haber ayudado a salvar vidas. Por el contrario, la empresa declaró que mejorará el intercambio de datos y el tiempo de respuesta, reduciendo sus umbrales.

La carta ética de IA “No seremos divididos”

La “Carta No seremos divididos” es un llamado abierto a los empleados de IA para que se opongan públicamente a las armas totalmente autónomas y a la vigilancia masiva, y para impulsar compromisos de seguridad exigibles en toda la industria. La carta insta a los desarrolladores de IA a no apoyar armas totalmente autónomas ni operaciones de vigilancia masiva de ninguna manera.

También crea una lista de normas de seguridad compartidas diseñadas para prevenir un escenario de IA descontrolada. Estas directrices incluyen elementos como la inclusión de un humano en el proceso para supervisar y aprobar cualquier actividad letal. Además, promueve la transparencia para evitar abusos.

El objetivo principal de la carta es crear un conjunto de estándares éticos que todas las empresas de IA puedan seguir para evitar que la tecnología convierta la vida en un infierno para todos en el planeta. Llega en un punto crítico de la adopción de IA, ya que los ejércitos se han vuelto dependientes de esta tecnología para operaciones de objetivo y recopilación de información.

Posición de las principales empresas de IA sobre el uso gubernamental y militar

Al examinar estos dos escenarios muy diferentes, se puede ver cómo las empresas de IA continúan fusionando operaciones con agencias gubernamentales. Esta fusión requerirá un delicado equilibrio entre capacidades, salvaguardas y transparencia para prevenir abusos. A continuación, la posición actual de cada empresa sobre las operaciones gubernamentales.

Swipe to Scroll →

Anthropic

Anthropic se ha mantenido fiel a sus estándares fundamentales, buscando mantener límites estrictos en los casos de uso de objetivo autónomo y vigilancia masiva. Sin embargo, parece estar pagando caro por su brújula moral, ya que las agencias federales han restringido o eliminado el uso de sus modelos en ciertos entornos.

OpenAI

OpenAI está totalmente a favor de la integración gubernamental. La empresa estaba ansiosa por ganar posición cuando Anthropic perdió su contrato con el Departamento de Defensa debido a su adhesión a su misión principal. OpenAI ha acordado desplegar modelos dentro de entornos de defensa bajo un marco de “uso legal”. La empresa afirma que prohíbe la vigilancia masiva interna y requiere responsabilidad humana para el uso de la fuerza.

xAI

xAI de Elon Musk ha sido un fuerte defensor de la integración de IA en la doctrina de guerra. Los informes indican que xAI ha manifestado su disposición a apoyar despliegues gubernamentales clasificados bajo términos de “uso legal”, aunque los detalles operativos siguen siendo limitados.

Google

Google (GOOGL ) ha tenido mucho debate interno sobre el uso de su sistema en la guerra. La empresa contó con más de 300 empleados clave que firmaron una carta abierta que instaba a los proveedores de IA a rechazar contratos abiertos con el Pentágono. Sin embargo, Google tiene más de $200 M en contratos CDAO, lo que significa que están bajo mucha presión para ceder.

Últimas noticias y desempeño de GOOGLE (GOOGL)

El futuro de la gobernanza de IA y la estabilidad democrática

Al examinar la integración de sistemas de IA en todo, desde el gobierno hasta operaciones militares, es fácil reconocer la necesidad de algunas salvaguardas. Estos sistemas se han vuelto increíblemente poderosos tanto en términos técnicos como sociales. Ojalá las empresas de IA comprendan la importancia de su división y se adhieran a estándares éticos antes de que sea demasiado tarde. En la situación actual, parece que los beneficios van a ganar esta carrera.

Aprende sobre otros desarrollos de IA aquí.