La IA está remodelando las redes sociales y la confianza en línea

El contenido de IA está en todas partes, desplazando el contenido humano auténtico y transformando por completo el panorama de las redes sociales. Su influencia ahora se ha extendido más allá de las plataformas, impactando la arena política, el Internet en general e incluso la economía global.

Entonces, ¿significa esto que las redes sociales se están acercando a su muerte? Bueno, descubrémoslo.

Resumen:

El contenido generado por IA está remodelando las redes sociales al inundar las plataformas con medios sintéticos, erosionar la confianza y trasladar la interacción humana significativa a espacios privados y verificables.

De la Conexión Humana a los Feeds Sintéticos

Hace aproximadamente cuatro décadas surgieron las primeras formas de interacción social en línea, comenzando con los sistemas de tablones de anuncios (BBS), Usenet y los foros tempranos a finales de los años 70 y 80. Sin embargo, las primeras plataformas de redes sociales reconocibles no aparecieron hasta mediados y finales de los años 90, sentando las bases de lo que más tarde se convertiría en las redes sociales modernas.

El comienzo del siglo XXI marcó la popularidad generalizada de las redes sociales con sitios como Friendster, MySpace y Facebook. Esta era moderna de las redes sociales permitió una conexión global instantánea, permitiendo a las personas mantener relaciones, acceder a noticias en tiempo real y crear comunidades alrededor de intereses compartidos.

Pero ahora, apenas un par de décadas después, el rostro de las redes sociales está cambiando con la proliferación del contenido de IA.

Tradicionalmente, los valores fundamentales de las redes sociales han sido la conexión y la expresión, pero estos han sido reemplazados por la producción masiva automatizada. Con los feeds de las personas dominados por ruido sintético, el desinterés y la desconfianza entre las masas están creciendo rápidamente.

Según el alto ejecutivo de Instagram, una cuadrícula cuidadosamente curada ahora es cosa del pasado.

En un mensaje en Threads, el jefe de Instagram, Adam Mosseri, advirtió que el auge de la IA ha eliminado la estética pulida del sitio de redes sociales. Todo ese maquillaje, suavizado de piel, paisajes hermosos y fotografía de alto contraste ahora está “muerto”, ya que “las personas dejaron en gran medida de compartir momentos personales hace años”, dijo.

En su lugar, se están compartiendo fotos sin pulir, “candidatos poco favorecedores”, a través de mensajes directos.

La omnipresencia de las imágenes de IA significa que los creadores deben alejarse de las cuadrículas curadas y la fotografía de estilo profesional hacia una “estética más cruda”, con la gente queriendo “contenido que se sienta real” en lugar de imágenes favorecedoras, que son “baratas de producir y aburridas de consumir”.

Pronto veremos la maduración de las herramientas de IA y, con ello, la expansión del rango de estéticas que pueden producir, dijo Mosseri, mientras señalaba que ya los feeds de las redes sociales están comenzando a llenarse de “todo sintético”, lo que significa que las plataformas deben evolucionar para manejar la avalancha de contenido generado por IA.

Mientras tanto, el cofundador y CEO de Substack, Chris Best, dijo a finales del año pasado que el “slop” generado por IA podría inundar Internet, lo que “mantiene a la gente tonta haciendo clic”.

“Slop” fue elegida como la palabra del año 2025 por el diccionario estadounidense Merriam-Webster, que la define como “contenido digital de baja calidad que se produce, generalmente en cantidad, mediante inteligencia artificial”.

El Auge de Internet de Bots

Desliza para desplazarte →

Los datos muestran que casi un tercio de todo el tráfico de Internet proviene de bots, programas de software automatizados que imitan el comportamiento humano.

Esto ha dado origen a la teoría del Internet muerto, que sostiene que Internet consiste principalmente en actividad de bots y contenido generado algorítmicamente diseñado para controlar a la población global.

Reddit (RDDT ) cofundador Alexis Ohanian cree que hay algo de verdad en la idea, y una nueva era de redes sociales surgirá a causa de ello. “Tener prueba de vida, como espectadores en vivo y contenido en vivo, es realmente jodidamente valioso para mantener la atención,” dijo en un podcast.

El fundador y CEO de OpenAI, Sam Altman, compartió una visión similar en X el año pasado, publicando:

“Nunca tomé en serio la teoría del Internet muerto, pero parece que ahora hay muchísimas cuentas de Twitter gestionadas por LLM.”

La actividad de bots en X (antes conocido como Twitter) está empeorando realmente. Se estima que alrededor del 10 % de las cuentas de X son bots, sumando millones de usuarios.

Mientras tanto, más del 20 % de los videos que el algoritmo de YouTube muestra a los nuevos usuarios han sido detectados como “slop de IA”.

De hecho, entre los 15 000 canales de YouTube más populares encuestados, 278 contienen solo contenido generado por IA, y en conjunto han acumulado 221 millones de suscriptores y más de 63 mil millones de visualizaciones, generando alrededor de 117 millones de dólares en ingresos cada año.

Esto no se limita a una o unas pocas plataformas; es cierto para todo Internet.

Como señaló el Informe Bad Bot de Imperva 2025, el tráfico automatizado ha superado al tráfico humano, representando el 51 % de todo el tráfico de Internet, con el 20 % de ese proveniente de “bots malos” involucrados en actividades maliciosas.

Hace unos meses, Marshall Miller, director senior de producto en la Fundación Wikimedia, la organización sin fines de lucro que gestiona Wikipedia, también señaló que el tráfico humano del sitio ha disminuido alrededor de un 8 % a medida que la gente cambia la forma en que busca información en línea.

La caída se reveló después de que la Fundación cambiara la forma en que diferencia entre tráfico humano y de bots para comprender mejor la verdadera audiencia y limitar a los bots de terceros que extraen sus datos para búsquedas comerciales y herramientas de IA.

“Creemos que estas disminuciones reflejan el impacto de la IA generativa y las redes sociales en cómo la gente busca información, especialmente con los motores de búsqueda proporcionando respuestas directamente a los buscadores, a menudo basadas en contenido de Wikipedia,” escribió Miller, añadiendo que esto no era realmente una sorpresa ya que los motores de búsqueda utilizan cada vez más IA para ofrecer respuestas directamente en las páginas de resultados y los usuarios más jóvenes recurren a TikTok y YouTube.

Pero esto significa que la comunidad que escribe y edita el contenido de Wikipedia podría reducirse. Por lo tanto, la plataforma está instando a los motores de búsqueda, plataformas sociales, LLM y chatbots de IA a ayudar a generar más tráfico de regreso al sitio.

Cómo las Plataformas de Redes Sociales están Amplificando el Contenido de IA

Las plataformas de redes sociales han sido inundadas con contenido generado por IA gracias a un crecimiento explosivo del ecosistema de herramientas generativas.

Por ejemplo, herramientas como Sora, Midjourney, Pika, Runway y Stable Diffusion han facilitado enormemente la creación de imágenes y videos de casi cualquier cosa.

Un número creciente de soluciones incluso facilita a las personas aumentar vistas y obtener ganancias de programas de recompensas para creadores o enlaces de afiliados. No solo generan automáticamente, sino que también publican contenido directamente en plataformas como YouTube, por una tarifa, realizando más de 100 videos al mes en una sola cuenta. Estas soluciones buscan automatizar todo el proceso de ser un creador de contenido.

Pero eso no es todo. Los investigadores han descubierto que las plataformas realmente han estado impulsando publicaciones generadas por IA. Plataformas como TikTok, Instagram y Meta (META ) incluso ofrecen funciones nativas de IA que permiten a los usuarios generar imágenes, guiones o remezclar medios existentes sin software externo.

Meta, en particular, ha adoptado el contenido generado por IA con total entusiasmo, incluso creando su propio slop. En 2023, la empresa introdujo perfiles impulsados por IA y anunció planes de poblar su plataforma con personajes de IA. Pero después de recibir una fuerte reacción negativa de los usuarios, Meta eliminó los perfiles de IA el año pasado.

Instagram, mientras tanto, lanzó un estudio de IA que permite a los usuarios crear chatbots personalizados, incluidas sus propias versiones digitales.

Recientemente, TikTok reveló que había al menos 1.300 millones de publicaciones generadas por IA en su plataforma, con más de 100 millones de piezas de contenido subidas cada día. Por transparencia, TikTok etiqueta el contenido generado por IA e incluso brinda a los usuarios la opción de reducir la cantidad de contenido de IA que ven.

Pero AI Forensics, una organización sin fines de lucro con sede en París, encontró que menos del 2 % de las cuentas tenían la etiqueta de TikTok para contenido de IA. En ocasiones, también escapan de la moderación de la plataforma durante meses, a pesar de publicar contenido prohibido por los términos de servicio de TikTok.

Según el informe, más de 350 cuentas centradas en IA impulsaron 43 000 publicaciones realizadas con la ayuda de herramientas de IA generativa, acumulando 4,5 mil millones de visualizaciones durante un período de un mes. Los investigadores dijeron:

“La línea difusa entre contenido humano auténtico y contenido sintético generado por IA en la plataforma está señalando un nuevo giro hacia más contenido generado por IA en los feeds de los usuarios.”

¿Puede la Autenticidad Sobrevivir a la Automatización?

Una vez bulliciosas con actividad real, donde los amigos se reunían y compartían momentos especiales, las redes sociales ahora se están convirtiendo en pueblos fantasma, poblados por entidades artificiales que simulan la interacción humana y publican contenido generado por IA.

Aunque puedas pensar que simplemente puedes bloquear a esos usuarios y contenido, un estudio encontró¹ que las personas no pueden distinguir la IA de un humano, incluso cuando están familiarizadas con el tema del LLM.

El estudio evaluó cuán exitosamente los humanos detectan contenido generado por IA y encontró que el texto humano fue reconocido correctamente como tal solo el 67 % de las veces, mientras que GPT-4 fue detectado incorrectamente como humano el 54 % de las veces.

Según Mosseri de Instagram, las plataformas sociales solo empeorarán en identificar medios generados por IA con el tiempo a medida que la tecnología mejore. Una solución podría ser que las compañías de cámaras firmen criptográficamente las fotos al tomarlas para demostrar que son reales.

La solución para mitigar el poder de los bots, según Ohanian, es ver “una próxima generación de redes sociales que sea verificablemente humana.”

Mientras los avances tecnológicos han optimizado la mayor parte de Internet para la interacción, lo que Best comparó con una “adicción a las drogas,” y cree que “se va a sobrecargar,” aún mantiene la esperanza de un futuro alternativo.

“El otro propósito de los medios es la cultura,” añadió, “Eso es algo que la gente realmente, realmente quiere también.”

Según Best de Substack, esta misma tecnología tiene el potencial de habilitar un “futuro donde haya mucho más apalancamiento creativo” para creadores independientes. El verdadero cuello de botella para los medios, señaló, no es el contenido, del cual hay “no escasez”, sino la atención. “Hemos entrado en un mundo donde la atención es el recurso escaso,” dijo.

“Hemos ganado la guerra contra el aburrimiento,” dijo Best, añadiendo que “hay una gran escasez de buen contenido.”

En medio de esto, Wikimedia Deutschland lanzó el Proyecto de Embedding de Wikidata, que convirtió alrededor de 120 millones de puntos de datos abiertos en Wikidata a un formato más fácil de usar para los LLM, ayudando a los sistemas de IA a acceder a datos de mayor calidad de forma gratuita y mejorar su precisión.

Regulación, Investigación y la Lucha por la Confianza

A medida que la IA se apodera de Internet, los investigadores se han dedicado a comprender su impacto. Un estudio de este tipo, titulado El Impacto de la IA Generativa en las Redes Sociales: Un Estudio Experimental², examinó cómo la asistencia de IA afecta la producción de contenido y las percepciones de los usuarios, y encontró que las herramientas de IA son beneficiosas para aumentar el volumen de contenido y la interacción, pero disminuyen la calidad percibida y la autenticidad.

Basándose en sus hallazgos, recomendaron que las plataformas de redes sociales, los legisladores y las partes interesadas diseñen herramientas con personalización centrada en el usuario, incorporando sensibilidad al contexto y priorizando interfaces de usuario intuitivas para una integración ética y eficaz de la IA generativa en las redes sociales.

Los investigadores también recomendaron garantizar la divulgación transparente del contenido generado por IA, ya que otros estudios³ han descubierto⁴ que esto mejora la confianza sin perjudicar la interacción.

En cuanto a regulaciones, los gobiernos de todo el mundo también han tomado medidas para promover y regular el uso responsable de la inteligencia artificial.

En la Unión Europea (UE), el AI Act se centra en la transparencia, la clasificación de riesgos y las obligaciones para sistemas de alto riesgo.

La Online Safety Act (OSA), mientras tanto, ha otorgado al regulador de comunicaciones Ofcom una amplia autoridad para exigir a las plataformas que gestionen contenido dañino o engañoso en el Reino Unido, aunque los legisladores han solicitado una actualización para abordar de manera más eficaz la desinformación impulsada por IA.

En EE. UU., el presidente Donald Trump ha emitido una Orden Ejecutiva para eliminar barreras al liderazgo de EE. UU. en IA y publicó un plan de acción para asegurar su dominio en el sector. Luego, el mes pasado, él ordenó una norma nacional que permite a las empresas de IA innovar sin regulaciones engorrosas.

Mientras tanto, el marco de China ha sido uno de los más detallados a nivel mundial en la regulación de la creación y distribución de contenido de IA. Su Administración del Ciberespacio ha implementado etiquetado obligatorio para el contenido generado por IA, exigiendo avisos visibles y metadatos incrustados para evitar la desinformación y el fraude.

Algunos gobiernos también están impulsando investigaciones sobre plataformas por desinformación generada por IA. Más recientemente, Polonia instó a la Comisión Europea a investigar a TikTok por alojar contenido de IA que consideró desestabilizador.

“El contenido divulgado representa una amenaza para el orden público, la seguridad de la información y la integridad de los procesos democráticos en Polonia y en toda la Unión Europea,” dijo el Subsecretario de Digitalización Dariusz Standerski en una carta enviada a la Comisión. “La naturaleza de las narrativas, la forma en que se distribuyen y el uso de materiales audiovisuales sintéticos indican que la plataforma no está cumpliendo con las obligaciones impuestas,” añadió.

Por ahora, el panorama de políticas para la IA sigue siendo un tema emergente a nivel mundial, fragmentado entre jurisdicciones y luchando por mantenerse al día con la velocidad a la que los sistemas generativos están remodelando los flujos de información, la confianza pública y el discurso democrático.

Invertir en Infraestructura de IA

En el mundo de la IA, Palantir Technologies Inc. (PLTR ) destaca por su especialización en análisis de big data impulsado por IA.

Ha construido cuatro plataformas de software principales, incluyendo Apollo, Gotham, Foundry y Artificial Intelligence Platform (AIP). Apollo es una capa de control que armoniza la entrega de nuevas funciones, configuraciones y actualizaciones de seguridad para garantizar el funcionamiento continuo de los sistemas críticos. Gotham ayuda a identificar patrones dentro de los conjuntos de datos, y Foundry ayuda a las organizaciones a crear un sistema operativo central para sus datos. AIP permite la activación eficaz de grandes modelos de lenguaje y otras IA dentro de cualquier organización.

Cabe destacar que las plataformas de Palantir son utilizadas por gobiernos y empresas privadas para detectar desinformación, redes de bots y distribución de medios sintéticos. Estas herramientas están diseñadas para identificar comportamientos auténticos versus inauténticos en ecosistemas de información complejos.

Además, los análisis de IA son cada vez más utilizados por organizaciones y gobiernos para monitorear amenazas de salud y seguridad. Con una capitalización de mercado de 400 mil millones de dólares, las acciones de PLTR cotizan actualmente a 174 $, con un aumento de más del 110 % en el último año. Tiene un EPS (TTM) de 0,43 y un P/E (TTM) de 392,56.

En cuanto a su posición financiera, Palantir anunció ingresos de 1.181 mil millones de dólares para el tercer trimestre que terminó el 30 de septiembre de 2025, lo que representa un crecimiento del 63 % interanual y del 18 % trimestral, logrando un nuevo récord de ingresos en sus más de veinte años de historia. Su beneficio para el trimestre fue de 476 mil millones de dólares.

“Todavía estamos en el muy comienzo de las cosas. Esto sigue siendo el inicio, el primer momento del primer capítulo.”

– Cofundador y CEO Alex C. Karp, en una carta a los accionistas

Su ingreso en EE. UU., en particular, creció un 77 % interanual y un 20 % trimestral hasta 883 millones de dólares. Esto incluye 486 millones de dólares en ingresos del gobierno de EE. UU., que aumentaron un 52 % interanual y un 14 % trimestral, y 397 millones de dólares en ingresos comerciales de EE. UU., que se dispararon un 121 % interanual y un 29 % trimestral. Karp calificó el segmento comercial de EE. UU. como “un auténtico gigante” que él cree “se convertirá, por sí mismo, en una de las historias empresariales más significativas del siglo en la vida económica estadounidense.”

Durante este período, el número de clientes de Palantir creció un 45 % interanual. Mientras tanto, su flujo de caja libre ajustado fue de 540 millones de dólares, las ganancias por acción GAAP fueron de 0,18 $, y el EPS ajustado fue de 0,21 $. Terminó el trimestre con 6,4 mil millones de dólares en efectivo, equivalentes de efectivo y valores del Tesoro de EE. UU. a corto plazo.

“Estos resultados hacen indiscutible el impacto transformador de usar AIP para multiplicar el apalancamiento de IA,” señaló la compañía.

Para el cuarto trimestre de 2025, Palantir espera que los ingresos estén entre 1.327 y 1.331 mil millones de dólares y que el ingreso operativo ajustado esté entre 695 y 699 millones de dólares.

En cuanto al año completo 2025, Palantir elevó su guía de ingresos a 4.396‑4.400 mil millones de dólares y proyecta al menos un crecimiento del 104 % en los ingresos comerciales de EE. UU. para superar los 1.433 mil millones de dólares. Mientras tanto, la guía de ingreso operativo ajustado se ha elevado a 2.151‑2.155 mil millones de dólares, y la guía de flujo de caja libre ajustado a 1,9‑2,1 mil millones de dólares.

Conclusión para inversores:

A medida que el contenido de IA se escala más rápido que la atención humana, la demanda crece por infraestructura que gobierne la autenticidad, la moderación y la confianza, creando oportunidades a largo plazo más allá de las plataformas sociales de consumo.

Últimas Noticias de Acciones de Palantir Technologies Inc. (PLTR)

Conclusión

Las redes sociales, tal como las conocemos, están claramente llegando a su fin. Ya no es el mismo lugar donde la gente compartía activamente sus intereses, recuerdos e ideas de manera auténtica. Lo que antes se construía sobre la conexión humana ahora está invadido por contenido automatizado y bots.

Aunque la IA ha desbloqueado un apalancamiento creativo y una eficiencia económica sin precedentes, también ha erosionado las señales que antes hacían significativa la interacción en línea.

El futuro de las redes sociales probablemente se fragmentará, con un camino que conduce a feeds hiperautomatizados optimizados para la interacción y el otro que apunta a espacios verificablemente humanos que priorizan la cultura, la credibilidad y el contexto sobre el alcance.

Referencias

<sup>1. Jones, C. R. & Bergen, B. K. “Las personas no pueden distinguir GPT-4 de un humano en una prueba de Turing.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “El Impacto de la IA Generativa en las Redes Sociales: Un Estudio Experimental.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Etiquetado de Contenido Sintético: Percepciones de los Usuarios sobre los Diseños de Etiquetas de Advertencia para Contenido Generado por IA en Redes Sociales.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Examinando el Impacto del Detalle de la Etiqueta y la Importancia del Contenido en las Percepciones de los Usuarios de Imágenes Generadas por IA en Redes Sociales.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>