La IA está transformando las redes sociales y la confianza en línea

El contenido de IA está en todas partes, desplazando al contenido humano auténtico y transformando por completo el panorama de las redes sociales. Su influencia se ha extendido más allá de las plataformas para impactar el ámbito político, internet en general e incluso la economía global.

Entonces, ¿significa esto que las redes sociales están a punto de desaparecer? Bueno, averigüémoslo.

De la conexión humana a los feeds sintéticos

Hace aproximadamente cuatro décadas surgieron las primeras formas de interacción social en línea, comenzando con los sistemas de tablones de anuncios (BBS), Usenet y los primeros foros a finales de los años 1970 y 1980. Sin embargo, las primeras plataformas de redes sociales reconocibles no aparecieron hasta mediados o finales de los años 1990, sentando las bases de lo que luego se convertiría en las redes sociales modernas.

El comienzo del siglo XXI marcó la popularidad generalizada de las redes sociales con sitios como Friendster, MySpace y Facebook. Esta era moderna de las redes sociales permitió la conexión global instantánea, permitiendo a las personas mantener relaciones, acceder a noticias en tiempo real y crear comunidades en torno a intereses comunes.

Pero ahora, apenas un par de décadas después, el rostro de las redes sociales está cambiando con la proliferación de Contenido de IA.

Tradicionalmente, los valores fundamentales de redes sociales Han sido conexión y expresión, pero estas han sido reemplazadas por la producción masiva automatizada. Con las redes sociales dominadas por ruido sintético, la desconexión y la desconfianza entre las masas crecen rápidamente.

Según el máximo ejecutivo de Instagram, una cuadrícula cuidadosamente seleccionada ahora es cosa del pasado.

En un mensaje en HilosAdam Mosseri, director de Instagram, advirtió que el auge de la IA ha acabado con la estética refinada de la red social. Todo ese maquillaje, suavizado de piel, hermosos paisajes y fotografía de alto contraste ahora están "muertos", ya que "la gente dejó de compartir momentos personales hace años", afirmó.

En lugar de ello, se comparten fotos espontáneas, sin pulir y “poco favorecedoras”, a través de mensajes directos.

La omnipresencia de las imágenes de IA significa que los creadores tienen que alejarse de las cuadrículas seleccionadas y la fotografía de estilo profesional hacia una "estética más cruda", donde la gente quiere "contenido que se sienta real" en lugar de imágenes favorecedoras, que son "baratas de producir y aburridas de consumir".

Pronto veremos la maduración de las herramientas de IA y con ello la expansión de la gama de estéticas que pueden producir, dijo Mosseri, al tiempo que señaló que los feeds de las redes sociales ya están comenzando a llenarse con "todo sintético", lo que significa que las plataformas necesitan evolucionar para manejar la avalancha de contenido generado por IA.

Mientras tanto, el cofundador y CEO de Substack, Chris Best, dijo a fines del año pasado que la "basura" generada por IA podría inundar Internet, lo que "mantiene a la gente tonta haciendo clic".

“Slop” fue elegido como el Palabra del año 2025 según el diccionario estadounidense Merriam-Webster, que lo define como “contenido digital de baja calidad que se produce, generalmente en cantidad, por medio de inteligencia artificial”.

El auge de los bots en Internet

Desliza para desplazarte →

Los datos muestran que casi un tercio de todo el tráfico de Internet Proviene de bots, programas de software automatizados que imitan el comportamiento humano.

Esto ha dado lugar a la teoría de la Internet muerta, que sostiene que Internet consiste principalmente en actividad de bots y contenido generado algorítmicamente y diseñado para controlar a la población global.

Reddit (RDDT -6.55%) El cofundador Alexis Ohanian cree que hay algo de cierto en esta idea, y que gracias a ella surgirá una nueva era en las redes sociales. "Tener pruebas de vida, como espectadores y contenido en vivo, es realmente valioso para mantener la atención", dijo en un podcast.

El fundador y director ejecutivo de OpenAI, Sam Altman, compartió una visión similar sobre X el año pasado, al publicar:

“Nunca tomé tan en serio la teoría de la Internet muerta, pero parece que ahora hay muchísimas cuentas de Twitter gestionadas por LLM”.

La actividad de bots en X (anteriormente conocido como Twitter) está empeorando. Se estima que aproximadamente 10% de X cuentas Son bots que suman millones de usuarios.

Mientras tanto, más del 20% de los vídeos que el algoritmo de YouTube muestra a los nuevos usuarios han sido... fundada ser “basura de IA”.

De hecho, entre los 15,000 canales de YouTube más populares encuestados, 278 contienen solo Contenido generado por IAy juntos han acumulado 221 millones de suscriptores y más de 63 mil millones de visitas, generando alrededor de 117 millones de dólares en ingresos cada año.

Esto no se limita a una sola plataforma o a unas pocas: es cierto para todo Internet.

Como se señaló en el Informe sobre bots malos de Imperva de 2025, el tráfico automatizado ha superado al tráfico humano, representando el 51% de todo el tráfico de Internet, y el 20% de ese dinero proviene de “bots maliciosos” que realizan actividades maliciosas.

Hace unos meses, Marshall Miller, director senior de productos de la Fundación Wikimedia, la organización sin fines de lucro que administra Wikipedia, también señaló que el tráfico humano del sitio web ha disminuido aproximadamente un 8% a medida que las personas cambian la forma en que buscan información en línea.

La caída se reveló después de que la Fundación cambiara la forma en que diferencia entre el tráfico humano y el de bots para comprender mejor a los lectores reales y limitar que los bots de terceros extraigan sus datos para búsquedas comerciales y herramientas de inteligencia artificial.

"Creemos que estas disminuciones reflejan el impacto de la IA generativa y las redes sociales en cómo las personas buscan información, especialmente con los motores de búsqueda que brindan respuestas directamente a los buscadores, a menudo basadas en el contenido de Wikipedia", escribió Miller, y agregó que esto no fue realmente una sorpresa ya que los motores de búsqueda utilizan cada vez más la IA para tener respuestas directamente en las páginas de resultados y los usuarios más jóvenes recurren a TikTok y YouTube.

Pero esto significa que la comunidad que escribe y edita el contenido de Wikipedia podría reducirse. Por ello, la plataforma insta a los motores de búsqueda, las redes sociales, los LLM y los chatbots de IA a que ayuden a atraer más tráfico al sitio.

Cómo las plataformas de redes sociales están amplificando el contenido de IA

Las plataformas de redes sociales se han visto inundadas de contenido generado por IA gracias a un crecimiento explosivo del ecosistema de herramientas generativas.

Por ejemplo, herramientas como Sora, Midjourney, Pika, Runway y Stable Diffusion han hecho que sea extremadamente fácil crear imágenes y vídeos de casi cualquier cosa.

Cada vez existen más soluciones que facilitan el aumento de visualizaciones y la obtención de beneficios mediante programas de recompensas para creadores o enlaces de afiliados. No solo generan contenido automáticamente, sino que también lo publican directamente en plataformas como YouTube, pagando una tarifa, y permiten crear más de 100 vídeos al mes con una sola cuenta. Estas soluciones buscan automatizar el proceso completo de creación de contenido.

Pero eso no es todo. Los investigadores han fundada que las plataformas han estado impulsando las publicaciones generadas por IA. Plataformas como TikTok, Instagram y Meta (META -2.65%) Incluso ofrecen funciones de inteligencia artificial nativas que permiten a los usuarios generar imágenes, guiones o mezclar medios existentes sin software externo.

Meta, en particular, ha adoptado con entusiasmo el contenido generado por IA, creando incluso su propia basura. En 2023, la compañía introdujo perfiles con IA y anunció planes para llenar su plataforma con personajes de IA. Sin embargo, tras recibir una importante reacción negativa de los usuarios, Meta eliminó los perfiles de IA el año pasado.

Mientras tanto, Instagram lanzó un estudio de inteligencia artificial que permite a los usuarios producir chatbots personalizados, incluidas sus propias versiones digitales.

Recientemente, TikTok reveló que había al menos 1.3 millones de publicaciones generadas por IA en su plataforma, con más de 100 millones de contenidos subidos a diario. Para mayor transparencia, TikTok etiqueta el contenido generado por IA e incluso ofrece a los usuarios la opción de reducir la cantidad de contenido de IA que ven.

Pero AI Forensics, una organización sin fines de lucro con sede en París, descubrió que menos del 2% de las cuentas tenían la etiqueta de TikTok para contenido de IA. En ocasiones, incluso evaden la moderación de la plataforma durante meses, a pesar de publicar contenido prohibido por las condiciones de servicio de TikTok.

Según el informe, más de 350 cuentas centradas en IA publicaron 43,000 publicaciones con herramientas de IA genérica, acumulando 4.5 millones de visualizaciones en un mes. Los investigadores afirmaron:

“La línea cada vez más difusa entre el contenido humano auténtico y el contenido sintético generado por IA en la plataforma está señalando un nuevo giro hacia más contenido generado por IA en los feeds de los usuarios”.

¿Puede la autenticidad sobrevivir a la automatización?

Las redes sociales, que antes estaban repletas de actividad real y donde los amigos se reunían para compartir momentos especiales, ahora se están convirtiendo en ciudades fantasmas, pobladas por entidades artificiales que simulan la interacción humana y publican contenido generado por IA.

Si bien puede pensar que puede simplemente bloquear a esos usuarios y contenido, un estudio encontrado¹ que las personas no pueden distinguir una IA de un humano, incluso cuando están familiarizadas con el tema del LLM.

El estudio evaluó el éxito que tuvieron los humanos detectar contenido generado por IA y descubrieron que el texto humano fue reconocido con precisión como tal solo el 67% de las veces, mientras que GPT-4 fue detectado incorrectamente como humano el 54% de las veces.

Según Mosseri de Instagram, las plataformas sociales solo empeorarán su capacidad para identificar contenido generado por IA con el tiempo, a medida que la tecnología avance. Una solución podría ser que las compañías de cámaras firmen criptográficamente las fotos al tomarlas para demostrar que son reales.

La solución para mitigar el poder de los bots, según Ohanian, es ver “surgir una próxima generación de redes sociales que sea verificablemente humana”.

Si bien los avances tecnológicos han optimizado la mayor parte de Internet para la interacción, algo que Best comparó con la “adicción a las drogas” y cree que “se va a potenciar”, aún tiene esperanzas de un futuro alternativo.

“El otro propósito de los medios es la cultura”, añadió. “Eso es algo que la gente también desea muchísimo”.

Según Best de Substack, esta misma tecnología tiene el potencial de posibilitar un futuro con un mayor poder creativo para los creadores independientes. El verdadero obstáculo para los medios, señaló, no es el contenido, del cual no hay escasez, sino la atención. «Hemos entrado en un mundo donde la atención es un recurso escaso», afirmó.

"Hemos ganado la guerra contra el aburrimiento", dijo Best, y agregó que "hay una enorme escasez de buen contenido".

En medio de esto, Wikimedia Deutschland lanzó el Proyecto de Integración de Wikidata, que convirtió alrededor de 120 millones de puntos de datos abiertos en Wikidata a un formato más fácil de usar para los LLM, ayudando a los sistemas de IA a acceder a datos de mayor calidad de forma gratuita y mejorar su precisión.

Regulación, investigación y la lucha por la confianza

A medida que la IA se apodera de internet, los investigadores se han dedicado a comprender su impacto. Un estudio de este tipo, titulado El impacto de la IA generativa en las redes sociales: un estudio experimental² examinaron cómo la asistencia de IA afecta la producción de contenido y las percepciones de los usuarios y descubrieron que las herramientas de IA son beneficiosas para aumentar el volumen y la participación del contenido, pero disminuyen la calidad y la autenticidad percibidas.

Basándose en sus hallazgos, recomendaron que las plataformas de redes sociales, los formuladores de políticas y las partes interesadas diseñen herramientas con personalización centrada en el usuario, incorporando sensibilidad al contexto y priorizando interfaces de usuario intuitivas para una integración ética y efectiva de la IA general en las redes sociales.

Los investigadores también recomendaron garantizar la divulgación transparente del contenido generado por IA, ya que otros estudios³ deben acudir fundada⁴ que esto mejora la confianza sin perjudicar el compromiso.

En materia regulatoria, los gobiernos de todo el mundo también han tomado medidas para promover y regular el uso responsable de la inteligencia artificial.

En la Unión Europea (UE), la Ley de IA Se centra en la transparencia, la clasificación de riesgos y las obligaciones de los sistemas de alto riesgo.

Mientras tanto, la Ley de Seguridad en Línea (OSA) ha otorgado al regulador de comunicaciones Ofcom una amplia autoridad para exigir a las plataformas que gestionen contenido dañino o engañoso en el Reino Unido, aunque los responsables políticos han pidió una actualización para abordar de manera más eficaz la desinformación impulsada por la IA.

En Estados Unidos, el presidente Donald Trump ha emitió una orden ejecutiva para eliminar las barreras al liderazgo de Estados Unidos en IA y publicó un plan de acción para asegurar su dominio en el sector. Por otro lado, el mes pasado, ordenado un estándar nacional que permite a las empresas de IA innovar sin regulaciones engorrosas.

Mientras tanto, el marco de China ha sido uno de los más detallados a nivel mundial en la regulación de la creación y distribución de contenido de IA. Su Administración del Ciberespacio ha implementado etiquetado obligatorio para el contenido generado por IA, que requiere descargos de responsabilidad visibles y metadatos integrados para evitar la desinformación y el fraude.

Algunos gobiernos también están impulsando investigaciones sobre plataformas relacionadas con la desinformación generada por IA. Recientemente, Polonia instó a la Comisión Europea a investigar a TikTok por alojar contenido de IA que consideraba desestabilizador.

«El contenido divulgado supone una amenaza para el orden público, la seguridad de la información y la integridad de los procesos democráticos en Polonia y en toda la Unión Europea», declaró el viceministro de Digitalización, Dariusz Standerski, en una carta enviada a la Comisión. «La naturaleza de las narrativas, la forma en que se distribuyen y el uso de materiales audiovisuales sintéticos indican que la plataforma incumple las obligaciones que le imponen», añadió.

Por ahora, el panorama de políticas sobre IA sigue siendo un tema emergente en todo el mundo, fragmentado en distintas jurisdicciones y con dificultades para seguir el ritmo de la velocidad a la que los sistemas generativos están transformando los flujos de información, la confianza pública y el discurso democrático.

Invertir en infraestructura de IA

En el mundo de la IA, palantir tecnologías inc. (PLTR + 6.84%) destaca por su especialización en análisis de big data impulsado por IA.

Ha desarrollado cuatro plataformas de software principales: Apollo, Gotham, Foundry y la Plataforma de Inteligencia Artificial (AIP). Apollo es una capa de control que armoniza la entrega de nuevas funciones, configuraciones y actualizaciones de seguridad para garantizar el funcionamiento continuo de sistemas críticos. Gotham ayuda a identificar patrones dentro de los conjuntos de datos, y Foundry ayuda a las organizaciones a crear un sistema operativo central para sus datos. La AIP permite la activación eficaz de grandes modelos de lenguaje y otras herramientas de IA en cualquier organización.

Cabe destacar que las plataformas de Palantir son utilizadas por gobiernos y empresas privadas para detectar desinformación, redes de bots y la distribución de contenido multimedia sintético. Estas herramientas están diseñadas para identificar comportamientos auténticos e inauténticos en ecosistemas de información complejos.

Además, las organizaciones y los gobiernos utilizan cada vez más el análisis de IA para monitorear las amenazas a la salud y la seguridad. Con una capitalización bursátil de 400 000 millones de dólares, las acciones de PLTR cotizan actualmente a 174 dólares, un aumento de más del 110 % en el último año. Su beneficio por acción (BPA) (TTM) es de 0.43 y su precio/beneficio (P/E) (TTM) es de 392.56.

En cuanto a su situación financiera, Palantir anunció ingresos de 1.181 millones de dólares para el tercer trimestre, finalizado el 30 de septiembre de 2025, lo que representa un crecimiento interanual del 63 % y intertrimestral del 18 %, alcanzando un nuevo récord de ingresos en sus más de veinte años de historia. Su beneficio trimestral fue de 476 millones de dólares.

Todavía estamos en el comienzo. Este sigue siendo el comienzo, el primer momento del primer capítulo.

– El cofundador y director ejecutivo Alex C. Karp, en un carta a los accionistas

En particular, sus ingresos en EE. UU. crecieron un 77 % interanual y un 20 % intertrimestral, alcanzando los 883 millones de dólares. Esto incluye 486 millones de dólares en ingresos del gobierno estadounidense, que aumentaron un 52 % interanual y un 14 % intertrimestral, y 397 millones de dólares en ingresos comerciales en EE. UU., que aumentaron un 121 % interanual y un 29 % intertrimestral. Karp calificó el segmento comercial estadounidense como "un auténtico gigante" que, en su opinión, "se convertirá, por sí solo, en uno de los acontecimientos empresariales más importantes del siglo en la vida económica estadounidense".

Durante este período, la cartera de clientes de Palantir creció un 45% interanual. Mientras tanto, su flujo de caja libre ajustado fue de 540 millones de dólares, las ganancias por acción según los PCGA fueron de 0.18 dólares y las ganancias por acción ajustadas de 0.21 dólares. Terminó el trimestre con 6.4 millones de dólares en efectivo, equivalentes de efectivo y bonos del Tesoro estadounidense a corto plazo.

“Estos resultados hacen innegable el impacto transformador del uso de AIP para potenciar el aprovechamiento de la IA”, señaló la empresa.

Para el cuarto trimestre de 2025, Palantir espera que los ingresos estén entre $1.327 y $1.331 millones y los ingresos operativos ajustados entre $695 y $699 millones.

Para el año 2025, Palantir elevó su previsión de ingresos a 4.396-4.400 millones de dólares y proyecta un crecimiento de al menos el 104 % en los ingresos comerciales en EE. UU., superando los 1.433 millones de dólares. Mientras tanto, la previsión de ingresos operativos ajustados se ha incrementado a 2.151-2.155 millones de dólares, y la previsión de flujo de caja libre ajustado a 1.9-2.1 millones de dólares.

Últimas noticias sobre las acciones de Palantir Technologies Inc. (PLTR)

Conclusión

Las redes sociales, tal como las conocemos, están llegando a su fin. Ya no son el mismo lugar donde la gente compartía activamente sus intereses, recuerdos e ideas de forma auténtica. Lo que antes se basaba en la conexión humana ahora está invadido por contenido automatizado y bots.

Si bien la IA ha liberado un poder creativo y una eficiencia económica sin precedentes, también ha erosionado las señales que antes hacían que la interacción en línea fuera significativa.

El futuro de las redes sociales probablemente se fragmentará: un camino conducirá hacia feeds hiperautomatizados optimizados para la interacción y el otro apuntará a espacios verificablemente humanos que prioricen la cultura, la credibilidad y el contexto por sobre el alcance.

Referencias

<sup>1. Jones, CR y Bergen, BK “Las personas no pueden distinguir GPT-4 de un humano en una prueba de Turing”. Preimpresión de arXiv arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. y Aiello, LM “El impacto de la IA generativa en las redes sociales: un estudio experimental”. Preimpresión de arXiv arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. y Bandara, A. “Etiquetado de contenido sintético: Percepciones de los usuarios sobre los diseños de etiquetas de advertencia para contenido generado por IA en las redes sociales”. Preimpresión de arXiv arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L. y Fussell, SR “Examen del impacto de los detalles de las etiquetas y los intereses del contenido en las percepciones de los usuarios de imágenes generadas por IA en las redes sociales”. Preimpresión de arXiv arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>