La fragmentación de un espejo digital

3 de marzo de 2025

Portada de La fragmentación de un espejo digital

Si bien Internet era una infraestructura global, abierta y funcionalmente humana, que tendían lazos entre los contactos a través de blogs, chats o videollamadas, esa forma de relacionarnos poco a poco ha ido desapareciendo. La red sigue activa y la conectividad se expande, pero la interacción humana directa dejó de ser el principio organizador.

El Bad Bot Report 2024 de Imperva documentó que el tráfico automatizado alcanzó 49,6% de todo el tráfico web en 2023, con los bots maliciosos subiendo a 32% frente a 30,2% el año anterior, el quinto incremento consecutivo. Ese diagnóstico no describe un problema de seguridad aislado, describe la desaparición gradual del supuesto que sostenía a Internet como espacio social, la idea de que del otro lado de una interacción hay, con alta probabilidad, otro ser humano.

El ejemplo operativo más claro es la publicación del código fuente del algoritmo "For You" de Twitter, en marzo de 2023. La documentación reveló que la mitad del contenido mostrado a cada usuario proviene de cuentas que no sigue, seleccionado mediante SimClusters, un sistema de 145.000 comunidades de interés superpuestas que agrupa publicaciones según patrones de interacción antes que según vínculos declarados. Esa mecánica no es un accidente de ingeniería sino una decisión de producto, la plataforma optimiza para tiempo de atención agregado, no para densidad de vínculos sociales reales, y el código publicado lo confirma línea por línea.

Dispositivos conectados a Internet versus usuarios humanos Dispositivos conectados a Internet versus usuarios humanos

Tráfico automatizado y contenido sintético

La consecuencia de infraestructura ya es medible. DoubleVerify reportó que el tráfico inválido general (GIVT), la categoría que agrupa rastreadores de indexación, scraping de IA y tráfico de prueba, creció 86% interanual en el segundo semestre de 2024, superando por primera vez los 2.000 millones de solicitudes publicitarias mensuales en diciembre, un umbral que no se había cruzado en ningún mes anterior desde que existe la métrica. El 16% de ese tráfico ya proviene de scrapers de inteligencia artificial identificados, como GPTBot y ClaudeBot, lo que confirma que el crecimiento no es ruido estadístico sino un cambio estructural en la composición del tráfico global.

A esa dinámica se suma una derivada técnica documentada por Shumailov et al. en Nature en 2024. Los modelos entrenados de forma recursiva sobre datos generados por otros modelos experimentan "model collapse", un proceso donde la diversidad y la coherencia se degradan de forma progresiva hasta converger en patrones que ningún evaluador humano reconoce como significativos. El sistema no mejora con más datos sintéticos, sino que alcanza un techo de mediocridad estable, lo que implica que la escala de producción de contenido automatizado no resuelve el problema de calidad que ella misma genera.

La respuesta institucional ya tiene nombre en algunos países. Observer Research Foundation documentó en enero de 2025 que 97,3% de los jóvenes indios encuestados quiere que el gobierno tenga más control y supervisión sobre Internet, y 98,6% considera a India una potencia digital por derecho propio, una cifra que revela consenso transversal antes que polarización. Ese dato no describe autoritarismo importado sino una demanda doméstica de intervención frente a una infraestructura que los usuarios perciben como cada vez menos gobernable desde el vínculo social.

Ejemplo de un Model Collapse Ejemplo de un Model Collapse

Degradación técnica por entrenamiento sintético

El contraargumento más razonable sostiene que la migración hacia comunidades cerradas no es una patología sino una adaptación eficiente, un regreso a escalas de coordinación manejables después de una década de sobreextensión algorítmica. Ese argumento pierde fuerza frente a la evidencia de model collapse, porque si la producción de contenido sintético degrada la calidad del ecosistema informativo completo, la migración a espacios cerrados no resuelve el problema de origen, solo lo aísla temporalmente para quienes tienen recursos de curaduría para escapar de él.

Si la infraestructura que sostiene la conexión global premia la escalabilidad y penaliza la coherencia compartida, y las plataformas ya declararon públicamente esa prioridad al abrir su propio código, ¿qué combinación de regulación y diseño de producto podría revertir el incentivo antes de que la fragmentación se vuelva el único equilibrio estable del sistema?


Referencias

  • Imperva. (2024). 2024 Imperva Bad Bot Report. https://www.imperva.com/resources/resource-library/reports/2024-bad-bot-report/
  • Twitter, Inc. (2023, marzo). Twitter's Recommendation Algorithm [código fuente]. GitHub. https://github.com/twitter/the-algorithm
  • DoubleVerify. (2025, enero 10). AI crawlers and scrapers are contributing to an increase in general invalid traffic. https://doubleverify.com/blog/web/verify/ai-crawlers-and-scrapers-are-contributing-to-an-increase-in-general-invalid-traffic
  • Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y
  • Observer Research Foundation. (2025, enero). India as a Digital Powerhouse: An Assessment of Young India's Aspirations. https://www.orfonline.org/research/india-as-a-digital-powerhouse-an-assessment-of-young-india-s-aspirations