La inteligencia artificial generativa ya no es solo una herramienta de productividad o de creación de contenidos. Se está convirtiendo progresivamente en un instrumento con potencial para transformar —y, en ocasiones, desestabilizar— las democracias.

Una reciente publicación científica alerta sobre la aparición de un nuevo fenómeno: los «AI swarms», o enjambres de agentes de IA maliciosos. Estos sistemas combinan la potencia de los modelos de lenguaje (LLM) con arquitecturas multiagente capaces de coordinarse, interactuar y evolucionar de forma autónoma. El riesgo ya no es solo el de la desinformación puntual, sino el de una manipulación política persistente, adaptativa e industrializada.

¿Qué es un enjambre de IA?

Un «enjambre de IA» hace referencia a un conjunto de agentes autónomos capaces de: mantener identidades digitales creíbles, coordinarse en torno a un objetivo común, adaptarse en tiempo real a las reacciones humanas e incluso intervenir en varias plataformas simultáneamente. A diferencia de los bots clásicos, que a menudo se limitan a repetir mensajes de forma mecánica, estos enjambres producen contenidos variados, coherentes, «humanos» y personalizados en función de los públicos a los que se dirigen. Representan, por tanto, una evolución importante en las operaciones de influencia.

Un punto de inflexión en la historia de la propaganda digital

Las campañas de manipulación en línea se han basado durante mucho tiempo en medios costosos, que requerían personal y eran relativamente fáciles de detectar.  Con las IA generativas, la situación cambia radicalmente con, por ejemplo: la producción masiva de contenido creíble, la personalización de los discursos, la capacidad de adaptación continua y también la drástica reducción de los costes. La influencia se vuelve escalable, automatizada y mucho más difícil de contener.

Las cinco capacidades fundamentales de los enjambres de IA

Los investigadores destacan que los enjambres de agentes de IA representan un cambio radical en las operaciones de influencia en línea, ya que combinan varios avances tecnológicos que hacen que la manipulación sea más difícil de detectar y más eficaz a gran escala. 

En primer lugar, estos sistemas permiten una coordinación autónoma a gran escala. Un solo actor podría controlar miles de perfiles artificiales que funcionan como una «colmena», con una división del trabajo, una sincronización estratégica e incluso comportamientos emergentes que van más allá de la mera automatización.

En segundo lugar, los enjambres destacan por su capacidad para infiltrarse en comunidades vulnerables. Gracias al análisis de las redes sociales, pueden localizar grupos sensibles, identificar sus preocupaciones emocionales o culturales y, a continuación, adaptar su discurso para ganarse progresivamente su confianza.

Otro factor clave reside en su avanzado mimetismo humano. Lenguaje natural, jerga contextual, avatares fotorrealistas, ritmos de publicación creíbles: estos agentes son cada vez más difíciles de distinguir de los usuarios auténticos, lo que complica considerablemente los mecanismos clásicos de detección.

Estos enjambres también son capaces de una autooptimización permanente. Al aprovechar en tiempo real los datos de interacción, pueden probar miles de variantes de mensajes, identificar cuáles provocan más ira, adhesión o miedo, y ajustar sus estrategias a una velocidad inalcanzable para las operaciones humanas.

Su peligro radica en su persistencia en el tiempo. A diferencia de las campañas puntuales, los enjambres pueden permanecer activos durante meses o años en un espacio digital, modificando progresivamente las normas sociales, el lenguaje colectivo y las percepciones políticas de una comunidad.

Amenazas directas para la democracia

Estas nuevas capacidades de los enjambres de agentes de IA no son neutras: abren varias vías concretas para desestabilizar las democracias modernas. Al influir en la percepción colectiva, en la confianza y en las dinámicas sociales, estos sistemas pueden debilitar progresivamente los propios cimientos del debate público.

Uno de los principales peligros reside en la creación de un falso consenso. Al simular una mayoría artificial mediante «me gusta», comparticiones o comentarios coordinados, los enjambres pueden dar la impresión de que una opinión cuenta con un amplio respaldo. Ahora bien, en un entorno en el que las personas suelen basarse en señales sociales más que en hechos, esta ilusión puede bastar para influir en las creencias y orientar las opiniones. Por otra parte, estos enjambres pueden acentuar la fragmentación de la realidad. Al adaptar sus mensajes a cada grupo social o ideológico, pueden alimentar visiones del mundo paralelas, reforzar la polarización y hacer cada vez más difícil la aparición de un espacio común de debate democrático.

Otro riesgo importante tiene que ver con lo que los investigadores denominan «LLM Grooming», es decir, el envenenamiento del futuro conocimiento colectivo. Al inundar Internet con contenidos fabricados, estos agentes pueden contaminar los datos utilizados para entrenar los futuros modelos de inteligencia artificial, haciendo que, progresivamente, el conocimiento disponible en línea sea menos fiable y más manipulable. Estas campañas también pueden adoptar la forma de acoso político automatizado. Periodistas, disidentes, investigadores o denunciantes pueden ser objeto de ataques coordinados y persistentes, lo que lleva a algunos a retirarse del debate público. Este mecanismo produce un efecto de exclusión silenciosa, pero profunda, sobre las voces críticas indispensables para cualquier democracia.

Por último, uno de los peligros más sistémicos es el colapso de la confianza. Cuando los ciudadanos ya no saben distinguir entre lo que es expresión humana auténtica y lo que es producción artificial, se instala una desconfianza generalizada. Esta pérdida de referencias amenaza directamente a la esfera pública, ya debilitada por la desinformación y la saturación informativa.

¿Qué medidas de defensa existen?

Ante el auge de los enjambres de agentes de IA, las respuestas no pueden ser únicamente técnicas. Los investigadores insisten en la necesidad de un enfoque sistémico, en la encrucijada entre la ciberseguridad, la regulación y la gobernanza de las plataformas.

Una primera herramienta esencial consiste en implantar una detección continua de comportamientos coordinados, acompañada de auditorías públicas. El objetivo no es juzgar el contenido de los mensajes, sino identificar patrones estadísticos anómalos que revelen una actividad no auténtica a gran escala.

Las plataformas también podrían ofrecer herramientas de transparencia destinadas a los usuarios, en forma de «AI shields». Estos dispositivos permitirían señalar los contenidos altamente sospechosos, reducir su visibilidad en los flujos o incluso proporcionar indicaciones sobre su procedencia.

Los autores también destacan el interés de las simulaciones: probar enjambres artificiales en entornos digitales controlados permitiría anticipar las tácticas futuras y reforzar los mecanismos de defensa antes de que los ataques se produzcan en el mundo real.

Otro eje fundamental se basa en el refuerzo de la procedencia digital, mediante claves de acceso, certificados criptográficos o sistemas de reputación. Sin embargo, este enfoque debe seguir siendo compatible con la protección del anonimato, indispensable para ciertos actores democráticos como los disidentes o los denunciantes.

A escala internacional, los investigadores proponen asimismo la creación de un «AI Influence Observatory», una red de investigadores, ONG e instituciones encargada de documentar, analizar y denunciar las campañas de influencia coordinadas.

Por último, una vía de actuación a menudo subestimada se refiere a la propia economía de la manipulación: actuar sobre los incentivos económicos de las plataformas, por ejemplo, eliminando los ingresos publicitarios asociados a los contenidos amplificados artificialmente o haciendo más transparente el tráfico generado por los bots, permitiría reducir la rentabilidad de las operaciones de influencia.

Conclusión: un reto para la gobernanza democrática

Los «enjambres de IA» no son un escenario de ciencia ficción. Se inscriben en una trayectoria histórica en la que cada tecnología de comunicación redefine los equilibrios políticos. El reto central no es frenar la innovación, sino construir mecanismos de resiliencia: transparencia, gobernanza, regulación proporcionada y educación colectiva.

En CnC Expertise, consideramos que estos nuevos riesgos informativos deben abordarse como riesgos sistémicos y no deben tomarse a la ligera.