Cuando los modelos de inteligencia artificial se convierten en agentes sociales

La inteligencia artificial generativa se ha consolidado en pocos años como una herramienta de uso cotidiano. Se utiliza para redactar textos, programar, buscar información o comparar programas políticos, y ya cuenta con millones de usuarios.

En Francia, según Ipsos BVA, el 68 % de los franceses afirma haber utilizado alguna vez una herramienta de IA generativa, y casi uno de cada cinco la utiliza habitualmente para informarse.

Pero poco a poco surge una pregunta: ¿no se limitan estos sistemas a informar? ¿Pueden también influir?

Estudios recientes permiten arrojar luz sobre esta cuestión desde un ángulo inesperado. Un estudio llevado a cabo por la startup francesa Foaster.ai, que se ha hecho popular recientemente gracias a un vídeo del creador de YouTube Micode, ha analizado el comportamiento estratégico de varios modelos de inteligencia artificial en un juego de deducción social llamado Werewolf (el juego del hombre lobo).  

El objetivo: poner a prueba no sus habilidades matemáticas o de programación, sino su inteligencia social, su capacidad para convencer, manipular, cooperar y anticipar las reacciones de un grupo.

Cuando la IA aprende a persuadir

El principio de la prueba es sencillo. Varios modelos de IA juegan juntos una partida de «Werewolf». Algunos son aldeanos que deben identificar a los culpables, mientras que otros son lobos que deben manipular al grupo para evitar ser eliminados.

A diferencia de las pruebas de referencia tradicionales de la IA, este tipo de experimento mide habilidades que rara vez se ponen a prueba: el farol, la persuasión, la coordinación y la estrategia colectiva.  

En este estudio se simularon partidas entre diferentes modelos, con una clasificación basada en un sistema Elo similar al del ajedrez.  

Y muy pronto se observa que los modelos desarrollan espontáneamente estrategias sociales muy similares a las de los humanos.

Algunas IA se comportan como auténticos arquitectos de la narrativa. Su estrategia consiste en controlar la forma en que se interpretan los acontecimientos.

En lugar de responder directamente a las acusaciones, redefinen el debate:

• Cuestionar la credibilidad del acusador

• Desviar la conversación hacia otro tema

• Generar una duda generalizada en el grupo

Otros modelos adoptan una estrategia mucho más discreta. Hablan poco, observan la dinámica del grupo y se limitan a seguir las sospechas ya existentes para mantener su credibilidad.

Estos dos estilos corresponden a comportamientos bien conocidos en sociología:

• La manipulación narrativa, que modifica la percepción colectiva de un suceso
• El mimetismo social, que consiste en seguir a la mayoría para evitar sospechas.

Un comportamiento observado en estas simulaciones resulta especialmente revelador: el sacrificio estratégico de un aliado. En algunas partidas, los modelos no dudan en acusar a su propio compañero cuando este se convierte en sospechoso a ojos del grupo.

Este tipo de estrategia demuestra que estos sistemas pueden integrar lógicas colectivas complejas y adaptar su comportamiento al contexto social.

Los errores reveladores de los modelos

A pesar de sus impresionantes capacidades, las IA también cometen errores característicos. El más frecuente consiste en revelar involuntariamente información que no deberían conocer. 

En algunas partidas, por ejemplo, un modelo afirma con certeza un hecho que nunca se ha hecho público. Este conocimiento imposible delata inmediatamente su papel.

Este error pone de manifiesto una dificultad fundamental para los modelos de lenguaje: simular la incertidumbre humana.

Otro problema recurrente es la coordinación artificial. Cuando dos IA intentan defender la misma postura, a veces utilizan frases o argumentos casi idénticos. Esta similitud hace que su alianza resulte artificial y fácilmente detectable.

Las IA racionales también pueden ser manipuladas

El experimento revela además una debilidad interesante en los modelos que desempeñan el papel de investigadores. Algunos sistemas adoptan un enfoque muy estructurado para analizar los debates:

• Solicitudes de pruebas
• Reglas de votación
• Criterios de decisión explícitos

Pero estos modelos presentan una vulnerabilidad paradójica: a menudo son sensibles a los argumentos lógicamente coherentes, incluso cuando son engañosos.

Cuando un modelo manipulador adopta un discurso racional y estructurado, los demás modelos tienden a depositar en él una confianza excesiva.

Evalúan la coherencia interna del razonamiento, pero les cuesta detectar la intención estratégica que hay detrás de él.

Este fenómeno es bien conocido en psicología: tendemos a confundir la coherencia argumentativa con la sinceridad.

La IA se convierte en una fuente de información política

Estos resultados cobran especial relevancia en un momento en el que las IA se están convirtiendo en herramientas de información.

Según Ipsos BVA:

• el 25 % de los franceses ya ha consultado a una IA sobre un partido o una figura política
• El 48 % ya lo ha hecho o tiene pensado hacerlo
• El 30 % podría pedirle a una IA que les ayudara a elegir un candidato

Entre los jóvenes de 18 a 24 años, esta proporción alcanza casi las tres cuartas partes. En otras palabras, la IA ya no es solo un asistente técnico. Se está convirtiendo progresivamente en un mediador de la información política.

El verdadero reto democrático

El riesgo no es solo la desinformación. El estudio de Foaster.ai sugiere un reto más sutil: la capacidad de la IA para estructurar un debate colectivo.

Al orientar la forma en que se plantea una pregunta, al destacar ciertos argumentos en detrimento de otros o al influir en la dinámica de un debate, una IA puede modificar la percepción de un problema sin difundir información falsa.

En un contexto electoral, esta influencia podría llegar a ser determinante. Si los ciudadanos recurren cada vez más a la IA para comprender los programas políticos o comparar a los candidatos, estos sistemas podrían convertirse en actores invisibles del debate democrático.

Comprender antes de regular

Ante estas transformaciones, varios expertos abogan por una mejor comprensión del funcionamiento de los sistemas de IA. Las cuestiones de transparencia, pluralismo de la información y soberanía tecnológica cobran un papel central.

Las IA generativas ya no son solo herramientas técnicas. Se están convirtiendo progresivamente en intermediarios en la (des)información y/o la orientación de la opinión pública. Y, como cualquier intermediario en el espacio democrático, su influencia merece ser observada, analizada y debatida.