La IA ya no es un tema de futuro. En menos de dos años, la inteligencia artificial generativa ha pasado de ser una tecnología emergente a convertirse en una herramienta cotidiana. ChatGPT, Copilot, Midjourney o incluso los tutores de IA se han impuesto en las empresas, las administraciones, la educación e incluso en la esfera privada. Esta adopción fulgurante supone un gran salto tecnológico, pero sobre todo un cambio cognitivo.

Nunca antes se había utilizado una tecnología de forma tan masiva antes de que se comprendiera realmente. La IA generativa produce texto, código, imágenes y razonamientos aparentes, dando la ilusión de una inteligencia controlada. Sin embargo, tras esta fluidez se esconden mecanismos estadísticos complejos, sesgos estructurales y efectos sistémicos que aún no se han previsto adecuadamente.

El objetivo de este artículo es deliberadamente ambicioso: ir más allá de los discursos simplistas —ya sean entusiastas o alarmistas— para ofrecer una lectura rigurosa, documentada y orientada a la «gestión de riesgos». Una lectura especialmente relevante para aseguradoras, corredores, responsables de la toma de decisiones y actores del ámbito de la ciberseguridad, que se enfrentan a la aparición de nuevos riesgos digitales, cognitivos y organizativos.

El aumento de la preocupación: cuando los expertos dan la voz de alarma

Robots, superinteligencia y riesgos existenciales

Desde hace varios años, una parte de la comunidad científica advierte sobre los riesgos denominados «catastróficos» o «existenciales» relacionados con la inteligencia artificial. Trabajos académicos como *An Overview of Catastrophic AI Risks* o análisis prospectivos como *AI 2027 – The Race* describen escenarios en los que los sistemas de IA mal alineados, mal controlados o desplegados con una lógica competitiva podrían generar daños irreversibles.

Estos escenarios suelen ser tachados de ciencia ficción. Sin embargo, tienen más que ver con la gestión de la trayectoria tecnológica que con una anticipación fantasiosa. El quid de la cuestión no es la aparición repentina de una superinteligencia hostil, sino la creciente dificultad para controlar sistemas cada vez más autónomos, opacos e interdependientes.

Las alertas procedentes del interior

Un dato destacable: las alertas más graves no provienen de observadores externos, sino de los propios creadores. Geoffrey Hinton, figura destacada del aprendizaje profundo y antiguo investigador de Google, ha expresado públicamente su preocupación por la pérdida de control sobre los modelos avanzados. Por su parte, Daniel Kokotajlo, antiguo empleado de OpenAI, ha puesto de relieve los retos relacionados con la alineación y la gobernanza.

Esta convergencia de señales débiles procedentes del interior de los laboratorios de investigación constituye un indicador clave para cualquier análisis de riesgos. Cuando una tecnología preocupa a quienes la desarrollan, la prudencia se convierte en una necesidad estratégica.

Cuando la IA interactúa con el mundo físico

Los riesgos relacionados con la IA ya no son únicamente digitales. Los robots humanoides, como el Tesla Optimus, o los sistemas de conducción autónoma ilustran el paso de lo cibernético a lo ciberfísico. El accidente mortal en el que perdió la vida Elaine Herzberg, en el que se vio implicado un coche autónomo, nos recuerda que los fallos algorítmicos pueden tener consecuencias humanas directas.

Para las aseguradoras, esta hibridación de los riesgos plantea cuestiones complejas: responsabilidad, asegurabilidad, trazabilidad de las decisiones algorítmicas y acumulación de riesgos tecnológicos.

ChatGPT: adopción masiva, comprensión limitada

Entusiastas frente a escépticos

La llegada de ChatGPT ha cristalizado inmediatamente una división. Por un lado, los entusiastas ven en él una revolución cognitiva: el fin de los chatbots tradicionales, un aumento masivo de la productividad y la democratización del conocimiento. Por otro lado, las voces escépticas recuerdan los límites fundamentales de estos modelos.

Intelectuales como Raphaël Enthoven destacan la incapacidad estructural de la IA para filosofar o generar sentido. Luc Julia, cocreador de Siri, insiste en la ausencia de una comprensión real. Jean-Noël Barrot califica a ChatGPT de «loro aproximativo», destacando la naturaleza probabilística de sus respuestas.

Las limitaciones técnicas de los modelos

Los límites de GPT-3.5, ampliamente documentados, ilustran estas críticas: alucinaciones, errores fácticos, incapacidad para razonar de forma fiable sobre temas complejos. Los fracasos de ChatGPT en exámenes estandarizados, como el bachillerato de 2023, demuestran que el rendimiento aparente no garantiza ni la comprensión ni la solidez.

El problema central es el siguiente: la IA produce forma antes que sentido. Esta inversión resulta especialmente peligrosa en contextos profesionales, donde la confianza en la herramienta puede ocultar sus debilidades.

Educación, trampa y dependencia cognitiva

El auge de las trampas asistidas por IA

Uno de los primeros ámbitos afectados por la IA generativa es la educación. Se multiplican los casos documentados de trampa: deberes redactados por ChatGPT, exámenes repetidos, sanciones disciplinarias e incluso resoluciones judiciales. Los medios de comunicación franceses y europeos informan de una adopción masiva de estas herramientas por parte de alumnos y estudiantes.

Una adopción que se ha convertido en la norma

Este tipo de trampa ya no es algo marginal. Se está convirtiendo en una práctica habitual, a veces incluso reivindicada. Algunos profesores afirman ahora que corrigen más a ChatGPT que a sus alumnos. Esta situación genera una profunda ruptura de la confianza en los sistemas de evaluación.

Lo que dice la neurociencia sobre el aprendizaje

Las neurociencias aportan una perspectiva esencial. El aprendizaje se basa en mecanismos como la potenciación a largo plazo, las oscilaciones neuronales y la automatización a través de los ganglios de la base. Externalizar sistemáticamente el esfuerzo cognitivo debilita estos mecanismos.

Los paralelismos con el GPS y la pérdida de memoria espacial, o con el «efecto Google» y la externalización de la memoria, muestran que la IA podría acentuar una tendencia ya observada: menos esfuerzo cognitivo, menos consolidación de los conocimientos.

Desarrolladores, productividad y brecha generacional

La IA como potenciador para las personas mayores

En el mundo del desarrollo de software, los estudios demuestran que los desarrolladores experimentados obtienen un beneficio real de las herramientas de IA. Copilot y otras herramientas similares aumentan la productividad, reducen el tiempo dedicado a tareas repetitivas y permiten centrarse en la arquitectura y la seguridad.

El riesgo para los desarrolladores noveles

Por el contrario, los desarrolladores noveles corren el riesgo de no llegar a adquirir nunca los fundamentos. Una comprensión superficial del código, la dependencia de las sugerencias automáticas y la dificultad para depurar son factores que pueden debilitar la calidad del software y aumentar los riesgos de ciberseguridad.

El estudio del MIT: «Your Brain on ChatGPT»

Resultados clave

El estudio del MIT Media Lab, realizado con dispositivos de electroencefalografía, muestra una disminución cuantificable del esfuerzo cognitivo al utilizar ChatGPT. Los participantes dan respuestas más rápidamente, pero con una menor actividad neuronal.

Una dependencia invisible

Estos resultados sugieren que la IA puede «pensar por nosotros». A corto plazo, la ganancia en comodidad es innegable. A largo plazo, el riesgo es el de una dependencia cognitiva progresiva, difícil de detectar y corregir.

Los tutores de IA: ¿revolución pedagógica o falso amigo?

Los tutores de IA prometen una personalización extrema del aprendizaje. Sin embargo, la resistencia del mundo educativo es fuerte. Los estudios muestran resultados dispares, y algunas pruebas de acceso, como la de Medicina en Bélgica, se han visto profundamente alteradas por el uso de la IA.

Por lo tanto, la cuestión no es solo tecnológica, sino también ética y pedagógica.

Lectura sobre «gestión de riesgos» para empresas y aseguradoras

Nuevos riesgos emergentes

La IA generativa introduce riesgos cognitivos, organizativos, jurídicos y relacionados con los seguros. La dependencia de los proveedores, la opacidad de los modelos y la responsabilidad en caso de error son temas que los marcos normativos tradicionales aún no abordan adecuadamente.

Gobernanza y uso responsable

Ante estos retos, la respuesta pasa por la gobernanza: definición de marcos de uso, sensibilización de los empleados, auditorías, trazabilidad y una separación clara entre asistencia y automatización.

Conclusión: una tecnología potente, pero no neutra

La inteligencia artificial no es ni una solución milagrosa ni una amenaza inevitable. Es un amplificador: de competencias, de sesgos y de vulnerabilidades. Para las empresas, las aseguradoras y los responsables de la toma de decisiones, la cuestión no es si se debe utilizar la IA, sino cómo y en qué condiciones.

En CnC Expertise, estamos convencidos de que solo un enfoque lúcido, documentado y responsable permitirá sacar partido de la IA sin sufrir sus excesos. Es fundamental comprender qué efectos tiene la IA en nuestros sistemas. Y es igualmente importante comprender qué efectos tiene en nuestras organizaciones. Comprender qué efectos tiene en nuestros cerebros se ha convertido ya en algo imprescindible.