L’IA n’est plus un sujet prospectif

En moins de deux ans, l’intelligence artificielle générative est passée du statut de technologie émergente à celui d’outil du quotidien. ChatGPT, Copilot, Midjourney ou encore les tuteurs IA se sont imposés dans les entreprises, les administrations, l’éducation et même dans la sphère privée. Cette adoption fulgurante marque une rupture technologique majeure, mais surtout une rupture cognitive.

Jamais une technologie n’a été utilisée aussi massivement avant d’être réellement comprise. L’IA générative produit du texte, du code, des images et des raisonnements apparents, donnant l’illusion d’une intelligence maîtrisée. Pourtant, derrière cette fluidité se cachent des mécanismes statistiques complexes, des biais structurels et des effets systémiques encore mal anticipés.

L’objectif de cet article est volontairement ambitieux : dépasser les discours simplistes – qu’ils soient enthousiastes ou alarmistes – pour proposer une lecture rigoureuse, documentée et orientée “gestion des risques”. Une lecture particulièrement pertinente pour les assureurs, courtiers, décideurs et acteurs de la cybersécurité, confrontés à l’émergence de nouveaux risques numériques, cognitifs et organisationnels.

La montée des inquiétudes : quand les experts tirent le signal d’alarme

Robots, superintelligence et risques existentiels

Depuis plusieurs années, une partie de la communauté scientifique alerte sur les risques dits « catastrophiques » ou « existentiels » liés à l’intelligence artificielle. Des travaux académiques comme *An Overview of Catastrophic AI Risks* ou des analyses prospectives telles que *AI 2027 – The Race* décrivent des scénarios où des systèmes d’IA mal alignés, mal contrôlés ou déployés dans une logique de compétition pourraient générer des dommages irréversibles.

Ces scénarios sont souvent caricaturés comme de la science-fiction. Pourtant, ils relèvent davantage de la gestion de trajectoire technologique que de l’anticipation fantaisiste. Le cœur du problème n’est pas l’émergence soudaine d’une superintelligence hostile, mais la difficulté croissante à contrôler des systèmes de plus en plus autonomes, opaques et interdépendants.

Les alertes venues de l’intérieur

Fait notable : les alertes les plus sérieuses ne viennent pas d’observateurs extérieurs, mais des concepteurs eux-mêmes. Geoffrey Hinton, figure majeure du deep learning et ancien chercheur chez Google, a publiquement exprimé ses inquiétudes quant à la perte de contrôle sur les modèles avancés. Daniel Kokotajlo, ancien employé d’OpenAI, a quant à lui mis en avant les enjeux d’alignement et de gouvernance.

Cette convergence de signaux faibles issus de l’intérieur des laboratoires de recherche constitue un indicateur clé pour toute analyse de risques. Lorsqu’une technologie inquiète ceux qui la développent, la prudence devient une nécessité stratégique.

Quand l’IA interagit avec le monde physique

Les risques liés à l’IA ne sont plus uniquement numériques. Les robots humanoïdes comme Tesla Optimus ou les systèmes de conduite autonome illustrent le passage du cyber au cyber-physique. L’accident mortel ayant coûté la vie à Elaine Herzberg, impliquant une voiture autonome, rappelle que les défaillances algorithmiques peuvent avoir des conséquences humaines directes.

Pour les assureurs, cette hybridation des risques pose des questions complexes : responsabilité, assurabilité, traçabilité des décisions algorithmiques, et cumul des risques technologiques.

ChatGPT : adoption massive, compréhension limitée

Enthousiastes contre sceptiques

L’arrivée de ChatGPT a immédiatement cristallisé un clivage. D’un côté, les enthousiastes y voient une révolution cognitive : fin des chatbots traditionnels, augmentation massive de la productivité, démocratisation du savoir. De l’autre, des voix sceptiques rappellent les limites fondamentales de ces modèles.

Des intellectuels comme Raphaël Enthoven soulignent l’incapacité structurelle de l’IA à philosopher ou à produire du sens. Luc Julia, co-créateur de Siri, insiste sur l’absence de compréhension réelle. Jean-Noël Barrot qualifie ChatGPT de « perroquet approximatif », soulignant la nature probabiliste de ses réponses.

Les limites techniques des modèles

Les limites de GPT-3.5, largement documentées, illustrent ces critiques : hallucinations, erreurs factuelles, incapacité à raisonner de manière fiable sur des sujets complexes. Les échecs de ChatGPT lors d’examens standardisés, comme le baccalauréat 2023, montrent que la performance apparente ne garantit ni compréhension ni robustesse.

Le problème central est le suivant : l’IA produit de la forme avant de produire du sens. Cette inversion est particulièrement dangereuse dans des contextes professionnels où la confiance dans l’outil peut masquer ses faiblesses.

Éducation, triche et dépendance cognitive

L’explosion de la triche assistée par IA

L’un des premiers domaines touchés par l’IA générative est l’éducation. Les cas de triche documentés se multiplient : devoirs rédigés par ChatGPT, examens repassés, sanctions disciplinaires et même décisions de justice. Les médias français et européens rapportent une adoption massive de ces outils par les élèves et étudiants.

Une adoption devenue norme

Cette triche n’est plus marginale. Elle devient une pratique banalisée, parfois même revendiquée. Certains enseignants affirment désormais corriger davantage ChatGPT que leurs élèves. Cette situation crée une rupture de confiance profonde dans les systèmes d’évaluation.

Ce que dit la neuroscience de l’apprentissage

Les neurosciences apportent un éclairage essentiel. L’apprentissage repose sur des mécanismes comme la potentialisation à long terme, les oscillations neuronales et l’automatisation via les ganglions de la base. Externaliser systématiquement l’effort cognitif fragilise ces mécanismes.

Les parallèles avec le GPS et la perte de mémoire spatiale, ou avec le « Google Effect » et l’externalisation de la mémoire, montrent que l’IA pourrait accentuer une tendance déjà observée : moins d’effort cognitif, moins de consolidation des connaissances.

Développeurs, productivité et fracture générationnelle

L’IA comme amplificateur pour les seniors

Dans le monde du développement logiciel, les études montrent que les développeurs expérimentés tirent un réel bénéfice des outils d’IA. Copilot et consorts augmentent la productivité, réduisent le temps passé sur des tâches répétitives et permettent de se concentrer sur l’architecture et la sécurité.

Le risque pour les juniors

À l’inverse, les développeurs juniors risquent de ne jamais acquérir les fondamentaux. Compréhension superficielle du code, dépendance aux suggestions automatiques, difficulté à déboguer : autant de facteurs qui peuvent fragiliser la qualité logicielle et accroître les risques en cybersécurité.

L’étude du MIT : « Your Brain on ChatGPT »

Résultats clés

L’étude du MIT Media Lab, utilisant des dispositifs d’électroencéphalographie, montre une baisse mesurable de l’engagement cognitif lors de l’utilisation de ChatGPT. Les participants produisent des réponses plus rapidement, mais avec une implication neuronale réduite.

Une dépendance invisible

Ces résultats suggèrent que l’IA peut « penser à notre place ». À court terme, le gain de confort est indéniable. À long terme, le risque est celui d’une dépendance cognitive progressive, difficile à détecter et à corriger.

Les tuteurs IA : révolution pédagogique ou faux ami ?

Les tuteurs IA promettent une personnalisation extrême de l’apprentissage. Pourtant, les résistances du monde éducatif sont fortes. Des études montrent des résultats contrastés, et certains concours, comme celui de médecine en Belgique, ont été profondément perturbés par l’usage de l’IA.

La question n’est donc pas seulement technologique, mais éthique et pédagogique.

Lecture “gestion des risques” pour les entreprises et assureurs

Nouveaux risques émergents

L’IA générative introduit des risques cognitifs, organisationnels, juridiques et assurantiels. Dépendance à des fournisseurs, opacité des modèles, responsabilité en cas d’erreur : autant de sujets encore mal couverts par les cadres classiques.

Gouvernance et usage responsable

Face à ces enjeux, la réponse passe par la gouvernance : définition de cadres d’usage, sensibilisation des collaborateurs, audits, traçabilité et séparation claire entre assistance et automatisation.

Conclusion – Une technologie puissante, mais non neutre

L’intelligence artificielle n’est ni une solution miracle ni une menace inévitable. Elle est un amplificateur : de compétences, de biais, de fragilités. Pour les entreprises, les assureurs et les décideurs, l’enjeu n’est pas de savoir s’il faut utiliser l’IA, mais comment et à quelles conditions.

Chez CnC Expertise, nous sommes convaincus que seule une approche lucide, documentée et responsable permettra de tirer parti de l’IA sans en subir les dérives. Comprendre ce que l’IA fait à nos systèmes est essentiel. Comprendre ce qu’elle fait à nos organisations l’est tout autant. Comprendre ce qu’elle fait à nos cerveaux devient désormais incontournable.