“De plus en plus de nos compatriotes vont aller sur leurs agents IA et ils vont dire : pour qui je dois voter ?” alertait le Président de la République en novembre dernier lors du Congrès des Maires de France. L’enjeu est de taille puisqu’il est impossible d’évaluer la façon dont ces agents conversationnels, par leurs réponses, vont influencer le vote des citoyens, à commencer par les élections municipales de mars 2026. Sur quelles bases les IA génératives produiront-elles ces réponses ? Seront-elles pragmatiques ou utopistes ? Et quelle autorité aura alimenté leurs catégories ?

L’IA s’installe dans nos foyers, dans la sphère de l’intime. Nous lui abandonnons l’orientation de nos opinions, le fin mot du débat. Quelle intelligence lui prêtons-nous pour lui déléguer le vote citoyen, lui livrer l’analyse de nos situations amoureuses ? Peut-elle être à la hauteur des enjeux que nous lui confions ?

C’est le caractère conversationnel de l’outil qui nous amène à le considérer comme notre égal. Si je pose une question et que tu me comprends, alors je te reconnais comme un interlocuteur. Parfois, j’invalide les réponses, je cherche les discussions sur lesquelles l’IA est la plus performante mais, dans la conversation, le caractère technique de l’outil s’efface ainsi que ma méfiance. Je finis par supposer que j’interagis bien avec une “intelligence”. Nous nous représentons l’IA générative comme un alter-ego uniquement parce qu’elle se présente à nous comme tel.

Une fois cette représentation établie, il ne lui reste plus qu’à briller. Cette “intelligence” qui me ressemble étrangement manifeste bien vite des capacités qui me dépassent. Elle a beaucoup plus de connaissances que moi, les manipule plus vite, et peut répondre à toutes mes questions. Son intelligence semble continuer là où s’arrête la mienne.

Le philosophe Jean-Marie Schaeffer propose de nuancer le saisissement que peut générer l’IA en nous. Ce n’est pas le logiciel qui a créé les connaissances qu’il exploite, mais des humains spécialistes du domaine épistémique concerné. Le logiciel les met en forme pour offrir une réponse, mais les algorithmes n’ont aucun moyen de faire un tri épistémique dans les textes qu’ils aspirent du Web et classifient selon leur popularité, sans pondération puissante entre les sources scientifiques ou non scientifiques, spécialistes ou généralistes.

Plus préoccupant : ayant épuisé les contenus produits par les humains pour s’entraîner, les modèles manquent désormais de “sang neuf”. Le risque ? Qu'ils finissent par s'entraîner sur leurs propres productions. Ce cercle vicieux, appelé Model Collapse, agit exactement comme une photocopie de photocopie : le résultat devient de plus en plus corrompu. En se nourrissant de cette matière artificielle, les modèles amplifient leurs propres défauts et finissent par ne produire qu'une caricature déformée de l’humanité.

Si le récit du rapprochement entre l’IA et l’intelligence humaine nous induit en erreur, c’est pour mieux nous vendre les IA. Nous sommes notre unité de mesure, l’étalon-maître. L’idée qu’un objet technologique s’approche de l’humain lui confère une immense valeur.

Le plus bel exemple en est l’euphémisation des IA concernant les réponses fournies, la fameuse phrase “XXXGPT peut commettre des erreurs. Il est recommandé de vérifier les informations importantes”. Cela confère un caractère “accidentel” à des erreurs qui sont en réalité structurelles, et que nous avons peu de perspectives de résoudre à moyen terme. Il faut rappeler que le terme lui-même d’ “intelligence artificielle” provient de quelques pionniers du MIT qui cherchaient des modèles non-calculatoires plus puissants et des arguments pour justifier des levées de fonds.

L’argumentaire a peu changé. Un segment des présentations produits et des interviews est toujours consacré à l’imminence d’une IA bientôt capable d’égaler les humains : l’Intelligence Artificielle Générale (IAG). Pour être atteinte, avertit François Chollet (spécialiste du deep learning et parmi les inventeurs de l’ARC-AGI, le benchmark qui mesure les progrès de l’IA), les algorithmes devront être capables “de gérer des tâches entièrement nouvelles qui ne partagent que des similarités abstraites avec des situations rencontrées précédemment”, ce qui semble contradictoire avec les principes mêmes d'entraînements existants. Mais le récit perdure.

ChatGPT lui-même se voit plus beau que ce que les spécialistes des sciences cognitives ne le voient. Lorsqu’on lui demande de qualifier sa propre “intelligence”, il explique qu'il “excelle à reconnaître des motifs” qu’il peut traiter un volume de données à “une vitesse inhumaine” et qu’il est un “miroir de l’intelligence humaine”. Mais pour les spécialistes comme Daniel Andler, l’IA ne comprend pas le sens profond des informations qu’elle manipule. Elle ne peut pas apprendre de l’expérience subjective ou créer avec intention. Sa “créativité” est statistique : elle recombine ce qui existe, sans intuition, discernement ou inspiration.

La comparaison entre intelligence artificielle et intelligence humaine est un argument marketing qui joue une partie contre son camp. D’abord parce qu’elle nous déçoit lorsqu’après une dizaine de messages le chatbot tourne en rond, se contredit, oublie ce qu’il a avancé. Mais surtout parce qu’elle nous empêche de voir les capacités réelles de l’IA générative, qui dépasse en d’autres situations les attentes de ses programmeurs. C’est peut-être là qu’il faut chercher le prodige.

Illustration :Calculating Empires: A Genealogy of Technology and Power Since 1500 By Kate Crawford and Vladan Joler (2023)