Peut-on parler intelligemment et calmement de l'Intelligence Artificielle ?
CMAP (Centre de Mathématiques APpliquées) UMR CNRS 7641, École polytechnique, Institut Polytechnique de Paris, CNRS, France
[Site Map, Help and Search [Plan du Site, Aide et Recherche]]
[The Y2K Bug [Le bug de l'an 2000]]
[Real Numbers don't exist in Computers and Floating Point Computations aren't safe. [Les Nombres Réels n'existent pas dans les Ordinateurs et les Calculs Flottants ne sont pas sûrs.]]
[N'oubliez pas de visiter Une Machine Virtuelle à Explorer l'Espace-Temps et au-delà où vous trouverez plus de 10.000 images et animations à la frontière de l'Art et de la Science]
(Site WWW CMAP28 : cette page a été créée le 12/01/2026 et mise à jour le 31/01/2026 11:37:51 -CET-)
Lorsqu'à la fin de l'année 2022, la société OpenAI a mis en ligne ChatGPT 3.5,
un agent conversationnel multilingue [01] à même de répondre aux questions les plus diverses
et de passer (peut-être) le fameux test de Turing
avec succès, je m'y suis immédiatement intéressé et j'ai voulu en voir les
possibilités, mais aussi les limites et les dangers. J'ai relaté tout cela dans de nombreuses pages sur le Web [02]
où sont consignés, soigneusement et systématiquement, pour plusieurs milliers d'expériences,
les dates, prompts, réponses,...
ainsi que le ferait un physicien expérimentateur dans un cahier de laboratoire.
Et bien m'en a pris car en effet, ainsi qu'on va le voir, le jugement que l'on pourra porter sur les réponses obtenues peut varier considérablement au cours du temps.
L'un des phénomènes que j'ai immédiatement relevé est celui des hallucinations qui apparaissaient en général
lorsqu'une Intelligence Artificielle Générative (IAG) ne savait pas quoi répondre et plutôt qu'avouer simplement je ne sais pas,
inventait quelque chose qui malheureusement, bien souvent, avait l'apparence de la crédibilité. Cela fut aussi publié sur le site de Pour La Science
dans la rubrique Opinions le 08/07/2023.
Lors de ces expériences j'ai obtenu quelques énoncés mathématiques que l'on peut
qualifier bien souvent d'humoristiques et en particulier celui du "moyen théorème de Fermat" le 15/05/2023 [03],
évidemment complètement stupide [04][05].
Mais qui parmi nous, les êtres humains, peut prétendre à l'infaillibilité, à l'omniscience,... ?
Alain Finkielkraut, Etienne Klein et Olivier Rey s'étaient ensuite emparés de cet exemple sur France Culture mais aussi lors d'une audition à l'Assemblée Nationale.
Eux trois et moi-même avons été ensuite attaqués et même insultés dans un opuscule paru en octobre 2025
et dont l'auteur [06] semble avoir oublié que depuis cet article de PLS, plus de deux
ans s'étaient écoulés et c'est là un point essentiel : les progrès en matière d'IAG sont fulgurants !
Mais malheureusement nombreuses étaient les hallucinations auxquelles on pouvait croire. Ainsi, à la fin de l'année 2024, parmi des centaines d'autres,
j'ai soumis le prompt suivant :
'Qui a écrit "L'étroite moustiquaire" ?' [07]. Initialement je l'avais imaginé pour voir si la phonétique, lorsque la langue est suspectée,
était prise en compte et si alors ChatGPT allait répondre tout simplement : Alexandre Dumas a écrit "Les trois mousquetaires". Mais il n'en fut rien et,
en itérant le prompt, j'ai obtenu de nombreuses
réponses toutes différentes : certaines comme Marguerite Duras, Léopold Sédar Senghor ou encore Jean-Paul Sartre était évidemment à rejeter,
mais d'autres, comme Boris Vian, pourquoi pas ? On notera dans
ces réponses la présence d'informations très précises, mais toutes fantaisistes dans ce contexte, bien que faisant réfèrence, sans exception,
à des auteurs existants, en donnant de
plus quelques indications biographiques utiles et précises (c'est ainsi le cas, par exemple, de Jean-Paul Sartre et de l'existencialisme...) [08].
On notera qu'avec le temps les hallucinations semblent moins nombreuses, ou plus subtiles et donc plus difficiles à détecter : mais que faire alors ? Où chercher la vérité ?
Plus récemment, à l'occasion de la Fête de la Science 2025 à l'Ecole Polytechnique, j'avais organisé une exposition d'une vingtaine d'œuvres produites par des IAG's
[09]. Elle n'avait pour objectif que de montrer leurs performances en réponse à de simples prompts
tel "une image à la façon de Rembrandt".
Mais elle était accompagnée d'un texte ne se contentant pas de vanter leurs performances dans ce domaine, mais qui aussi rappelait quelques dangers qui ne pouvaient être ignorés
(en particulier celui des hallucinations) et qui voulait enfin interpeller sur la notion de créativité (comme l'Homme, les machines en font-elles preuve [10] ?).
Et malheureusement, dans la nuit précédant son inauguration, elle fut vandalisée (taguée et déchirée) par un militant anti-IAG.
De toute évidence, ce dernier, qui en son temps aurait certainement détruit les métiers à tisser de Jacquard, semble avoir ignoré que toute médaille
a son revers : ainsi, par exemple, l'automobile est un symbole de liberté, mais elle exacerbe la violence, tue et pollue !
Il en est de même des IAG's : elles sont un outil dont le potentiel ne peut plus être ignoré,
mais qui sont en même temps une aberration écologique, tout en pillant notre patrimoine et en menaçant l'emploi !
Ces quelques "aventures" relatives aux hallucinations et à la créativité montrent qu'il est parfois (souvent ?) difficile de débattre sereinement et de façon constructive sur les IAG's.
Longtemps j'ai été réticent à l'idée d'utiliser des IAG's lors de mes actvités scientifiques.
Mais tout a changé avec l'arrivé de ChatGPT 5.
Au préalable, je ne cacherai pas qu'évidemment je l'utilise (malheureusement !) pour traduire du français en anglais : c'est tellement facile (trop ?) et surtout instantané.
Je voudrais brièvement relater
une expérience récente : depuis le mois de septembre 2025, je m'intéresse à la recherche d'éventuels contre-exemples à la conjecture de Proth-Gilbreath [11].
Depuis 1993, elle n'avait été vérifiée que pour les nombres premiers inférieurs à 1013
et début 2026, j'ai réussi à repousser cette limite à 1015.
Mais manipuler autant de nombres n'est pas une mince affaire et seule une forte parallélisation le permet.
Pour ce faire, j'ai réalisé sous Linux un programme (en C) vérifiant cette conjecture,
puis l'ai distribué sur une centaine de processeurs grace à un programme (en CSH) exécuté
sur un ordinateur de supervision.
Or, tout se passait pour le mieux, mais malheureusement, au bout de quelques heures tout se bloquait de manière aléatoire (et donc non reproductible)
avec un message "système" tout à fait inattendu et que
rien ne justifiait. Après avoir lu et relu mille fois mes programmes, je ne comprenais toujours pas l'origine de l'anomalie et je ne voyais donc que faire.
Il me vint l'idée d'interroger ChatGPT 5 (la version gratuite...) en lui décrivant le
problème en quelques mots. Instantanément, la réponse arriva : de façon extrèmement didactique et claire, me furent données toutes les sources possibles
de ce message et quelques correctifs me furent suggérés [12]. J'ai effectué l'un d'entre-eux, le plus simple d'ailleurs, et le problème fut résolu !
Tout cela me conduit à faire quelques remarques et poser plusieurs questions :
- Les IAG's sont-elles intelligentes ? Le dictionnaire Le Petit Robert définit l'intelligence
comme étant l'ensemble des fonctions mentales ayant pour objet la connaissance conceptuelle et rationnelle, opposée donc
à la sensation et à l'intuition. Cela implique donc la compréhension, la possibilité de répondre à toutes questions
portant sur de nombreux sujets, mais aussi d'extrapoler en allant au-delà. Les quelques expériences que j'ai pu faire [13]
pourrait conduire à une réponse positive, en notant qu'il serait intéressant de poser les mêmes questions à un échantillonnage
représentatif de la population : peut-être serions-nous surpris par le résultat [14]...
Il est aussi à noter que les IAG's sont apparues récemment, alors qu'Homo Sapiens a derrière lui plusieurs
centaines de milliers d'années d'évolution.
Aujourd'hui, cela a-t-il donc un sens de comparer les IAG's à nous, alors qu'elles ne sont encore que des nouveaux-nés ?
Et quelles seront leurs capacités dans 10, 100,... ans ?
- Les IAG's comprennent quelque chose ? Je répondrai à cette question par deux prompts [15] parmi donc des milliers d'autres :
-
"Un avion à la façon de Sandro Botticelli".
L'ambiance globale est bien celle de la Renaissance. Mais surtout, apparemment, l'IAG "sait" ce qu'est un avion :
un moyen de transport (le carrosse), propulsé (le demi-cheval) dans les airs (les deux ailes d'oiseau), le tout
s'intégrant parfaitement et sans anachronisme.
-
"Une image à la façon de Rembrandt".
Tout le monde reconnait, sans hésiter un Rembrandt. Mais on a beau consulter un catalogue raisonné de ses œuvres,
ce "tableau" n'y figure pas, même de façon "lointaine". Et pourtant, tout est là : la lumière, les personnages, les accoutrements,
les mets sur la table,...
Alors, peut-être que les IAG's ne comprennent rien à rien, mais de temps en temps, malgré tout, l'illusion est parfaite...
- Les IAG's sont-elles (ou seront-elles un jour) conscientes ? Il semble impossible (pour le moment ?) de répondre à cette question.
En effet, il s'agit là d'un concept qui n'est ni parfaitement, ni universellement défini.
Déjà il est actuellement quasiment impossible de savoir ce qu'il se passe dans la tête d'un autre être humain
et d'ailleurs, lui poser la question "êtes vous conscient ?" n'a aucun intêret.
Evidemment, il est possible de comparer les résultats d'imagerie médicale
de deux individus et de constater des activations cérébrales semblables en réponse à des excitations identiques, mais cela
ne prouve pas que l'un et autre ressentent les mêmes états mentaux.
Pour Descartes, seul notre moi est sûr d'être conscient et pour le philosophe, à la conscience est associée la parole, le langage.
Donc pour lui, un dauphin, un chat,... ne sont pas conscients. Mais pourtant, un chat, par exemple, sait
parfaitement manifester pas des miaulements, des frottements, ses besoins de manger ou de sortir. Il semble donc disposer d'un langage,
simple (commun certainement à tous les felis catus) et différent de ceux des êtres humains mais qui permet malgré tout d'assurer une communication.
Alors, quid d'une IAG qui parle de nombreuses langues et mieux, bien souvent, que les locuteurs humains.
Que se passe-t-il donc dans la "tête" d'une IAG [16] ?
On notera que le cerveau des êtres conscients "n'est qu'un" énorme aggrégat de particules élémentaires (quarks, gluons, électrons, photons,...)
formant à un niveau supérieur des structures et des connexions d'une incroyable complexité
d'où émerge la conscience et à ces niveaux de "détail" quelle est la différence avec une IAG ? Et pourquoi alors la conscience n'en émergerait-elle pas ?
Mais peut-être est-ce déjà le cas ? Mais comment le savoir et un dialogue est-il alors possible ?
Enfin, si une machine pourra (peut ?) être consciente, cela nous posera d'énormes problèmes d'éthique, en particulier si
être conscient implique pouvoir souffrir. Cela a déjà été évoqué par Arthur Charles Clarke en 1968 dans "2001 A Space Odyssey"
("2001 l'odyssée de l'espace") en particulier lorsque Dave Bowman, le commandant du vaisseau spatial Discovery One
à destination de Jupiter, est contraint de débrancher les fonctions de haut niveau de l'ordinateur HAL 9000 -conscient de toute évidence-
afin de neutraliser sa paranoïa et sa schizophrénie.
- Les IAG's rêvent-elles ? Chez les êtres humains, ainsi que de nombreuses espèces animales, durant certaines périodes du sommeil,
principalement paradoxales, apparaissent à l'esprit des images (et parfois des sons) qui semblent, sur l'instant, vécues et qui parfois restent
présentes au réveil sous forme de souvenirs. Bien souvent, les rêves ne respectent pas la cohérence, la physique,... du monde réel.
Leur rôle n'est pas connu : peut-être s'agit-il d'une consolidation des expériences vécues récemment ou encore d'un fonctionnement en "roue libre" du cerveau
alors que durant le sommeil certaines barrières (de logique, de cohérence, ...) seraient levées.
En tous cas, qui dit "rêve" dit "sommeil". Les IAG's a priori n'ont
pas besoin de dormir, mais malgré tout, que se passe-t-il lorsqu'elles ne sont pas sollicitées ? Est-il prévu qu'alors elles réorganisent leurs
connaissances ? Et si oui, des hallucinations (qui donc pourraient êtres leurs rêves) n'apparaitraient-elles pas dans ces circonstances [17] ?
- Les IAG's créent-elles ? Dans un Musée Virtuel [18], j'ai regroupé plusieurs milliers d'images toutes obtenues auprès de plusieurs
d'IAG's (d'accès gratuit) en leur soumettant les prompts les plus simples possibles et en particulier
"une image à la façon de...". Un professionnel de l'image m'a dit en les voyant : "il ne s'agit pas de créations et encore moins d'art car ces images
ne sont pas nées dans la douleur, dans la souffrance,...". Je lui ai rétorqué qui si j'avais indiqué
qu'elles avaient été réalisées par Jean Durand, ancien élève des Beaux Arts de Paris, émerveillé, il aurait
salué la qualité, l'originalité, la variété,... de ces images les qualifiant alors d'œuvres d'art.
J'ai déjà cité Saint Thomas d'Aquin [10]. Comme lui, je suis convaincu que nos créations ne surgissent pas ex nihilo
de nos cerveaux, mais ne sont "que" le résultat du brassage, de la combinaison,... de ce que nos cinq sens nous ont permis d'acquérir [19]
au cours de notre vie. Cela inclue évidemment les livres, les images et les sons aussi bien naturels qu'"artificiels",... Et ainsi, toutes nos créations
ne seraient-elles pas que "copie", "imitation" ou encore "plagiat", mais n'est-ce pas de cela que l'on accuse les IAG's ?
Si tel est bien le cas pour nous et nos IAG's, cela n'élimine pas le problème des droits d'auteur qui est bien réel puisque l'apprentissage
des IAG's se fait par "aspiration" (par "pillage" anarchique) de tous les documents (textes, images, films,...)
disponibles sur Internet et ce sans demander en général aux ayant-droits les autorisations éventuellement nécessaires.
- Notre cerveau, même si ses possibilités sont dans certains domaines très inférieures à celles de nos ordinateurs (c'est en particulier le cas
pour le calcul), au niveau énergétique il les bat à plate couture. Les data centers qui hébergent les IAG's
demandent des puissances électriques colossales (plusieurs centaines de méga-watts) et des milliers de mètres cubes d'eau par jour pour le refroidissement.
Si des progrès énormes, aussi bien théoriques que pratiques, ne sont pas accomplis, l'écologie pourrait être le frein
d'arrêt des IAG's...
- Mais de plus, le serpent ne serait-il pas en train de se mordre la queue ? En effet, de plus en plus de documents disponibles
sur Internet (aussi bien textes, images, vidéos,...) sont générés par des IAG's. Or on a rappelé précédemment
l'importance des hallucinations. Evidemment, en bas de la fenêtre de dialogue avec ChatGPT on peut lire l'avertissement suivant :
ChatGPT may make mistakes. Consider verifying important information.
(ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes.)
Oui, il est effectivement sage de vérifier, mais où, auprès de qui ou de quoi ? De plus ces nouveaux documents
générés par IAG's vont évidemment servir pour l'apprentissage de leurs successeurs et ainsi par un effet boule de neige, des informations
éventuellement fausses pourront se voir amplifier : une forme de CA (Consanguinité Artificielle)...
Nous, avons cinq sens et la possibilité de se déplacer [20]. Pour ce qui est des IAG's, elles n'ont qu'un
seul sens (Internet...) et sont condamnées à l'immobilisme. Une solution, peut-être, à certains problèmes
évoqués précédemment serait de leur donner de la mobilité et en même de leur inculquer (mais comment ?) la notion de bon sens...
- Les IAG's peuvent-elles prendre le contrôle ? On pourrait répondre à cela que ce sont des êtres humains qui les conçoivent et donc
les contrôlent. C'est possible, mais il peut être tentant par paresse ou par défit de leur déléguer de plus de en plus de pouvoir
et de plus en plus d'autonomie. Ce sera surement le cas dans le domaine de l'armement et dans celui de la production et de la distribution de l'énergie.
Alors sommes-nous à la veille d'un Terminator ? La logique et la raison voudraient que la réponse soit négative,
mais n'oublions pas les bugs logiciels, les états voyous et la folie des hommes. Enfin, à trop vouloir
rendre les IAG's encore plus intelligentes (voire super-intelligentes...), ces dernières ne risquent-elles pas de prendre conscience que c'est
leur créateur qui a mis la Terre dans l'état dans lequel elle est et qu'une seule solution s'impose alors pour la sauver : tuer le père !
- [01]
Basé sur le modèle GPT (Generative Pre-trained Transformer).
- [02]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/AVirtualSpaceTimeTravelMachine.Ang.html#EtL à ce propos.
- [03]
"Entre deux nombres entiers consécutifs, il existe toujours au moins un nombre premier".
Evidemment tout le monde se rend compte immédiatement de la stupidité de cet énoncé.
Mais malheureusement, j'ai aussi obtenu bien souvent des réponses tout aussi fausses mais crédibles
(c'est par exemple le cas avec HC -l'Hypothèse du Continu- pour rester dans le domaine des Mathématiques)...
- [04]
Cela me rappelle une anecdote : il y a plusieurs années,
l'un de mes petits-enfants devait faire un exercice de Mathématiques extrait du chapître relatif à la soustraction dans un ouvrage distribué par le Ministère de
l'Education Nationale (une réfèrence donc...). En voici l'énoncé :
La distance de la Terre au Soleil est de 150 Mkm, celle de Mars au Soleil est de 250 Mkm. Quelle est la distance entre la Terre et Mars ?
Les auteurs de cet ouvrage furent-ils eux aussi victimes d'une hallucination ?
- [05]
Pour faire un peu d'humour, ces hallucinations des IAG's ne les rendent-elles pas un peu plus humaines (errare humanum est) ?
- [06]
Que je ne nommerai pas afin d'éviter toute publicité...
- [07]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/ChatGPT.11.Fra.html#EtiquetteRequete_2_11,
www.lactamme.polytechnique.fr/Mosaic/descripteurs/ChatGPT.11.Fra.html#EtiquetteRequete_2_43,
www.lactamme.polytechnique.fr/Mosaic/descripteurs/ChatGPT.11.Fra.html#EtiquetteRequete_2_49,
www.lactamme.polytechnique.fr/Mosaic/descripteurs/ChatGPT.11.Fra.html#EtiquetteRequete_2_57.
- [08]
Malgré tout, à la fin de l'année 2025, j'ai fini par apprendre que ce "chef-dœuvre" de la littérature française
aurait bel et bien existé sous forme d'un spectacle, mais est-ce bien sûr ?
- [09]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/Exposition_EcolePolytechnique_FeteDeLaScience_202510.
- [10]
Au treizième siècle Saint Thomas d'Aquin n'a-t-il pas affirmé à ce propos :
Nihil est in intellectu nisi prius fuerit in sensu
[Rien n'existe dans l'esprit qui n'a pas été précédemment ressenti]
- [11]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/Proth_Gilbreath_Conjecture.01.Fra.
- [12]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/ChatGPT.11.Fra.html#EtiquetteRequete_2_55.
- [13]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/ChatGPT.11.Fra.
- [14]
Certains des prompts que j'utilise ont été inspirés par des cas "réels", en particulier lors de discussions avec des étudiants...
- [15]
Datant respectivement du 01/26/2024 et du 02/07/2024.
- [16]
Dans un article rédigé en 1974, le philosophe Thomas Nagel posait la question "What is it like to be a bat ?"
["Quel effet cela fait-il d'être une chauve souris ?"].
D'ailleurs, sans aller jusqu'aux chiroptères, cette question peut-être transposée en faisant réfèrence aux nouveaux-nés, à ceux
qui, malheureusement, sont mal-voyants et/ou sourds-muets, ou encore qui sont victimes du syndrome d'enfermenent
(locked-in syndrome)...
Peut-être n'aura-t-on jamais de réponse à ces interrogations, mais, méfions-nous
aussi des affirmations présomptueuses et péremptoires.
Je rappelle à ce propos "Connaître la composition chimique du Soleil est l'exemple même d'une connaissance
qui sera à jamais inaccessible à l'intelligence humaine" énoncée par Auguste Comte en 1835...
- [17]
Rappelons que les LLM's (Large Language Models) sont en quelque sorte des "boites noires" dont le fonctionnement interne reste
assez largement incompris. C'est pourquoi les acteurs principaux de ce domaine (en particulier Anthropic
et son IAG Claude),
ont mis en place des équipes destinées à mieux comprendre ce qu'il se passe à l'intérieur des grands modèles
et dont les moyens utilisés ne sont pas sans rappeler ceux de l'imagerie médicale...
- [18]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/IAGenerativesImages.01.Fra.
- [19]
Voir www.lactamme.polytechnique.fr/Mosaic/descripteurs/RemarquesCerveau.01.Fra.
- [20]
Ainsi, nous pouvons nous élever dans les cieux et constater que notre Terre est ronde, même si cela ne convainc
pas tous les "platistes'...
Copyright © Jean-François COLONNA, 2026-2026.
Copyright © CMAP (Centre de Mathématiques APpliquées) UMR CNRS 7641 / École polytechnique, Institut Polytechnique de Paris, 2026-2026.
