Depuis l’arrivée des modèles génératifs d’IA, de nombreuses organisations ou utilisateurs capitalisent sur ces systèmes pour leurs contenus, leurs veilles, leurs rapports documentaires… Les réponses sont rapides, structurées, souvent convaincantes. À tel point qu’une confusion s’installe : celle de considérer ces systèmes comme réellement « intelligents ».
Cette perception n’est pas anodine. Elle influence directement la manière dont les décisions sont prises parfois en surestimant la fiabilité des résultats produits. Avant de s’appuyer sur ces outils, il est nécessaire de comprendre ce qu’ils font réellement… et ce qu’ils ne font pas.
Pourquoi les IA génératives donnent-elles l’impression de comprendre?
Depuis l’arrivée des modèles génératifs d’IA, nous semblons confondre de plus en plus performance et compréhension. On ne voit pas la mécanique, alors on imagine un esprit. Notre cerveau, incapable de tolérer le vide, attribue intention, raisonnement ou sens là où il n’y a qu’un enchaînement statistique.
Cette confusion n’a rien de moderne, elle surgit dès qu’un objet inerte emprunte nos codes : c’est l’anthropomorphisme. On retrouve ce phénomène en robotique militaire. Certains soldats déployés avec des robots-chiens développent une forme d’attachement au robot. Le robot avance, explore, revient. Il répète un comportement stable, presque familier. Lorsqu’il est détruit, ce n’est pas seulement un outil qu’on perd : c’est une présence imaginée. Dès qu’un système marche, réagit ou répond, nous lui prêtons une forme d’intention.
Tendance à surestimer les capacités d’un système conversationnel et à lui attribuer une compréhension ou une intelligence qu’il ne possède pas. Nommé d’après ELIZA, un programme créé par Joseph Weizenbaum au MIT (1964-1966) qui simulait un psychothérapeute : bien qu’il ne fasse que manipuler des patterns linguistiques, ses utilisateurs lui confiaient des pensées intimes, convaincus qu’il les « comprenait » véritablement. Voir la définition complète
L’essor des modèles de langage n’a fait qu’amplifier cette illusion : lorsqu’une IA nuance, contextualise ou reformule, notre esprit glisse naturellement vers l’idée d’un raisonnement. Ce mécanisme cognitif n’est pas neutre : en entreprise, il peut conduire à accorder à l’IA un niveau de fiabilité ou de compréhension qu’elle ne possède pas.
Pourquoi discuter avec une IA n’est pas une véritable conversation ?
Une autre source de confusion tient à la notion même de « conversation » avec les LLMs. Lorsqu’un utilisateur échange avec une IA générative, il a naturellement l’impression d’entretenir un dialogue continu. Pourtant, le modèle ne « suit » pas une conversation comme le ferait un interlocuteur humain. À chaque réponse, il reçoit simplement un contexte composé des messages précédents qui lui sont transmis et génère la suite de texte la plus probable. Il ne conserve ni souvenirs, ni compréhension durable de l’échange, ni représentation mentale de ce qui a été dit.
Cette limite explique pourquoi un modèle peut perdre le fil d’une discussion longue, oublier une information pourtant évoquée quelques échanges plus tôt ou produire une réponse incohérente lorsque le contexte devient incomplet. Il ne s’agit pas d’un manque d’attention, mais d’une conséquence directe de son fonctionnement. Sans contexte, un modèle de langage ne « sait » rien de la conversation précédente.
Cette absence de compréhension explique également le phénomène des hallucinations. Lorsqu’une information manque, est ambiguë ou sort du contexte disponible, le modèle ne cherche pas la vérité : il génère la réponse qui lui paraît statistiquement la plus vraisemblable. Il peut ainsi inventer une référence, attribuer une citation à la mauvaise personne ou présenter un fait erroné avec une grande assurance. Plus la formulation est fluide et convaincante, plus il devient difficile de distinguer une réponse exacte d’une affirmation inventée.
Quelle place donner à l’intelligence artificielle dans une organisation ?
Dans ce contexte, faut-il confier l’ensemble de ses projets et de sa stratégie à une IA générative ? La question n’est pas tant si l’on doit l’utiliser que comment on le fait. Le véritable risque serait de le faire sans recul. Le véritable risque n’est pas d’utiliser l’IA, mais de l’utiliser sans cadre, sans recul et sans arbitrage.
Nous parlons « d’intelligence artificielle » or le terme façonne déjà notre perception. Dès lors que le mot intelligence est posé, notre esprit projette spontanément des attributs humains : compréhension, intention, discernement. Pourtant, ces systèmes ne possèdent ni conscience, ni volonté, ni capacité de jugement. Ils calculent, corrèlent, prédisent. Reconnaître ce mécanisme cognitif ne diminue en rien l’utilité de l’IA. Cela permet simplement de ne pas lui attribuer ce qu’elle n’a jamais porté : une intention, une responsabilité, une forme d’esprit.
L’enjeu est donc de conserver une position lucide. Utiliser l’IA pour ce qu’elle est réellement : un outil probabiliste extrêmement performant mais incapable de discernement.
La lucidité face à l’intelligence artificielle est déjà d’accepter que, malgré son nom, l’IA générative n’est pas une intelligence. C’est un modèle probabiliste sophistiqué, remarquable par ce qu’il permet, mais dénué de subjectivité. C’est seulement en regardant les modèles de langages pour ce qu’ils sont réellement, que nous pouvons décider de la place que nous voulons – ou non – leur donner.