Vous demandez une date, un chiffre, le titre d’un livre. La réponse arrive, bien tournée, sans la moindre hésitation. Et elle est fausse. Ce n’est pas un bug : c’est le fonctionnement normal de l’outil. Voici pourquoi, en évitant le jargon.
Elle ne cherche pas une réponse, elle continue une phrase
Un modèle de langage ne va pas chercher une information dans une base pour vous la rapporter. Il fait autre chose : il regarde le texte reçu et calcule, mot après mot, quelle suite est la plus plausible compte tenu de tout ce qu’il a lu pendant son entraînement. C’est un continuateur de texte, pas un moteur de recherche.
« Plausible » ne veut pas dire « vrai ». Ces deux mots sont souvent d’accord — c’est pour ça que l’outil est utile — mais rien dans le mécanisme ne les oblige à l’être.
Quand la suite plausible existe et qu’elle est juste, vous obtenez une bonne réponse. Quand la question porte sur quelque chose de rare, de récent ou de très précis, l’outil produit quand même une suite plausible : un nom d’auteur qui sonne juste, une date qui ressemble à la bonne, une référence parfaitement formatée qui n’existe pas.
Pourquoi elle a l’air si sûre d’elle
Parce que l’assurance est un style d’écriture, pas une mesure de fiabilité. Les textes sur lesquels ces modèles ont été entraînés — articles, manuels, encyclopédies — sont écrits sur un ton affirmatif. L’outil reproduit ce ton, qu’il ait raison ou non. Une réponse fausse sort donc avec exactement la même belle grammaire qu’une réponse juste.
C’est le point le plus important pour un parent ou un enseignant : le ton ne vous dit rien sur la véracité. Sur un moteur de recherche, on juge un peu à la source. Ici, il n’y a pas de source à juger — juste une phrase bien écrite.
Pourquoi elle ne dit pas « je ne sais pas »
Parce que rien ne l’y pousse. À chaque mot, la question interne est « quelle est la suite la plus probable ? », et « je ne sais pas » est rarement la suite la plus probable d’une question. Les outils récents s’en sortent mieux qu’avant, et certains vont chercher des pages web pour appuyer leur réponse — ce qui déplace le problème sans le supprimer, puisqu’il faut alors juger les pages.
Quatre réflexes qui suffisent
- Demandez la source, puis ouvrez-la. Une référence qui n’existe pas se repère en un clic. Ne vous contentez pas de la voir citée.
- Reposez la même question autrement. Si les deux réponses divergent sur un fait, c’est qu’il n’y a pas de fait solide derrière.
- Méfiez-vous du précis. Un pourcentage à la décimale, une date au jour près, un nom propre rare : c’est là que ça casse le plus souvent.
- Gardez la décision. Un texte proposé se relit et se corrige. Le jugement, lui, ne se délègue pas.
Comment l’expliquer à un enfant
À un enfant de six ans : « Elle répond toujours, même quand elle ne sait pas. Comme quelqu’un qui n’ose pas dire qu’il ne sait pas. » Ça suffit, et c’est juste.
À un adolescent : « Elle écrit ce qui ressemble le plus à une bonne réponse. Ressembler à une bonne réponse et être une bonne réponse, ce n’est pas pareil. » C’est le début du travail de vérification, qui est le seul travail qui reste entièrement humain.
Le labo à prompts et le quiz vrai/faux de la page d’accueil se font sans compte : ils prennent cinq minutes et montrent l’écart entre une réponse qui a l’air bonne et une réponse vérifiable.
Malinia apprend à comprendre, utiliser et vérifier l'intelligence artificielle : quatre parcours guidés dès 3 ans, des ateliers gratuits sans inscription, et 240 pages à imprimer.