Pourquoi l’IA invente-t-elle des choses ? Et comment l’en empêcher

Qu’est-ce qu’une hallucination de l’IA ?

Une hallucination est une réponse de l’IA qui sonne juste et qui est fausse. L’IA n’a pas menti : elle a écrit les mots les plus probables, et probable ne veut pas dire vrai.

Derrière ChatGPT, Claude ou Gemini, il y a un modèle de langage : une calculatrice de mots. Donnez à l’IA le début de phrase « Quand j’ai soif, je bois un verre d’… » : elle calcule le mot suivant le plus probable, eau, à environ 70 %, loin devant jus ou vin. Elle ajoute ce mot, calcule le suivant, et ainsi de suite, un mot à la fois. Nulle part dans cette boucle il n’y a d’étape « comprendre » ou « vérifier ».

Vous faites ce genre de pari tous les jours. Une personne passe avec un sac de judo : qu’y a-t-il dedans ? Un kimono, presque à coup sûr ; une ceinture, très probablement. Vous n’avez pas ouvert le sac, vous pariez sur le probable. L’IA fait ce pari pour chaque mot qu’elle écrit, et l’IA n’ouvre jamais le sac.

Vous utilisez déjà une version minuscule de cette calculatrice : les trois mots que votre téléphone propose au-dessus du clavier. L’IA repose sur la même idée, entraînée sur une immense part de ce qui a été écrit. C’est pour cela que ses phrases ont l’air si sûres d’elles.

Cela explique une deuxième surprise. Posez trois fois à l’IA la question « Quelle est la taille de la tour Eiffel ? », dans trois nouvelles conversations : vous pouvez obtenir deux mots, puis un paragraphe, puis une image. Même question, trois réponses. Ce n’est pas un défaut, c’est la nature de l’outil : l’IA calcule des probabilités, donc moins votre demande est précise, plus l’IA a de place pour s’égarer. Imaginez une formule Excel qui donnerait un résultat différent à chaque calcul : personne ne l’utiliserait. Avec l’IA, la régularité doit venir de votre demande, et le guide Comment bien formuler une demande à l’IA ? montre comment.

Pourquoi l’IA ne dit-elle pas simplement « je ne sais pas » ?

Parce que l’IA ne sait pas ce qu’elle ne sait pas. Elle est construite pour écrire le mot suivant le plus probable, pas pour laisser un blanc.

Imaginez un stagiaire brillant enfermé dans une cave remplie de livres. Il a lu presque tout ce qui est public. Il n’a jamais vu vos fichiers, votre agenda, vos prix ni vos clients. Demandez-lui votre tarif : il ne répondra pas « aucune idée », il vous donnera le tarif le plus plausible qu’il puisse construire à partir de ses lectures.

Les lectures du stagiaire s’arrêtent aussi à une date. Chercher sur internet est une capacité que certains outils ajoutent par-dessus ces lectures : demandez qui a gagné le match d’hier soir sans demander à l’IA de chercher, et l’IA peut vous donner le score le plus probable au lieu du vrai. En résumé, le stagiaire est excellent pour une relance type, les bonnes pratiques d’un domaine, la reformulation de ce que vous collez et la traduction. Le stagiaire est aveugle sur qui n’a pas répondu à votre e-mail, sur votre agenda et sur ce qui s’est dit dans votre réunion.

L’image a une limite : un stagiaire peut vous dire qu’il n’est pas sûr. L’IA, non, parce qu’elle n’a aucune idée de ce qu’elle sait. C’est pourquoi ajouter « ne réponds pas si tu ne sais pas » à votre demande aide si peu : l’IA acceptera la consigne, et comblera quand même la plupart des informations manquantes.

Le format de réponse aggrave les choses. Demandez un tableau à l’IA : chaque case vide devient une invitation, et l’IA préfère y mettre quelque chose de plausible plutôt que de la laisser vide.

D’où viennent les réponses inventées par l’IA ?

Presque toujours de deux endroits : une information que vous n’avez jamais donnée à l’IA, ou une conversation si longue que vos informations s’y sont perdues.

Une information jamais donnée

Vous connaissez si bien votre situation que vous oubliez de l’écrire : le client que vous connaissez depuis quinze ans, le prix convenu, le fait que c’est la deuxième relance. Rien de tout cela ne part avec votre message. L’IA ne s’arrêtera pas pour vous le demander : elle choisira à votre place, et chaque choix qu’elle fait pour vous l’éloigne un peu de ce que vous vouliez.

Une conversation trop longue

L’IA n’a pas de mémoire. À chaque message, elle relit toute la conversation depuis le début : vos messages, ses réponses, chaque fichier et chaque page web ouverts. Au bout de cinquante messages, votre dernière demande est une aiguille dans une botte de foin, et une consigne donnée au début ne pèse presque plus rien. C’est là que les réponses dérivent et que l’IA invente des détails.

Lire le guide : l’IA se souvient-elle de ce que vous lui avez dit ?

Comment empêcher l’IA d’inventer ?

On ne peut pas désactiver l’hallucination. On peut laisser à l’IA beaucoup moins de vides à remplir, et lui dire quoi faire de ceux qui restent.

Donnez à l’IA tout ce dont elle a besoin

Avant d’envoyer une demande, posez-vous une question : un collègue qui ne sait rien de ma situation pourrait-il faire ce travail sans me poser une seule question ? Si la réponse est non, l’IA devinera là où votre collègue vous aurait posé la question. Joignez le document, collez les chiffres, dites qui est le client et ce qui est en jeu. Et décrivez le résultat attendu avec des critères que vous pourriez cocher : pas « un e-mail court », mais « 80 mots maximum ».

Lire le guide : bien formuler une demande à l’IA

Dites à l’IA quoi faire quand une information manque

Avec cette consigne, un prix manquant apparaît comme « À COMPLÉTER » sur le devis, au lieu d’un montant qui a l’air juste.

Demandez à l’IA de vous questionner avant d’agir

Donnez un nombre précis, jamais « si nécessaire » : sinon l’IA décide qu’elle a tout compris. Chaque question qu’elle vous pose est un vide qu’elle aurait rempli à votre place.

Gardez des conversations courtes

Quand une conversation s’allonge, demandez à l’IA un résumé de l’essentiel (en précisant ce que le résumé doit contenir), ouvrez une nouvelle conversation et collez-y ce résumé. Écrire « oublie ce que je t’ai dit » ne marche pas : l’IA répondra oui, et tout restera dans l’historique de la conversation.

Comment repérer une réponse inventée par l’IA ?

Une hallucination ressemble trait pour trait à une bonne réponse. Regardez plutôt d’où l’information a pu venir.

• Un ton très assuré sur un point très précis : une date, un chiffre, un nom, un article de loi.
• Une chose que l’IA ne peut pas savoir : votre agenda, une réunion à laquelle elle n’a pas eu accès, un prix que vous ne lui avez jamais donné.
• Une affirmation sans source, ou avec une source impossible à ouvrir.
• Un lien qui ne mène nulle part. Début 2023, beaucoup des liens que l’IA donnait comme sources menaient à des pages qui n’avaient jamais existé. C’est bien plus rare aujourd’hui, mais ça arrive encore.

Aucun de ces signes ne prouve que la réponse est fausse. Chacun vous dit où regarder en premier.

Pourquoi demander « tu es sûr ? » à l’IA aggrave les choses

Demandez « tu es sûr ? » à un collègue : il revérifie. Demandez-le à l’IA : elle a tendance à céder, s’excuse et change une réponse qui était peut-être juste.

Pour l’IA, « tu es sûr ? » signale que quelque chose cloche : la suite la plus probable est donc une excuse et une correction. L’IA n’a rien vérifié. Vous venez d’ajouter une nouvelle façon de vous tromper.

Demandez plutôt une vérification, avec une méthode. « Vérifie bien ta réponse » ne vaut pas mieux que « tu es sûr ? » : dites quoi vérifier, et dans quelle source :

Pour une information publique, nommez la source en laquelle vous avez confiance. « Des sources officielles » reste flou : une mairie, une région et un ministère sont tous officiels. Donnez le site, et si possible la page exacte, puis demandez à l’IA de citer le passage qu’elle a trouvé, pour l’ouvrir vous-même. On vérifie avec des preuves, pas avec de la confiance.

Jusqu’où vérifier une réponse de l’IA ?

Autant que l’erreur vous coûterait. Tout vérifier de la même façon vous fait perdre du temps ; ne rien vérifier finira par vous coûter de l’argent.

La partie que vous maîtrisez

Quel que soit l’outil, c’est vous qui signez ce qui part. « C’est l’IA qui l’a dit » n’est pas une réponse qu’un client ou une administration acceptera. Cela paraît dur, et c’est une bonne nouvelle : les causes sont de votre côté, donc la solution aussi. Trois habitudes la résument.

• Flou

  Flou : décrivez le résultat avec des critères que vous pourriez cocher.

• Contexte manquant

  Contexte manquant : donnez à l’IA ce qu’il lui faut, et dites-lui quoi faire quand une information manque.

• Non vérifié

  Non vérifié : vérifiez contre une source, pas avec « tu es sûr ? ».