L’IA se souvient-elle de ce que vous lui avez dit ? Comment fonctionne vraiment la mémoire de l’IA

L’IA se souvient-elle de ce que vous lui avez dit ?

Non. L’IA n’a aucune mémoire. À chaque message, l’outil renvoie à l’IA toute la conversation, depuis le premier mot, et l’IA relit tout.

Vous envoyez un premier message, l’IA répond. Vous envoyez un deuxième message : l’IA reçoit votre premier message, sa première réponse, puis votre deuxième message. À votre cinquantième message, l’IA ne voit pas un message : l’IA relit vos 49 messages précédents, ses 49 réponses, chaque document joint et chaque page web consultée, puis votre nouvelle demande.

Imaginez un consultant totalement amnésique, à qui un assistant tend le dossier complet avant chaque question. Le consultant relit tout le dossier à chaque fois : plus le dossier est épais, plus votre question s’y perd.

Pourquoi l’IA se dégrade-t-elle dans une longue conversation ?

Parce que votre nouvelle demande devient une aiguille dans une botte de foin. L’IA relit tout, et vos dix derniers mots ne pèsent presque rien face au reste.

Une règle donnée au début (« vouvoie le client », « jamais plus de 100 mots ») se retrouve, après une heure de travail, sous des dizaines de milliers de mots. Suivre une règle dans un court paragraphe est facile ; suivre la même règle enfouie dans un long historique est bien plus difficile. C’est là que l’IA commence à oublier des règles, à s’éloigner du sujet et à inventer des détails (voir le guide Pourquoi l’IA invente-t-elle des choses ?).

C’est pareil pour une réponse courte à la fin d’un long échange. L’IA demande « Ce plan te convient, ou je change l’ordre ? » et vous répondez « oui » : ce seul mot arrive au bout d’un historique de plusieurs milliers de mots, et l’IA doit deviner à quoi votre « oui » répond. Répondez par une phrase complète : « Le plan me convient, garde cet ordre. »

Comment l’IA se souvient-elle de vous d’une conversation à l’autre ?

Grâce à des notes que l’outil ajoute à chaque nouvelle conversation. L’IA elle-même ne se souvient toujours de rien.

Beaucoup d’outils tiennent une mémoire du compte : quand vous mentionnez une chose que l’outil juge importante (votre métier, l’espèce de votre tortue), l’outil inscrit cette chose dans une note sur vous. Vos instructions personnalisées (« réponds brièvement », « appelle-moi par mon prénom ») fonctionnent de la même façon. Les deux sont du simple texte, ajouté en tête de chaque nouvelle conversation, avant votre premier mot.

Vous ne partez donc jamais de zéro. Avant votre premier mot, l’IA a déjà reçu les consignes de l’outil, la mémoire de votre compte et vos instructions personnalisées, et l’IA relit tout cela à chaque message, comme le reste de la conversation. Une note de mémoire qui grossit au fil des mois alourdit un peu chaque conversation.

Certains outils savent aussi chercher dans vos anciennes conversations quand vous y faites référence (« tu te souviens de ce que je t’ai dit sur ma tortue ? »). Cette recherche est une capacité en plus, comme la recherche sur internet : sans elle, chaque conversation est indépendante.

Vous pouvez lire et supprimer ce que la mémoire du compte dit de vous, dans les paramètres de l’outil. Lisez cette note une fois : vous y trouverez peut-être une information ancienne ou fausse, que l’IA relit dans chaque conversation.

Peut-on demander à l’IA d’oublier quelque chose ?

Non. Écrivez « oublie ce que je t’ai dit » : l’IA répondra qu’elle a oublié, et tout restera dans la conversation, relu à chaque message.

Pire, votre message « oublie » rejoint lui aussi l’historique : l’IA relit désormais l’information et la demande de l’oublier. Pour que l’IA oublie, ouvrez une nouvelle conversation. Pour effacer une information de la mémoire du compte, passez par les paramètres.

C’est surtout important pour ce que vous n’auriez pas dû coller : le nom d’un client, un numéro de téléphone, un contrat. Une fois envoyée, l’information reste dans la conversation. La bonne habitude se prend avant : n’envoyez que ce dont le travail a besoin, et écrivez [client] à la place du nom (voir Puis-je coller des données clients dans l’IA ?).

Quand donner un document à l’IA ?

À l’étape qui en a besoin. Un document joint au premier message est relu à chaque message ; le même document joint au dixième message n’a pas pesé sur les neuf précédents.

Imaginez envoyer un dictionnaire entier pour demander trois définitions : l’IA relit des milliers de définitions à chaque message pour en utiliser trois. Envoyer une entrée à la fois donne à l’IA seulement ce dont chaque question a besoin. C’est pareil pour dix rapports, un long contrat ou un site entier : donnez chaque partie quand vient son étape.

Comment repartir de zéro sans perdre son travail ?

Rangez le bureau, jamais l’armoire. La conversation est le bureau : videz-le aussi souvent que possible. Vos fichiers sont l’armoire : ils restent.

Supprimer une conversation ne supprime ni les fichiers de votre ordinateur, ni les documents que vous avez produits avec l’IA et enregistrés. La règle est donc simple : une tâche, une conversation. Quand la tâche est finie, ouvrez une nouvelle conversation pour la suivante.

Quand vous devez poursuivre le même travail, ne traînez pas tout l’historique. Demandez un résumé, et dites ce que le résumé doit contenir :

Ouvrez une nouvelle conversation, collez le résumé, et continuez. Le résumé devient le nouveau point de départ : quelques centaines de mots au lieu de tout l’historique. Certains outils proposent un bouton qui écrit ce résumé pour vous ; choisissez le moment vous-même, car un résumé fait au milieu d’une étape délicate perd justement les détails dont vous avez encore besoin.

Pourquoi une longue conversation coûte-t-elle plus cher ?

Parce que l’usage de l’IA se mesure à la quantité de texte que l’IA lit et écrit, et qu’une longue conversation fait relire davantage à l’IA à chaque message.

L’IA ne compte pas en mots : l’IA compte en jetons (« tokens » en anglais), des morceaux de mots. Un mot court fait souvent un jeton ; un mot long est souvent coupé en plusieurs. Chaque jeton que l’IA lit, et chaque jeton que l’IA écrit, a un coût : en argent sur une offre payée à l’usage, en limites d’utilisation sur un abonnement.

Trois faits en découlent, et ils expliquent la plupart des limites atteintes trop vite :

• Chaque message coûte plus cher que le précédent. À chaque message, tout l’historique est relu : le cinquantième message coûte bien plus que le premier, même si les deux font dix mots.
• Écrire coûte plus cher que lire. Le texte que l’IA écrit coûte plusieurs fois plus cher que le texte que l’IA lit. Une demande plus longue et précise, qui obtient une réponse courte et juste, coûte donc moins qu’une demande floue suivie de trois corrections (voir le guide Comment bien formuler une demande à l’IA ?).
• Vous payez ce que vous ne voyez pas. Avant de répondre, beaucoup d’IA raisonnent : l’IA écrit un brouillon de sa réflexion, que l’outil cache. Ce brouillon caché est facturé comme de l’écriture, et il est souvent plus long que la réponse elle-même.

Deux habitudes ne coûtent rien. Collez le texte comme du texte : la capture d’écran d’un paragraphe coûte plus cher que le même paragraphe collé, car l’IA doit d’abord déchiffrer l’image. Et si vous écrivez bien l’anglais, une demande en anglais consomme moins de jetons que la même demande en français ; n’écrivez en anglais que si vous savez relire ce que vous envoyez.

Pourquoi une conversation qui dort coûte-t-elle plus cher ?

Parce que l’outil ne garde le travail déjà fait sur votre conversation que pendant un court moment. Revenez après le déjeuner, ou le lendemain matin, et tout l’historique est retraité au prix plein.

Tant que vous travaillez, l’IA ne refait pas tous ses calculs sur l’historique à chaque message : l’outil garde ces calculs de côté un court moment (la durée dépend de l’outil), et relire l’historique coûte alors bien moins cher. Après une longue pause, ce travail est perdu. Votre message suivant fait retraiter tout l’historique depuis le début, au prix plein, et la réponse met plus de temps.

Une conversation qui dort coûte donc plus cher qu’une conversation qui avance. Finissez la tâche avant la pause. Si vous ne pouvez pas, demandez le résumé avant de partir, tant que la conversation est encore « chaude », et repartez d’une conversation neuve avec ce résumé à votre retour.

Quelles sont les cinq habitudes qui gardent la mémoire de l’IA sous contrôle ?

Cinq habitudes à cocher avant une longue séance de travail avec l’IA.

• Une tâche, une conversation : quand la tâche change, j’ouvre une nouvelle conversation.
• Je donne chaque document à l’étape qui en a besoin, pas tout au début.
• Pour faire oublier quelque chose à l’IA, j’ouvre une nouvelle conversation ; je n’écris jamais « oublie ».
• Avant une pause, je finis la tâche ou je demande un résumé, en disant ce que le résumé doit contenir.
• J’ai lu ce que la mémoire de mon compte dit de moi, et supprimé ce qui est faux.

Ces habitudes gardent la conversation légère ; elles ne remplacent ni une bonne demande, ni une vérification. Les deux autres guides traitent de la demande et de la vérification : Comment bien formuler une demande à l’IA ? et Pourquoi l’IA invente-t-elle des choses ?