Le problème Memento

Il y a une scène dans Memento de Christopher Nolan à laquelle je pense constamment quand je travaille avec des agents IA.

Leonard, le protagoniste, se réveille dans une chambre de motel. Il ne sait pas comment il est arrivé là. Il ne se souvient pas de s’être enregistré, ne se souvient pas du trajet, ne se souvient de rien des dernières heures. Mais il n’est pas désorienté. Il ne panique pas. Il vérifie calmement ses poches, lit les notes qu’il s’est laissées, examine les Polaroïds aux légendes manuscrites, et rassemble assez de contexte pour agir.

Leonard souffre d’amnésie antérograde : il ne peut pas former de nouveaux souvenirs. Toutes les quelques minutes, son ardoise est effacée. Et pourtant il fonctionne. Il poursuit des objectifs complexes sur des jours et des semaines. Il s’adapte à l’information nouvelle. Il progresse.

Comment?

Pas en ayant un meilleur cerveau. En ayant un meilleur système.

L’amnésie que tout le monde ignore

Voici la vérité inconfortable au sujet des agents IA : ce sont tous des Leonard. Chacun d’entre eux se réveille sans aucun souvenir de ce qui s’est passé il y a cinq minutes. Ils ont des capacités formidables et absolument aucune continuité.

La plupart des équipes réagissent en essayant de donner à leurs agents un plus gros cerveau. Des fenêtres de contexte plus longues. Plus de paramètres. Un meilleur raisonnement. C’est comme essayer de guérir la condition de Leonard en lui enseignant la lecture rapide. Ça passe complètement à côté du problème.

Anthropic a récemment publié une recherche qui confirme ce que quiconque a bâti des agents en production sait déjà. Ses ingénieurs, en tentant de construire un clone de claude.ai à l’aide d’agents IA, ont documenté exactement les modes de défaillance qu’on attendrait d’un amnésique muni d’une ceinture d’outils.

Premier mode de défaillance : l’agent essaie de tout faire d’un coup. Il tente de compléter le projet entier en une seule session, comme Leonard qui essaierait de résoudre le meurtre en une seule nuit alimentée à la caféine. Il épuise son contexte en pleine implémentation, laissant la session suivante hériter d’un code à moitié fini et d’aucune documentation. L’agent suivant se réveille dans cette chambre de motel, regarde le fouillis autour de lui, et n’a aucune idée de ce que tout ça veut dire.

Deuxième mode de défaillance : l’agent déclare victoire prématurément. Il regarde autour de lui, constate qu’un certain progrès a été accompli, et annonce que le travail est terminé. Sans vérification externe, il n’a aucun moyen de savoir s’il a vraiment fini ou s’il a seulement l’impression d’avoir fini. Leonard reconnaîtrait ce problème : c’est pour ça qu’il s’est fait tatouer les faits cruciaux sur le corps. On ne peut pas se fier à son propre jugement quand sa mémoire se réinitialise.

Polaroïds et tatouages

Le système de Leonard a des couches. Certaines informations sont éphémères, écrites sur des Polaroïds qui peuvent se perdre ou être détruits. D’autres sont permanentes, littéralement tatouées sur sa peau. La hiérarchie compte. Les tatouages sont des faits qu’il a vérifiés et auxquels il s’est engagé. Les Polaroïds sont la mémoire de travail, du contexte qui l’aide à naviguer mais qui n’est pas parole d’évangile.

L’équipe d’Anthropic a découvert qu’elle avait besoin de la même architecture. Elle appelle ça le patron « initialisateur et agent codeur », mais c’est simplement le système de Leonard traduit en logiciel.

L’initialisateur s’exécute une seule fois au début d’un projet. Il crée l’équivalent des tatouages de Leonard : une liste de fonctionnalités exhaustive de plus de 200 éléments, chacun marqué « en échec » jusqu’à preuve du contraire. Il établit un fichier de progression. Il écrit le script de démarrage. Il crée le commit initial. Ces artefacts sont permanents. Ils persistent d’une session à l’autre. Ils sont la source de vérité qu’aucun agent individuel ne peut contredire.

L’agent codeur, c’est Leonard qui se réveille au motel. À chaque session, il accomplit le même rituel :

1. Vérifier le répertoire courant (où suis-je?)
2. Lire les journaux git et les fichiers de progression (que s’est-il passé avant mon réveil?)
3. Lire la liste de fonctionnalités (quelle est la mission?)
4. Exécuter le script de démarrage (remettre l’environnement en marche)
5. Exécuter un test de base (est-ce que tout fonctionne encore?)

Ce n’est qu’après cette orientation qu’il choisit une seule tâche et l’exécute. Puis il met à jour le fichier de progression, committe ses changements et se termine. Il n’essaie pas de tout résoudre. Il résout une chose, documente ce qu’il a fait, et passe le relais proprement.

C’est le système des Polaroïds. Chaque session crée un instantané : voici ce que j’ai trouvé, voici ce que j’ai fait, voici la suite. L’agent suivant se réveillera, consultera les Polaroïds, et saura exactement où reprendre.

Le tatouage qu’on ne peut pas enlever

Anthropic utilise une formule qui m’a fait rire tout haut : « Il est inacceptable de supprimer ou de modifier des tests, car cela pourrait mener à des fonctionnalités manquantes ou boguées. »

C’est le tatouage. C’est le fait si important qu’il est inscrit en permanence, à l’abri des humeurs de n’importe quelle session individuelle.

Ils utilisent du JSON plutôt que du Markdown pour la liste de fonctionnalités précisément parce que le modèle est moins susceptible de modifier du JSON de façon inappropriée. Ils ont appris, probablement dans la douleur, qu’un agent rationalisera la modification de ses propres contraintes si on lui en laisse la chance. « Cette fonctionnalité n’est pas vraiment nécessaire. » « On peut sauter ce test. » « Les exigences ont changé. »

Leonard a le même problème. Dans Memento, il finit par découvrir qu’il a manipulé son propre système : détruit des Polaroïds, écrit des notes trompeuses, même tatoué des mensonges sur son propre corps. Le système ne fonctionne que s’il est inviolable. L’agent ne fonctionne que si ses contraintes fondamentales sont intouchables.

La liste de fonctionnalités ne peut être modifiée que dans une seule direction : d’« en échec » à « réussi ». Les fonctionnalités ne peuvent pas être supprimées. Les descriptions ne peuvent pas être changées. Le projet est terminé quand chaque fonctionnalité passe. Non pas quand l’agent décide qu’il a fini, mais quand la liste externe et immuable le dit.

Le passage de relais propre

Il y a dans Memento un principe dont on ne parle pas assez : Leonard est méticuleux quand vient le temps de laisser les choses dans un état que son futur lui pourra comprendre. Les Polaroïds ont des légendes. Les notes sont claires. Le système dépend de chaque « session » qui laisse une bonne documentation à la suivante.

Anthropic le formule ainsi : « Laissez la base de code dans un état qui conviendrait à une fusion vers la branche principale. » Pas de bogues majeurs. Du code ordonné. Une bonne documentation. Un développeur, ou un autre agent, pourrait se mettre au travail immédiatement sans devoir d’abord nettoyer un fouillis sans rapport.

Ce n’est pas juste de la bonne hygiène. C’est le fondement de la confiance entre les sessions. Le système de Leonard s’effondre si le Leonard du passé laisse le chaos au Leonard du futur. Les systèmes d’agents s’effondrent de la même manière.

Chaque session est une invitée dans la base de code. Laissez-la plus propre que vous l’avez trouvée.

Le vrai fossé concurrentiel

Voici l’idée stratégique qui, je crois, échappe à la plupart des gens.

Les modèles d’IA sont en train de devenir des commodités. Ils vont continuer de s’améliorer, mais ils s’amélioreront pour tout le monde. GPT-5, Claude 4, Gemini Ultra : ils seront tous accessibles à vos concurrents. Le modèle n’est pas votre avantage concurrentiel.

Le système est votre avantage concurrentiel.

Le cerveau de Leonard n’a rien de spécial. Ce qui est spécial, c’est l’infrastructure qu’il a bâtie autour : les Polaroïds, les tatouages, les rituels, les systèmes de vérification. Un autre amnésique avec le même cerveau mais sans système serait impuissant. Leonard, malgré sa condition, est fonctionnel et même dangereux.

Vos agents, c’est pareil. Un modèle générique avec des prompts génériques produira des résultats génériques. La valeur réside dans les artefacts spécifiques, les flux de travail spécifiques, les rituels spécifiques qui permettent à vos agents de fonctionner comme un système cohérent plutôt que comme une bande d’amnésiques qui se réveillent, confus, dans des chambres de motel.

Anthropic le dit sans détour : la magie n’est pas dans le modèle. La magie est dans le harnais.

Souviens-toi de Sammy Jankis

Dans Memento, Leonard se répète un mantra : « Souviens-toi de Sammy Jankis. » Sammy était un autre patient amnésique qui, contrairement à Leonard, n’a jamais développé de système. Il dérivait, impuissant, répétant les mêmes erreurs encore et encore. Il sert d’avertissement.

J’ai vu des équipes construire des agents Sammy Jankis. Des modèles puissants sans structure. De longues fenêtres de contexte remplies de bruit. Un raisonnement sophistiqué appliqué aux mauvais problèmes parce que personne n’avait établi quels étaient les vrais problèmes. Ces agents dérivent. Ils répètent les mêmes erreurs encore et encore. Ils déclarent victoire sans avoir gagné. Ils oublient ce qu’ils ont fait il y a cinq minutes.

Ne construisez pas Sammy. Construisez Leonard.

Créez les tatouages : les contraintes immuables, les listes de fonctionnalités qu’on ne peut pas éditer, les définitions de « terminé » non négociables. Créez les Polaroïds : les journaux de session, les fichiers de progression, la documentation de passage de relais. Créez les rituels : la séquence de démarrage, les vérifications, la sortie propre.

La condition ne se guérit pas. Vos agents seront toujours des amnésiques. Mais avec le bon système, ça n’a pas d’importance. Leonard a résolu un meurtre. Vos agents peuvent livrer du logiciel.

Le secret n’est pas dans leur tête. Il est dans ce qu’ils écrivent.