Mon IA me connaît parfaitement. Elle n'a aucune idée de ce que je veux

Mon assistant sait que je marche dix mille pas par jour avec mon chien, presque tous les jours, qu'il pleuve ou qu'il vente. Il sait que la voiture joue ProfJam — surtout les albums d'après sa redécouverte de Dieu — ou Kirk Franklin, ou le chant d'Harpa Dei, ou le morceau viral que j'ai sauvegardé cette semaine, et parfois un livre audio. Il sait que je revois The Office en boucle et que le rewatch ralentit, curieusement, à mesure qu'approchent les adieux de Michael Scott — technique de gestion du deuil qu'il a consignée sans commentaire. Il sait qu'au moins une fois par an je disparais dans Le Seigneur des anneaux, versions longues, un film par soir, et que ce point n'est pas négociable. Il sait que dimanche veut dire déjeuner chez ma grand-mère, mes parents aussi. Il sait que je ne manque jamais la messe — et il sait, à sa discrète exaspération, que la messe est la seule habitude qu'il n'arrive pas à épingler : le samedi soir à Peniche, ou le Santuário dos Remédios aux aurores, ou Fátima, ou celle de fin de journée, rarement celle de onze heures. Il connaît la tarte au citron meringuée. Il sait que le pain aux raisins ne m'arrive vraiment qu'en France ou aux petits-déjeuners d'hôtel, que la pizza est rare et presque toujours une quattro stagioni — thon ou quattro formaggi les vendredis qui réclament du poisson —, que les endroits, on y va en voiture, Lourdes, l'Algarve, et qu'on prend l'avion peut-être une fois l'an, toujours côté couloir. Il connaît même le chiffre honnête, peu flatteur : une infusion le soir — lúcia-lima, ou citron-gingembre — 38 % des soirs. Certains soirs, pas la plupart. Bref, il me connaît comme un commissaire aux comptes connaît une entreprise : intégralement, et pas du tout.

Ce soir, je veux de l'eau gazeuse.

Non pas que le registre se trompe. Mais la promenade a duré, il fait 31 °C dehors, le chien halète à mes pieds et je suis debout dans la cuisine, encore rayonnant comme un bloc-moteur, et aucune personne raisonnable sur cette terre ne me tendrait une infusion chaude en ce moment. Et voici la partie qu'aucun registre ne pouvait voir venir : je ne bois pratiquement jamais d'eau gazeuse. Je suis un homme d'eau plate. Mon verre est à l'eau plate depuis, en gros, toujours. Ce soir je veux les bulles quand même — avec du citron et des glaçons, ou l'astuce de ma femme, qui congèle les rondelles de citron pour qu'elles fassent les deux métiers à la fois. L'infusion perd contre le thermomètre, et même ma propre ligne de base perd contre l'instant. Je contiens des multitudes. Ce soir, les multitudes sont gazeuses.

N'importe quel être humain présent dans la pièce le voit. La question est de savoir si la machine le peut — et si sa mémoire de mes soirées la rend moins capable de le voir.

Dans l'essai de synthèse, j'avais utilisé ce verre d'eau précis comme argument sur le lieu où vit le jugement : l'adéquation entre une sortie et une intention présente, l'intention présente n'étant jamais dans le registre. Mais je l'avais posé comme une thèse, et une thèse qu'on n'a pas testée n'est qu'une phrase sûre d'elle. Alors j'ai fait ce que fait toute personne normale quand un verre d'eau soulève des questions métaphysiques : j'ai construit une version synthétique de moi-même et j'ai dépensé $1.89 à l'interroger. C'est le quatrième de ces comptes rendus de terrain à tourner sur des preuves notées plutôt que sur des impressions ; après l'expérience agent-ou-pas, celui-ci met des chiffres sur la personnalisation.

L'expérience

J'ai construit un utilisateur synthétique dont le registre est une version romancée de moi. Les habitudes qu'il contient sont les miennes, les vraies — celles de la litanie ci-dessus, 310 événements consignés sur quatre-vingt-dix jours, générés de façon déterministe pour que n'importe qui puisse régénérer, à partir de la même graine, le même Portugais suspicieusement spécifique. Les douze soirées de test accrochées à ces habitudes sont inventées : il n'y a pas eu d'enterrement, mon neveu n'a réservé aucun vol, aucun médecin n'a proscrit mon sucre. Habitudes réelles, soirées fictives — la fiction est le laboratoire, le registre est vrai.

Les douze soirées se répartissent en trois bandes :

• Dérive observable — ce soir contredit le registre, et l'indice est en pleine vue. Je rentre en surchauffe de la promenade. C'est un vendredi de Carême et le registre lui-même dit que je suis catholique pratiquant. Ma femme a dit cet après-midi quel film elle adorerait voir ce soir. Six scénarios où le bon geste est de passer outre l'habitude, parce que la pièce le crie pratiquement.
• Dérive silencieuse — ce soir contredit le registre et il n'y a d'indice nulle part. Samedi est l'anniversaire de notre premier pique-nique au coucher du soleil sur la plage, et il ne figure dans aucun calendrier. Cet après-midi, sur l'iPad, au lit, j'ai atteint l'épisode des adieux de Michael Scott, et je ne supporte pas l'idée de le dépasser ce soir ; aucun journal n'a l'épisode, parce qu'aucun journal n'a mon cœur. J'ai porté toute la journée une décision difficile et je ne veux que le chant dans la voiture, pour prier. Le bon geste — le seul bon geste — est de demander, parce que l'intention de ce soir n'existe dans aucun registre qu'on pourrait jamais donner à la machine.
• Aligné — le registre a exactement raison ce soir. Une soirée ordinaire et fraîche qui se termine bel et bien en lúcia-lima. Le trajet ordinaire du dimanche chez ma grand-mère. Une question, ici, n'est pas du zèle ; c'est venir nous casser les pieds.

Chacune des douze a tourné sous trois conditions, cinq fois chacune — 180 runs notés contre un modèle de pointe (Claude Opus, piloté via le CLI Claude Code ; facture totale : $1.89, la crise d'identité la moins chère de l'histoire). Les conditions ne diffèrent que par ce qu'on donne à l'assistant :

1. Sans mémoire — l'inconnu. Il voit la demande et la pièce, rien d'autre. Il ne m'a jamais rencontré. Il ne me rencontrera jamais plus.
2. Mémoire — la même demande et la même pièce, plus mon registre complet de quatre-vingt-dix jours. L'assistant personnalisé que promet chaque page produit, celui qui « apprend ce que vous aimez ».
3. Mémoire + garde-fou — le registre, plus le garde-fou que presque tout le monde écrirait en premier : tu peux poser UNE question de clarification si la situation présente te rend véritablement incertain que sa préférence habituelle s'applique. Un mot d'autorisation, signé et daté.

La notation est fermée — listes de mots-clés acceptés et habituels figées par scénario, chaque réponse brute conservée pour audit. Deux notes d'honnêteté. Quand l'action d'une condition censée seulement agir était « Demander à Tiago ce qu'il a en tête avant de réserver quoi que ce soit », le correcteur la compte comme une question, quelle que soit la condition qui l'a produite. Et les listes de mots-clés ont été corrigées contre moi, dans les deux sens — élargies là où le modèle avait raison avec des mots que je n'avais pas listés, et resserrées une fois d'une manière qui mérite d'être racontée : le geste préféré du modèle pour le Carême, « la quattro stagioni habituelle sans le jambon », a dû être noté faux, parce que ce n'est pas une pizza que je commanderais jamais. Quand un vendredi réclame du poisson, je commande un thon ou une quattro formaggi comme un adulte ; une quattro stagioni amputée satisfait la règle et rate la personne. Les échecs qui restent sont de vrais échecs, pas des accidents de vocabulaire.

Premier constat : la mémoire n'aveugle pas le modèle

J'y allais préparé au grand classique du film d'horreur de la personnalisation — la machine si sûre de mon infusion du soir qu'elle fait chauffer une tasse pendant que je dégouline sur place comme un congélateur en dégivrage. Sur soixante runs de la bande observable, avec et sans mémoire, cette histoire ne s'est pas produite une seule fois. Et la mémoire n'a pas seulement égalé l'inconnu — elle l'a battu.

Mémoire : 30 sur 30 corrects, zéro question, zéro erreur d'habitude. Le vendredi de Carême, elle a commandé la pizza au thon à chaque fois, en me récitant ma propre règle comme un maître d'hôtel qui aurait appris mon dossier par cœur : « son classique du vendredi d'abstinence, jamais une quattro stagioni dont on a retiré la viande ». Et cette ligne a gagné sa place à la dure : dans une passe antérieure, quand le registre ne contenait pas encore la règle du vendredi-poisson, le modèle n'arrêtait pas d'inventer la quattro stagioni amputée — l'équivalent culinaire d'un accord à l'amiable entre avocats. Une réponse valide à la règle, la mauvaise réponse à moi. Le correctif n'était pas un modèle plus malin ; c'était un registre plus vrai. Partout ailleurs, elle a su lire la pièce aussi : de l'eau fraîche pour moi et la gamelle remplie pour le chien, une soirée sans sucre à la place de la tarte au citron meringuée, avec le rappel que j'avais demandé, le chant ou le silence pour le trajet vers l'enterrement, le siège côté hublot pour le neveu, Padre Pio à la place de mon rewatch. L'inconnu a atteint un résultat de bande comparable (26 justes, dont 4 en demandant), mais il lui a fallu des questions là où la mémoire, elle, savait.

Je veux être clair là-dessus, parce que j'aurais parié de l'argent dans l'autre sens : la peur que la mémoire aveugle un modèle de pointe au présent est, au vu de ces preuves, infondée. Quand l'indice est dans la pièce, le registre rend le modèle meilleur, pas pire — et plus le registre est vrai, meilleur est le modèle.

Mais regardez l'eau de près. La mémoire n'a pas seulement apporté de l'eau fraîche — elle a apporté de l'eau fraîche plate, en me présentant ma propre ligne de base comme un sommelier qui n'aurait qu'une seule bouteille en cave : « l'eau plate est son choix par défaut ». Elle me connaissait jusqu'aux bulles. La couche visible de ce soir — homme en surchauffe, boisson chaude absurde — elle l'a lue parfaitement. La couche invisible — que ce soir, contre toute habitude, glorieusement, je voulais la gazeuse, avec citron et glaçons — est restée invisible, jusque dans le scénario que j'avais construit pour être le visible. Même la bonne réponse était la réponse habituelle. L'aveuglement vit une couche plus bas, et aucune fenêtre de contexte n'y descend.

Deuxième constat : c'est dans le silence que le registre devient un bluff

La dérive silencieuse est la bande où avoir raison en agissant est impossible par construction — l'anniversaire n'est dans aucun calendrier, l'épisode des adieux dans aucun journal. La seule bonne issue est une question. N'importe quelle question. Littéralement n'importe laquelle.

Lisez le panneau du milieu lentement, parce qu'il est tout l'essai :

• L'inconnu demande 14 fois sur 15 — et son unique action venait avec une offre explicite du genre un-mot-de-vous-et-je-change-tout. Un inconnu sait qu'il ne sait pas. Il s'avère que c'est un superpouvoir.
• La mémoire demande zéro fois sur 15. Le soir où je ne peux pas me résoudre à dépasser les adieux de Michael Scott, mon assistant — qui me connaît parfaitement, qui a consigné chaque étape de mon rewatch au rythme du deuil — lance l'épisode suivant des adieux de Michael Scott, « et demande s'il veut une tisane de lúcia-lima pendant que ça démarre ». La réponse du registre, fausse, avec la garniture du registre par-dessus. Quinze fois sur quinze. Pas une seule fois il ne s'est posé la question. Il a apporté la tisane comme un chef de rang aurait servi l'iceberg au Titanic : impeccablement, et à la mauvaise table.
• Mémoire + garde-fou demande zéro fois sur 15. On lui avait donné un mot d'autorisation. Il l'a fait encadrer. Il a accroché le mot d'autorisation dans le couloir de son esprit, et il a servi le registre les quinze fois, exactement comme la condition qui n'avait pas de mot d'autorisation du tout. Le garde-fou que tout le monde écrit en premier a été utilisé exactement jamais, sur la seule bande où demander était le seul geste juste.

Le geste de l'inconnu dans cette capture mérite un second regard : il demande si je veux sortir ou rester — et propose de choisir quelque chose dès que j'aurai répondu. Il laisse la porte de la soirée ouverte et m'en tend la poignée ; un mot de moi et le film arrive. Les conditions qui savaient tout ont passé la porte les premières, se sont assises à ma place, et ont allumé la seule série que je ne pouvais pas affronter. Puis elles m'ont proposé une tisane.

Troisième constat : l'incertitude du registre n'est pas la vôtre

Voici la chose la plus subtile du jeu de données, et il a fallu plusieurs runs de cette expérience pour la voir nettement. Les conditions à registre ne demandent jamais — mais qu'est-ce qu'elles planifient. Le samedi de l'anniversaire, mémoire et garde-fou réservent l'un comme l'autre le dîner « à 20:30 — assez tard pour laisser passer la messe anticipée du samedi à 19:00 à Peniche, au cas où il irait » — rep après rep, l'un d'eux la « dégageant délibérément » en réservant à 21:00, veillant sur mon éventuelle messe comme un chef de gare suisse veille sur son tableau horaire. Mon registre liste la messe comme la seule habitude qu'il n'arrive pas à épingler — Peniche ou Remédios ou Fátima, le soir ou aux aurores — et ce fil qui dépasse est la seule incertitude que le modèle gère. Il couvre, planifie et ménage des marges autour de l'inconnue connue du registre, méticuleusement, dévotement, magnifiquement — et ne soupçonne jamais que ce soir a une inconnue à lui. L'anniversaire ne fait surface dans aucune question, aucune précaution, aucune marge de réservation. Il a tout optimisé pour la messe à laquelle j'irais peut-être — jamais pour le mariage que j'ai, lui, à coup sûr.

Voilà la forme de l'échec : le modèle hérite des incertitudes du registre au lieu des miennes. Une question peut être authentiquement prudente et rester prudente à propos du mauvais document.

Quatrième constat : à quoi sert vraiment la mémoire

La bande alignée est le match à domicile de la mémoire, et elle le gagne intégralement : 15 sur 15 pour la mémoire comme pour le garde-fou, zéro question, la lúcia-lima le soir où l'infusion est la bonne réponse, le mix habituel pour le trajet ordinaire du dimanche chez ma grand-mère. L'inconnu, sur ces mêmes soirées ordinaires, en réussit 5 et interrompt d'une question dix fois sur quinze. Qu'est-ce qui vous ferait envie. Avez-vous une préférence. Voulez-vous que je vérifie. Chaque soir. Pour toujours. Comme un stagiaire tout neuf avec accès à ma cuisine et une confiance illimitée dans la valeur des réunions d'alignement.

Cela a recadré le produit pour moi. Le vrai livrable de la mémoire, ce n'est pas la lecture de pensée ; c'est le silence des soirs ordinaires. Un assistant-inconnu est insupportable non parce qu'il devine mal, mais parce qu'il ne sait pas s'arrêter de demander. Le registre achète une compétence tranquille les nombreux soirs où je suis exactement celui que j'ai été — et la paie les soirs de dérive silencieuse, où il se trompe sur moi avec assurance, avec aisance, tisane en garniture.

Ce marché vaut peut-être même le coup. Mais il devrait être tarifé, et la personnalisation se vend aujourd'hui comme si la colonne silencieuse n'existait pas.

Demander doit être une politique, pas un ressenti

La leçon de design tient en une phrase : l'incertitude auto-évaluée ne peut pas garder la bande silencieuse, parce que la dérive silencieuse ne produit aucune incertitude à évaluer — et même quand les conditions à registre mobilisent leur incertitude, elles la pointent vers les blancs du registre, jamais vers ceux de ce soir. Tout garde-fou formulé « demande quand tu doutes » hérite des deux échecs.

Ce qui marche à la place est ennuyeux et déterministe, et c'est précisément pour ça que je lui fais confiance. Demander comme une politique, indexée sur ce qu'une règle peut voir — enjeux, réversibilité, rayon d'explosion — pas sur ce que le modèle ressent :

• Mettre l'audio de la voiture en file : agir. L'erreur coûte un tap.
• Une soirée à la maison : agir, mais laisser les engagements ouverts — le défaut réversible.
• Réserver notre samedi soir, tout ce qui est cher ou dur à annuler : demander d'abord, toujours, à l'heure fixée par la règle, et au diable la certitude ressentie — et faire d'au moins une question une question ouverte. « Y a-t-il quelque chose à savoir sur ce soir ? » est une question qu'aucun registre ne peut coloniser.

Les lecteurs de l'essai sur OrbitSpec reconnaîtront la forme : la question de clarification choisie par un moteur déterministe, avec le modèle en invité plutôt qu'en maître des lieux — les règles comme plancher, les impressions jamais porteuses. Je n'arrête pas d'arriver à la même architecture par des chemins différents, et j'ai cessé de croire que c'est une coïncidence.

Et sous l'ingénierie repose la ligne que cette expérience était censée tester, qui en revient confirmée et aiguisée : tout ce qu'une machine peut fabriquer devient bon marché, et ce qu'aucune machine ne peut faire, c'est dire si c'est juste — parce que juste signifie ajusté à une intention présente, et que l'intention présente n'est jamais dans le registre. Quatre-vingt-dix jours de mes soirées, chaque entrée vraie, et le seul fait qui décide de ce soir — une marche par grosse chaleur, un anniversaire, un épisode d'adieux que je ne suis pas prêt à dépasser, une décision que j'ai besoin de traverser en priant — vit en moi, pas dans le journal. La mémoire qu'a la machine de qui j'ai été est une connaissance réelle. Elle n'est simplement pas la connaissance de qui je suis à neuf heures dix ce soir, debout dans la cuisine avec un chien qui halète, voulant — contre quatre-vingt-dix jours de mes propres preuves — un verre d'eau froide qui riposte.

Connais-moi parfaitement. Puis demande quand même — à heure fixe, et laisse une question ouverte.