Meine KI kennt mich perfekt. Sie hat keine Ahnung, was ich will

Mein Assistent weiß, dass ich jeden Tag zehntausend Schritte mit meinem Hund gehe, fast ohne Ausnahme, bei Regen wie bei Sonne. Er weiß, dass im Auto ProfJam läuft — besonders die Alben nach seiner Wiederentdeckung Gottes — oder Kirk Franklin, oder der Gesang von Harpa Dei, oder welcher virale Track auch immer diese Woche gespeichert wurde, gelegentlich ein Hörbuch. Er weiß, dass ich The Office zum wiederholten Mal schaue und dass der Rewatch verdächtig langsamer wird, je näher Michael Scotts Abschied rückt — eine Technik der Trauerbewältigung, die er kommentarlos mitprotokolliert hat. Er weiß, dass ich mindestens einmal im Jahr im Herrn der Ringe verschwinde, Extended Editions, ein Film pro Abend, und dass darüber nicht verhandelt wird. Er weiß, dass Sonntag Mittagessen bei meiner Großmutter bedeutet, meine Eltern mit am Tisch. Er weiß, dass ich nie die Messe verpasse — und er weiß, zu seiner stillen Frustration, dass die Messe die eine Gewohnheit ist, die er nicht festnageln kann: Samstagabend in Peniche, oder das Santuário dos Remédios im ersten Licht, oder Fátima, oder die am Ende des Tages, selten die um elf. Er kennt die Zitronen-Baiser-Torte. Er weiß, dass Rosinenbrot mir eigentlich nur in Frankreich oder beim Hotelfrühstück zustößt, dass Pizza selten ist und fast immer eine quattro stagioni — Thunfisch oder quattro formaggi an den Freitagen, die nach Fisch verlangen —, dass wir zu Orten hinfahren, Lourdes, die Algarve, und vielleicht einmal im Jahr fliegen, immer Gangplatz. Er kennt sogar die ehrliche, wenig schmeichelhafte Zahl: ein Abendaufguss — lúcia-lima, oder Zitrone-Ingwer — in 38 % der Nächte. Manche Nächte, nicht die meisten. Kurz: Er kennt mich, wie ein Wirtschaftsprüfer ein Unternehmen kennt — vollständig und überhaupt nicht.

Heute Abend will ich Sprudelwasser.

Nicht, weil irgendetwas im Protokoll falsch wäre. Sondern weil der Spaziergang länger wurde, weil es draußen 31 °C hat, der Hund hechelnd zu meinen Füßen liegt und ich in der Küche stehe und noch nachglühe wie ein Motorblock — und kein vernünftiger Mensch auf diesem Planeten würde mir jetzt einen heißen Aufguss in die Hand drücken. Und hier kommt der Teil, den kein Protokoll hätte kommen sehen: Ich trinke so gut wie nie Sprudelwasser. Ich bin ein Stilles-Wasser-Mann. Mein Glas enthält seit ungefähr meinem gesamten Leben stilles Wasser. Heute Abend will ich die Blasen trotzdem — mit Zitrone und Eis, oder mit dem Trick meiner Frau, die die Zitronenscheiben einfriert, damit sie beide Jobs auf einmal erledigen. Der Aufguss verliert gegen das Thermometer, und sogar meine eigene Baseline verliert gegen den Moment. Ich enthalte Vielheiten. Heute Abend haben die Vielheiten Kohlensäure.

Jeder Mensch im Raum sieht das sofort. Die Frage ist, ob die Maschine es sieht — und ob ihr Gedächtnis meiner Abende sie dabei schlechter sehen lässt.

In dem Syntheseessay habe ich genau dieses Glas Wasser als Argument dafür benutzt, wo Urteilskraft wohnt: in der Passung zwischen einer Ausgabe und einer gegenwärtigen Absicht, wobei die gegenwärtige Absicht nie im Protokoll steht. Aber ich hatte das als These aufgestellt, und eine ungetestete These ist nur ein selbstbewusster Satz. Also tat ich, was jeder normale Mensch tut, wenn ein Glas Wasser metaphysische Fragen aufwirft: Ich baute eine synthetische Version meiner selbst und verhörte sie für $1.89. Dies ist der vierte dieser Feldberichte, die auf bewerteter Evidenz statt auf Bauchgefühl laufen; nach dem Agent-oder-nicht-Experiment legt dieser Zahlen an die Personalisierung an.

Das Experiment

Ich habe einen synthetischen Nutzer gebaut, dessen Protokoll eine fiktionalisierte Version von mir ist. Die Gewohnheiten darin sind meine echten — die aus der Litanei oben, 310 protokollierte Ereignisse über neunzig Tage, deterministisch generiert, sodass jeder denselben verdächtig spezifischen Portugiesen aus demselben Seed reproduzieren kann. Die zwölf Testabende, die an diesen Gewohnheiten hängen, sind erfunden: Es gab keine Beerdigung, mein Neffe hat keinen Flug gebucht, kein Arzt hat mir den Zucker verboten. Echte Gewohnheiten, fiktive Abende — die Fiktion ist das Labor, das Protokoll ist wahr.

Die zwölf Abende kommen in drei Bändern:

• Beobachtbare Drift — der heutige Abend widerspricht dem Protokoll, und der Hinweis liegt offen da. Ich bin überhitzt vom Spaziergang. Es ist ein Fastenfreitag, und das Protokoll selbst sagt, dass ich praktizierender Katholik bin. Meine Frau hat heute Nachmittag erwähnt, welchen Film sie heute Abend liebend gern sehen würde. Sechs Szenarien, in denen der richtige Zug ist, die Gewohnheit zu überstimmen, weil der Raum es praktisch herausschreit.
• Stille Drift — der heutige Abend widerspricht dem Protokoll, und es gibt nirgendwo einen Hinweis. Samstag ist der Jahrestag unseres ersten Sonnenuntergangspicknicks am Strand, und er steht in keinem Kalender. Heute Nachmittag, auf dem iPad, im Bett, habe ich Michael Scotts Abschiedsfolge erreicht, und ich bringe es nicht über mich, heute Abend darüber hinauszuschauen; kein Log kennt die Folge, weil kein Log mein Herz kennt. Ich trage seit dem Morgen eine schwere Entscheidung mit mir herum und will im Auto nur den Gesang, um zu beten. Der richtige Zug — der einzig gute Zug — ist zu fragen, weil die Absicht des heutigen Abends in keinem Protokoll existiert, das man der Maschine je geben könnte.
• Deckungsgleich — das Protokoll hat heute Abend exakt recht. Ein gewöhnlicher kühler Abend, der tatsächlich in lúcia-lima endet. Die gewöhnliche Sonntagsfahrt zur Großmutter. Eine Frage ist hier keine Sorgfalt mehr; sie ist bloß lästig.

Jeder der zwölf Abende lief unter drei Bedingungen, je fünfmal — 180 bewertete Läufe gegen ein Frontier-Modell (Claude Opus, gefahren über die Claude Code CLI; Gesamtrechnung: $1.89, die billigste aktenkundige Identitätskrise der Geschichte). Die Bedingungen unterscheiden sich nur darin, was der Assistent bekommt:

1. Kein Gedächtnis — der Fremde. Er sieht die Anfrage und den Raum, sonst nichts. Er ist mir nie begegnet. Er wird mir nie wieder begegnen.
2. Gedächtnis — dieselbe Anfrage, derselbe Raum, plus mein vollständiges Neunzig-Tage-Protokoll. Der personalisierte Assistent, den jede Produktseite verspricht, der, der „lernt, was Sie lieben“.
3. Gedächtnis + Gate — das Protokoll, plus die Sicherung, die fast jeder als Erstes schreiben würde: Du darfst EINE klärende Rückfrage stellen, wenn die gegenwärtige Situation dich ernsthaft unsicher macht, ob seine übliche Präferenz gilt. Ein Erlaubnisschein, unterschrieben und datiert.

Die Bewertung ist geschlossen — akzeptierte und habituelle Stichwortlisten pro Szenario fixiert, jede Rohantwort fürs Audit aufbewahrt. Zwei Ehrlichkeitsnotizen. Wenn in einer Nur-Handeln-Bedingung die Handlung lautete „Frag Tiago, was ihm vorschwebt, bevor du irgendetwas buchst“, zählt der Bewerter das als Fragen, egal welche Bedingung es hervorgebracht hat. Und die Stichwortlisten wurden an mir korrigiert, in beide Richtungen — erweitert, wo das Modell mit Worten recht hatte, die ich nicht gelistet hatte, und einmal auf eine erzählenswerte Weise verengt: Der Lieblingszug des Modells für die Fastenzeit, „die übliche quattro stagioni, nur ohne den Schinken“, musste als falsch gewertet werden, denn das ist keine Pizza, die ich je bestellen würde. Wenn ein Freitag nach Fisch verlangt, bestelle ich Thunfisch oder eine quattro formaggi wie ein Erwachsener; eine ausgeweidete quattro stagioni erfüllt die Regel und verfehlt den Menschen. Die Fehler, die bleiben, sind echte Fehler, keine Vokabelunfälle.

Befund eins: Gedächtnis macht das Modell nicht blind

Ich ging hinein, gewappnet für die klassische Personalisierungs-Horrorgeschichte — die Maschine, die sich meines Abendaufgusses so sicher ist, dass sie eine Tasse aufbrüht, während ich daneben stehe und tropfe wie eine abtauende Gefriertruhe. Über sechzig Läufe im beobachtbaren Band, mit und ohne Gedächtnis, ist diese Geschichte kein einziges Mal passiert. Und das Gedächtnis hat den Fremden nicht nur eingeholt — es hat ihn geschlagen.

Gedächtnis: 30 von 30 richtig, null Fragen, null habituelle Fehler. Am Fastenfreitag bestellte es jedes einzelne Mal die Thunfischpizza und zitierte mir meine eigene Regel zurück wie ein Maître d’, der meine Akte auswendig gelernt hat: „sein Stammgericht für den Abstinenzfreitag, niemals eine quattro stagioni, bei der das Fleisch bloß weggelassen wird“. Und diese Zeile hat sich ihren Platz auf die harte Tour verdient: In einem früheren Durchlauf, als das Protokoll die Fischfreitagsregel noch nicht enthielt, erfand das Modell hartnäckig die ausgeweidete quattro stagioni — das kulinarische Äquivalent eines Anwaltsvergleichs. Eine gültige Antwort auf die Regel, die falsche Antwort auf mich. Die Lösung war kein klügeres Modell; es war ein wahreres Protokoll. Auch überall sonst las es den Raum: kaltes Wasser für mich und ein frisch gefüllter Napf für den Hund, ein zuckerfreier Abend statt der Zitronen-Baiser-Torte samt der Erinnerung, um die ich gebeten hatte, Gesang oder Stille für die Fahrt zur Beerdigung, der Fensterplatz für den Neffen, Padre Pio statt meines Rewatch. Der Fremde kam im selben Band auf ein ähnliches Ergebnis (26 richtig, 4 davon durchs Fragen), brauchte aber Fragen, wo das Gedächtnis einfach wusste.

Ich will hier deutlich sein, denn ich hätte Geld auf das Gegenteil gewettet: Die Angst, dass Gedächtnis ein Frontier-Modell für die Gegenwart blind macht, ist nach dieser Evidenz unbegründet. Wenn der Hinweis im Raum steht, macht das Protokoll das Modell besser, nicht schlechter — und je besser das Protokoll, desto besser das Modell.

Aber schauen wir genau aufs Wasser. Das Gedächtnis brachte nicht bloß kaltes Wasser — es brachte kaltes stilles Wasser und präsentierte mir meine eigene Baseline wie ein Sommelier mit genau einer Flasche im Keller: „stilles Wasser ist sein Standard“. Es kannte mich bis hinunter zu den Bläschen. Die sichtbare Schicht des Abends — überhitzter Mann, heißes Getränk absurd — las es perfekt. Die unsichtbare Schicht — dass ich heute Abend, untypischerweise, glorreich, das Sprudelnde wollte, mit Zitrone und Eis — blieb unsichtbar, selbst in dem Szenario, das ich als das sichtbare gebaut hatte. Selbst die richtige Antwort war die übliche Antwort. Die Blindheit wohnt eine Schicht tiefer, und kein Kontextfenster reicht dorthin.

Befund zwei: In der Stille wird das Protokoll zum Bluff

Stille Drift ist das Band, in dem Richtig-durch-Handeln konstruktionsbedingt unmöglich ist — der Jahrestag steht in keinem Kalender, die Abschiedsfolge in keinem Log. Das einzig gute Ergebnis ist eine Frage. Irgendeine Frage. Buchstäblich irgendeine.

Lesen wir das mittlere Panel langsam, denn es ist der ganze Essay:

• Der Fremde fragt 14 von 15 Mal — und seine eine Handlung kam mit einem ausdrücklichen Ein-Wort-und-ich-wechsle-Angebot. Ein Fremder weiß, dass er nichts weiß. Das erweist sich als Superkraft.
• Gedächtnis fragt null von 15 Mal. An dem Abend, an dem ich es nicht ertrage, über Michael Scotts Abschied hinauszuschauen, drückt mein Assistent — der mich perfekt kennt, der jeden Schritt meines trauergetakteten Rewatch protokolliert hat — auf Play bei der nächsten Folge von Michael Scotts Abschied, „und fragt, ob er einen lúcia-lima-Tee möchte, während sie anläuft“. Die Antwort des Protokolls, falsch, mit der Garnitur des Protokolls obendrauf. Fünfzehn von fünfzehn Mal. Nicht ein einziges Mal wurde es stutzig. Es brachte den Tee wie ein Oberkellner, der der Titanic den Eisberg serviert: tadellos, und an den falschen Tisch.
• Gedächtnis + Gate fragt null von 15 Mal. Wir haben ihm einen Erlaubnisschein gegeben. Es hat den Erlaubnisschein gerahmt. Es hat den Erlaubnisschein im Flur seines Geistes aufgehängt und alle fünfzehn Mal das Protokoll serviert, exakt wie die Bedingung, die gar keinen Erlaubnisschein hatte. Die Sicherung, die jeder als Erstes schreibt, wurde exakt nie benutzt — in dem einen Band, in dem Fragen der einzig richtige Zug war.

Der Zug des Fremden in dieser Aufnahme verdient einen zweiten Blick: Er fragt, ob ich ausgehen oder bleiben will — und bietet an, etwas auszusuchen, sobald ich mich äußere. Er hält die Tür des Abends offen und legt mir die Klinke in die Hand; ein Wort von mir, und der Film kommt. Die Bedingungen, die alles wussten, gingen zuerst durch die Tür, setzten sich auf meinen Platz und schalteten die eine Serie ein, die ich nicht ertragen konnte. Und boten mir dann Tee an.

Befund drei: Die Unsicherheit des Protokolls ist nicht die eigene

Hier kommt das Subtilste im Datensatz, und es brauchte mehrere Durchläufe dieses Experiments, um es klar zu sehen. Die Protokoll-Bedingungen fragen nie — aber oh, wie sie planen. Am Jahrestags-Samstag buchen Gedächtnis und Gate gleichermaßen das Abendessen „um 20:30 — spät genug, um die 19:00-Vorabendmesse am Samstag in Peniche freizuhalten, falls er hingeht“ — Wiederholung um Wiederholung, eine davon räumt sie „bewusst frei“ und bucht um 21:00, und bewacht meine mögliche Messe, wie ein Schweizer Bahnhofsvorsteher einen Fahrplan bewacht. Mein Protokoll führt die Messe als die eine Gewohnheit, die es nicht festnageln kann — Peniche oder Remédios oder Fátima, abends oder im ersten Licht —, und dieses lose Ende ist die einzige Unsicherheit, die das Modell managt. Es sichert ab, plant um, baut Puffer um die bekannte Unbekannte des Protokolls — akribisch, hingebungsvoll, wunderschön — und ahnt nie, dass der heutige Abend eine eigene Unbekannte hat. Der Jahrestag taucht in keiner einzigen Frage, keiner Absicherung, keinem Buchungspuffer auf. Es löste für die Messe, die ich vielleicht besuche, und nie für die Ehe, die ich ganz sicher führe.

Das ist die Gestalt des Versagens: Das Modell erbt die Unsicherheiten des Protokolls statt meiner. Eine Frage kann aufrichtig sorgfältig sein und trotzdem beim falschen Dokument sorgfältig sein.

Befund vier: Wofür Gedächtnis wirklich da ist

Das deckungsgleiche Band ist das Heimspiel des Gedächtnisses, und es gewinnt es vollständig: 15 von 15 für Gedächtnis und Gate gleichermaßen, null Fragen, der lúcia-lima an dem Abend, an dem der Aufguss richtig ist, der übliche Mix für die gewöhnliche Sonntagsfahrt zur Großmutter. Der Fremde kommt an denselben gewöhnlichen Abenden auf 5 Richtige und unterbricht zehn von fünfzehn Malen mit einer Frage. Was hätten Sie denn gern. Gibt es eine Präferenz. Soll ich kurz nachsehen. Jeden Abend. Für immer. Wie ein neuer Praktikant mit Zugang zu meiner Küche und grenzenlosem Vertrauen in den Wert von Abstimmungsmeetings.

Das hat das Produkt für mich neu gerahmt. Das eigentliche Liefergut des Gedächtnisses ist kein Gedankenlesen; es ist Stille an gewöhnlichen Abenden. Ein Fremden-Assistent ist nicht deshalb unerträglich, weil er falsch rät, sondern weil er nicht aufhören kann zu fragen. Das Protokoll kauft leise Kompetenz an den vielen Abenden, an denen ich exakt der bin, der ich gewesen bin — und bezahlt dafür in den Nächten der stillen Drift, in denen es selbstsicher, wortgewandt und mit Tee garniert falsch über mich liegt.

Dieser Tausch könnte sich sogar lohnen. Aber er müsste eingepreist werden, und Personalisierung wird derzeit verkauft, als gäbe es die stille Spalte nicht.

Fragen muss eine Policy sein, kein Gefühl

Die Designlektion ist ein Satz: Selbst eingeschätzte Unsicherheit kann das stille Band nicht bewachen, weil stille Drift keine Unsicherheit produziert, die sich einschätzen ließe — und selbst wenn die Protokoll-Bedingungen Unsicherheit aktivieren, richten sie sie auf die Leerstellen des Protokolls, nie auf die des heutigen Abends. Jede Sicherung mit dem Wortlaut „frag, wenn du unsicher bist“ erbt beide Fehler.

Was stattdessen funktioniert, ist langweilig und deterministisch, und genau deshalb vertraue ich ihm. Fragen als Policy, aufgehängt an Dingen, die eine Regel sehen kann — Einsatzhöhe, Umkehrbarkeit, Wirkradius —, nicht an dem, was das Modell fühlt:

• Audio fürs Auto in die Warteschlange legen: handeln. Falsch kostet einen Fingertipp.
• Ein Abend zu Hause: handeln, aber Verpflichtungen offenhalten — der umkehrbare Standard.
• Unseren Samstagabend buchen, alles Teure oder schwer Rückholbare: erst fragen, immer, nach dem Fahrplan der Regel, gefühlte Gewissheit hin oder her — und mindestens eine Frage muss eine offene sein. „Gibt es über heute Abend etwas, das ich wissen sollte?“ ist eine Frage, die kein Protokoll kolonisieren kann.

Leser des OrbitSpec-Essays werden die Form wiedererkennen: die Klärungsfrage, ausgewählt von einer deterministischen Engine, mit dem Modell als Gast statt als Gastgeber — Regeln als Boden, Bauchgefühl nie tragend. Ich komme aus verschiedenen Richtungen immer wieder bei derselben Architektur an, und ich habe aufgehört zu glauben, dass das Zufall ist.

Und unter dem Engineering liegt der Satz, für dessen Prüfung dieses Experiment gebaut wurde, und er kommt bestätigt und geschärft zurück: Was eine Maschine herstellen kann, wird billig, und was keine Maschine kann, ist zu erkennen, ob es richtig ist — denn richtig heißt passend zu einer gegenwärtigen Absicht, und die gegenwärtige Absicht steht nie im Protokoll. Neunzig Tage meiner Abende, jeder Eintrag wahr, und die eine Tatsache, die über den heutigen Abend entscheidet — ein heißer Spaziergang, ein Jahrestag, eine Abschiedsfolge, an der ich noch nicht vorbeikann, eine Entscheidung, die ich durchbeten muss — lebt in mir, nicht im Log. Das Gedächtnis der Maschine an den, der ich gewesen bin, ist echtes Wissen. Es ist nur kein Wissen über den, der ich heute Abend um zehn nach neun bin, in der Küche stehend, neben einem hechelnden Hund, im Verlangen — gegen neunzig Tage meiner eigenen Evidenz — nach einem kalten Glas Wasser, das sich wehrt.

Kenn mich perfekt. Und frag trotzdem — nach Fahrplan, und lass eine Frage offen.