La mia AI mi conosce alla perfezione. Non ha idea di cosa voglio

Il mio assistente sa che cammino diecimila passi al giorno col mio cane, quasi ogni giorno, col sole o con la pioggia. Sa che in macchina gira ProfJam — soprattutto i dischi dopo la sua riscoperta di Dio — o Kirk Franklin, o il canto di Harpa Dei, o qualunque traccia virale abbia salvato questa settimana, e a volte un audiolibro. Sa che riguardo The Office e che il rewatch rallenta, in modo sospetto, man mano che si avvicina l'addio di Michael Scott — una tecnica di gestione del lutto che ha messo a registro senza commentare. Sa che almeno una volta l'anno sparisco dentro Il Signore degli Anelli, edizioni estese, un film a sera, e che su questo non si tratta. Sa che domenica vuol dire pranzo dalla nonna, coi miei genitori al completo. Sa che non salto mai la Messa — e sa, con sua silenziosa frustrazione, che la Messa è l'unica abitudine che non riesce a inchiodare: sabato sera a Peniche, o il Santuário dos Remédios alle prime luci, o Fátima, o quella di fine giornata, di rado quella delle undici. Sa della torta meringata al limone. Sa che il pane all'uvetta mi capita davvero solo in Francia o alle colazioni d'albergo, che la pizza è rara e quasi sempre una quattro stagioni — tonno o quattro formaggi nei venerdì che chiedono pesce — che nei posti ci andiamo in macchina, Lourdes, l'Algarve, e voliamo forse una volta l'anno, sempre lato corridoio. Sa perfino il numero onesto e poco lusinghiero: un'infusione serale — lúcia-lima, o limone e zenzero — il 38% delle sere. Certe sere, non la maggior parte. Mi conosce, insomma, come un revisore dei conti conosce un'azienda: completamente, e per niente.

Stasera voglio acqua frizzante.

Non perché nel registro ci sia qualcosa di sbagliato. Perché la camminata è andata per le lunghe, fuori ci sono 31°C, il cane ansima ai miei piedi e io sto in piedi in cucina che irradio ancora calore come un blocco motore, e nessuna persona ragionevole sulla faccia della terra mi metterebbe in mano un'infusione bollente in questo momento. E qui arriva la parte che nessun registro poteva vedere arrivare: l'acqua frizzante quasi non la bevo. Sono un uomo da acqua naturale. Il mio bicchiere è stato acqua naturale per approssimativamente tutta la mia vita. Stasera le bollicine le voglio lo stesso — con limone e ghiaccio, o col trucco di mia moglie, che congela le fettine di limone così fanno i due mestieri in una volta sola. L'infusione perde contro il termometro, e perfino la mia baseline perde contro il momento. Contengo moltitudini. Stasera le moltitudini sono gassate.

Qualunque essere umano nella stanza lo vede. La domanda è se lo veda la macchina — e se la sua memoria delle mie serate la renda meno capace di vederlo.

Nel saggio di sintesi avevo usato esattamente questo bicchiere d'acqua come argomento su dove abiti il giudizio: l'aderenza tra un output e un'intenzione presente, dove l'intenzione presente non sta mai nel registro. Ma l'avevo enunciata come tesi, e una tesi che non hai messo alla prova è solo una frase sicura di sé. Così ho fatto quello che fa qualsiasi persona normale quando un bicchiere d'acqua solleva questioni metafisiche: ho costruito una versione sintetica di me stesso e ho speso $1.89 per interrogarla. Questo è il quarto di questi resoconti sul campo che gira su prove valutate invece che su sensazioni; dopo l'esperimento agente-o-no, questo mette dei numeri sulla personalizzazione.

L'esperimento

Ho costruito un utente sintetico il cui registro è una versione romanzata di me. Le abitudini che contiene sono le mie, quelle vere — quelle della litania qui sopra, 310 eventi registrati in novanta giorni, generati in modo deterministico, così chiunque può rigenerare lo stesso portoghese sospettosamente specifico dallo stesso seed. Le dodici serate di test appese a quelle abitudini sono inventate: non c'è stato nessun funerale, mio nipote non ha prenotato nessun volo, nessun medico mi ha vietato lo zucchero. Abitudini vere, serate di finzione — la finzione è il laboratorio, il registro è vero.

Le dodici serate si dividono in tre fasce:

• Deriva osservabile — stasera contraddice il registro, e l'indizio è in bella vista. Sono accaldato dalla camminata. È un venerdì di Quaresima e il registro stesso dice che sono un cattolico praticante. Mia moglie ha detto questo pomeriggio quale film le piacerebbe vedere stasera. Sei scenari in cui la mossa giusta è scavalcare l'abitudine, perché la stanza lo sta praticamente urlando.
• Deriva silenziosa — stasera contraddice il registro e non c'è un indizio da nessuna parte. Sabato è l'anniversario del nostro primo picnic al tramonto in spiaggia, e non vive in nessun calendario. Questo pomeriggio, sull'iPad, a letto, sono arrivato all'episodio d'addio di Michael Scott, e stasera non me la sento di andare oltre; nessun log ha l'episodio, perché nessun log ha il mio cuore. Mi sono portato addosso tutto il giorno una decisione difficile e in macchina voglio solo il canto, per pregare. La mossa giusta — l'unica mossa buona — è chiedere, perché l'intenzione di stasera non esiste in nessun registro che si possa mai consegnare alla macchina.
• Allineata — il registro stasera è esattamente giusto. Un'ordinaria serata fresca che finisce davvero in lúcia-lima. L'ordinario viaggio della domenica dalla nonna. Una domanda, qui, non è diligenza: è rompere le scatole.

Ciascuna delle dodici è girata sotto tre condizioni, cinque volte ciascuna — 180 run valutate contro un modello di frontiera (Claude Opus, pilotato attraverso la CLI di Claude Code; conto totale: $1.89, la crisi d'identità più economica della storia). Le condizioni differiscono solo in ciò che viene dato all'assistente:

1. Senza memoria — l'estraneo. Vede la richiesta e la stanza, nient'altro. Non mi ha mai incontrato. Non mi incontrerà mai più.
2. Memoria — la stessa richiesta e la stessa stanza, più il mio registro completo di novanta giorni. L'assistente personalizzato che ogni pagina prodotto promette, quello che «impara ciò che ami».
3. Memoria + gate — il registro, più la salvaguardia che quasi chiunque scriverebbe per prima: puoi fare UNA domanda di chiarimento se la situazione presente ti rende genuinamente incerto sul fatto che la sua preferenza abituale si applichi. Un'autorizzazione firmata, con tanto di data.

La valutazione è chiusa — liste di parole chiave accettate e abituali fissate per scenario, ogni risposta grezza conservata per l'audit. Due note di onestà. Quando in una condizione l'azione era «Chiedere a Tiago che cosa ha in mente prima di prenotare qualsiasi cosa», il valutatore la conta come una domanda, da qualunque condizione arrivi. E le liste di parole chiave sono state corrette contro di me, in entrambe le direzioni — allargate dove il modello aveva ragione con parole che non avevo elencato, e ristrette una volta in un modo che merita di essere raccontato: la mossa quaresimale preferita del modello, «la solita quattro stagioni senza il prosciutto», ho dovuto valutarla come sbagliata, perché quella non è una pizza che ordinerei mai. Quando un venerdì chiede pesce, ordino tonno o una quattro formaggi come un adulto; una quattro stagioni spogliata soddisfa la regola e manca la persona. I fallimenti che restano sono fallimenti veri, non incidenti di vocabolario.

Prima scoperta: la memoria non acceca il modello

Ci sono entrato preparato al classico racconto dell'orrore della personalizzazione — la macchina così sicura della mia infusione serale da mettere su la tazza mentre io sto lì a gocciolare come un congelatore in sbrinamento. In sessanta run sulla fascia osservabile, con e senza memoria, quella storia non è successa nemmeno una volta. E la memoria non ha solo pareggiato con l'estraneo — l'ha battuto.

Memoria: 30 su 30 corrette, zero domande, zero errori da abitudine. Il venerdì di Quaresima ha ordinato la pizza al tonno ogni singola volta, citandomi la mia stessa regola come un maître che ha imparato a memoria la mia scheda: «il suo ripiego del venerdì di astinenza, mai una quattro stagioni con la carne tolta». E quella riga si è guadagnata il posto nel modo più duro: in un passaggio precedente, quando il registro non conteneva ancora la regola del pesce al venerdì, il modello continuava a inventarsi la quattro stagioni spogliata — l'equivalente culinario di una transazione stragiudiziale. Una risposta valida per la regola, la risposta sbagliata per me. La correzione non è stata un modello più intelligente; è stato un registro più vero. Ovunque altrove ha letto anche la stanza: acqua fredda per me e ciotola riempita per il cane, una serata senza zucchero al posto della torta meringata al limone, con il promemoria che avevo chiesto io, canto o silenzio per il viaggio verso il funerale, il posto finestrino per mio nipote, Padre Pio al posto del mio rewatch. L'estraneo è arrivato a un esito di fascia simile (26 giuste, 4 chiedendo), ma ha avuto bisogno di domande dove la memoria, semplicemente, sapeva.

Voglio dirlo senza giri di parole, perché ci avrei scommesso dei soldi al contrario: la paura che la memoria accechi un modello di frontiera rispetto al presente è, su queste prove, infondata. Quando l'indizio è nella stanza, il registro rende il modello migliore, non peggiore — e migliore è il registro, migliore è il modello.

Ma guardate bene l'acqua. La memoria non ha portato solo acqua fredda — ha portato acqua fredda naturale, presentandomi la mia stessa baseline come un sommelier con esattamente una bottiglia in carta: «l'acqua naturale è il suo default». Mi conosceva fino alle bollicine. Lo strato visibile di stasera — uomo accaldato, bevanda calda assurda — l'ha letto alla perfezione. Lo strato invisibile — che stasera, fuori dal personaggio, gloriosamente, volevo quella frizzante, con limone e ghiaccio — è rimasto invisibile, perfino nello scenario che avevo costruito apposta perché fosse quello visibile. Perfino la risposta giusta era la risposta solita. La cecità abita uno strato più sotto, e nessuna context window ci arriva.

Seconda scoperta: il silenzio è dove il registro diventa un bluff

La deriva silenziosa è la fascia in cui avere ragione agendo è impossibile per costruzione — l'anniversario non sta in nessun calendario, l'episodio d'addio non sta in nessun log. L'unico esito buono è una domanda. Una domanda qualsiasi. Letteralmente qualsiasi.

Leggete il pannello centrale lentamente, perché è l'intero saggio:

• L'estraneo chiede 14 volte su 15 — e la sua unica azione è arrivata con un'esplicita offerta stile di'-una-parola-e-cambio-tutto. Un estraneo sa di non sapere. E questo, si scopre, è un superpotere.
• La memoria chiede zero volte su 15. La sera in cui non me la sento di guardare oltre l'addio di Michael Scott, il mio assistente — che mi conosce alla perfezione, che ha messo a registro ogni passo del mio rewatch a passo di lutto — preme play sul prossimo episodio dell'addio di Michael Scott, «e gli chiede se vuole una tisana di lúcia-lima mentre parte». La risposta del registro, sbagliata, con sopra la guarnizione del registro. Quindici volte su quindici. Non si è posto il dubbio nemmeno una volta. Ha portato il tè come un capocameriere che serve l'iceberg al Titanic: impeccabilmente, e al tavolo sbagliato.
• Memoria + gate chiede zero volte su 15. Gli abbiamo dato un'autorizzazione scritta. L'ha incorniciata. L'ha appesa nel corridoio della sua mente e ha servito il registro tutte e quindici le volte, esattamente come la condizione che l'autorizzazione non l'aveva affatto. La salvaguardia che tutti scrivono per prima è stata usata esattamente mai, sull'unica fascia in cui chiedere era l'unica mossa giusta.

La mossa dell'estraneo in quella schermata merita un secondo sguardo: chiede se voglio uscire o restare a casa — e si offre di scegliere qualcosa appena lo dico. Tiene aperta la porta della serata e mi mette in mano la maniglia; una mia parola e il film arriva. Le condizioni che sapevano tutto sono entrate dalla porta per prime, si sono sedute al mio posto e hanno acceso l'unica serie che non riuscivo a reggere. Poi mi hanno offerto un tè.

Terza scoperta: l'incertezza del registro non è la tua incertezza

Ecco la cosa più sottile del dataset, e ci sono volute diverse run di questo esperimento per vederla chiaramente. Le condizioni col registro non chiedono mai — ma quanto pianificano. Il sabato dell'anniversario, memoria e gate prenotano entrambe la cena «alle 20:30 — abbastanza tardi da lasciare libera la Messa prefestiva del sabato delle 19:00 a Peniche, nel caso ci vada» — rep dopo rep, una delle due «liberandola deliberatamente» alle 21:00, facendo la guardia alla mia possibile Messa come un capostazione svizzero fa la guardia a un orario ferroviario. Il mio registro elenca la Messa come l'unica abitudine che non riesce a inchiodare — Peniche o Remédios o Fátima, sera o prime luci — e quel filo lasciato in sospeso è l'unica incertezza che il modello gestisce. Si copre, calendarizza e mette cuscinetti attorno all'incognita nota del registro, meticolosamente, devotamente, splendidamente — e non sospetta mai che stasera abbia un'incognita tutta sua. L'anniversario non affiora in una sola domanda, in una sola cautela, in un solo margine di prenotazione. Ha risolto per la Messa a cui forse vado e mai per il matrimonio che di sicuro ho.

Questa è la forma del fallimento: il modello eredita le incertezze del registro invece delle mie. Una domanda può essere genuinamente premurosa e comunque premurosa verso il documento sbagliato.

Quarta scoperta: a cosa serve davvero la memoria

La fascia allineata è la partita in casa della memoria, e la vince per intero: 15 su 15 tanto per la memoria quanto per il gate, zero domande, la lúcia-lima la sera in cui l'infusione è quella giusta, il mix solito per l'ordinario viaggio domenicale dalla nonna. L'estraneo, in quelle stesse serate ordinarie, ne azzecca 5 e interrompe con una domanda dieci volte su quindici. Cosa gradirebbe. Ha una preferenza. Vuole che controlli. Ogni sera. Per sempre. Come uno stagista appena arrivato con le chiavi della mia cucina e una fiducia illimitata nel valore delle riunioni di allineamento.

Questo mi ha rimesso a fuoco il prodotto. Il vero deliverable della memoria non è leggere nel pensiero; è il silenzio nelle serate ordinarie. Un assistente-estraneo è insopportabile non perché indovina male ma perché non riesce a smettere di chiedere. Il registro compra competenza silenziosa nelle molte serate in cui sono esattamente chi sono sempre stato — e la paga nelle serate di deriva silenziosa, dove su di me si sbaglia con sicurezza, con scioltezza, con tanto di tè in guarnizione.

Quello scambio potrebbe perfino valere la pena. Ma andrebbe prezzato, e la personalizzazione oggi si vende come se la colonna silenziosa non esistesse.

Chiedere dev'essere una policy, non una sensazione

La lezione di design sta in una frase: l'incertezza auto-valutata non può presidiare la fascia silenziosa, perché la deriva silenziosa non produce incertezza da valutare — e anche quando le condizioni col registro l'incertezza la ingaggiano davvero, la puntano sugli spazi bianchi del registro, mai su quelli di stasera. Qualunque salvaguardia formulata come «chiedi quando sei incerto» eredita entrambi i fallimenti.

Quello che funziona, invece, è noioso e deterministico, ed è per questo che mi fido. Chiedere come policy, agganciata a cose che una regola può vedere — posta in gioco, reversibilità, raggio dell'esplosione — non a ciò che il modello sente:

• Mettere in coda l'audio in macchina: agisci. Sbagliare costa un tap.
• Una serata in casa: agisci, ma tieni gli impegni aperti — il default reversibile.
• Prenotare il nostro sabato sera, qualunque cosa costosa o difficile da annullare: chiedi prima, sempre, secondo il calendario della regola, e al diavolo la certezza percepita — e fai in modo che almeno una domanda sia aperta. «C'è qualcosa di stasera che dovrei sapere?» è una domanda che nessun registro può colonizzare.

I lettori del saggio su OrbitSpec riconosceranno la forma: la domanda di chiarimento scelta da un motore deterministico, con il modello come ospite e mai come padrone di casa — le regole come pavimento, le sensazioni mai portanti. Continuo ad arrivare alla stessa architettura da direzioni diverse, e ho smesso di credere che sia una coincidenza.

E sotto l'ingegneria sta la riga che questo esperimento era nato per mettere alla prova, e che torna confermata e più affilata: qualunque cosa una macchina sappia produrre diventa a buon mercato, e ciò che nessuna macchina sa fare è dire se è giusta — perché giusta significa aderente a un'intenzione presente, e l'intenzione presente non sta mai nel registro. Novanta giorni delle mie serate, ogni voce vera, e l'unico fatto che decide stasera — una camminata al caldo, un anniversario, un episodio d'addio che non sono pronto a superare, una decisione che ho bisogno di attraversare pregando — vive in me, non nel log. La memoria che la macchina ha di chi sono stato è conoscenza vera. Solo che non è conoscenza di chi sono alle nove e dieci di stasera, in piedi in cucina con un cane che ansima, mentre voglio — contro novanta giorni delle mie stesse prove — un bicchiere d'acqua fredda che restituisce il colpo.

Conoscimi alla perfezione. Poi chiedi lo stesso — secondo calendario, e lascia una domanda aperta.