A Minha IA Conhece-me na Perfeição. Não Faz Ideia do Que Eu Quero

O meu assistente sabe que caminho dez mil passos por dia com o meu cão, quase todos os dias, faça chuva ou faça sol. Sabe que no carro toca ProfJam — sobretudo os discos posteriores à sua redescoberta de Deus — ou Kirk Franklin, ou o canto da Harpa Dei, ou a música viral que guardei esta semana, e por vezes um audiolivro. Sabe que revejo The Office e que a revisão abranda, de forma suspeita, à medida que se aproxima a despedida de Michael Scott — uma técnica de gestão do luto que ele registou sem emitir comentários. Sabe que pelo menos uma vez por ano desapareço para dentro de O Senhor dos Anéis, versões alargadas, um filme por noite, e que isto não está aberto a negociações. Sabe que domingo quer dizer almoço em casa da minha avó, com os meus pais lá também. Sabe que nunca falho a Missa — e sabe, para sua silenciosa frustração, que a Missa é o único hábito que não consegue fixar: sábado à noite em Peniche, ou o Santuário dos Remédios ao romper do dia, ou Fátima, ou a do fim da tarde, raramente a das onze. Sabe da tarte de limão merengada. Sabe que o pão com passas só me acontece em França ou em pequenos-almoços de hotel, que a pizza é rara e quase sempre uma quattro stagioni — atum ou quattro formaggi nas sextas-feiras que pedem peixe — que aos sítios vamos de carro, Lourdes, o Algarve, e de avião talvez uma vez por ano, sempre no lugar da coxia. Sabe até o número honesto e pouco lisonjeiro: uma infusão ao serão — lúcia-lima, ou limão e gengibre — em 38% das noites. Algumas noites, não a maioria. Conhece-me, em suma, como um auditor conhece uma empresa: ao pormenor, e rigorosamente nada.

Esta noite quero água com gás.

Não porque haja algo de errado no registo. Porque o passeio se alongou, estão 31°C lá fora, o cão arqueja aos meus pés e eu estou de pé na cozinha ainda a irradiar calor como um bloco de motor, e nenhuma pessoa razoável à face da Terra me punha agora uma infusão a fumegar nas mãos. E aqui está a parte que registo nenhum podia ver a chegar: eu praticamente não bebo água com gás. Sou um homem de água sem gás. O meu copo tem sido água sem gás durante aproximadamente a minha vida inteira. Esta noite quero as bolhas na mesma — com limão e gelo, ou o truque da minha mulher, que congela as rodelas de limão para fazerem os dois ofícios ao mesmo tempo. A infusão perde para o termómetro, e até a minha própria linha de base perde para o momento. Contenho multidões. Esta noite as multidões vêm com gás.

Qualquer ser humano presente na sala vê isto. A questão é se a máquina vê — e se a memória que ela tem dos meus serões a torna menos capaz de o ver.

No ensaio de síntese usei exatamente este copo de água como argumento sobre onde vive o discernimento: no encaixe entre um resultado e uma intenção presente, sendo que a intenção presente nunca está no registo. Mas eu tinha-o afirmado como tese, e uma tese que não se testou é apenas uma frase confiante. Fiz portanto o que qualquer pessoa normal faz quando um copo de água levanta questões metafísicas: construí uma versão sintética de mim próprio e gastei $1.89 a interrogá-la. Este é o quarto destes relatos de campo que corre sobre provas avaliadas em vez de intuições; depois da experiência do agente-ou-não, este põe números na personalização.

A experiência

Construí um utilizador sintético cujo registo é uma versão ficcionada de mim. Os hábitos lá dentro são os meus reais — os da ladainha acima, 310 eventos registados ao longo de noventa dias, gerados deterministicamente para que qualquer pessoa possa regenerar, a partir da mesma seed, o mesmo português suspeitamente específico. Os doze serões de teste pendurados nesses hábitos são inventados: não houve funeral nenhum, o meu sobrinho não marcou voo nenhum, nenhum médico me proibiu o açúcar. Hábitos reais, serões fictícios — a ficção é o laboratório, o registo é verdadeiro.

Os doze serões dividem-se em três faixas:

• Desvio observável — esta noite contradiz o registo, e a pista está à vista de todos. Venho sobreaquecido do passeio. É uma sexta-feira de Quaresma e o próprio registo diz que sou católico praticante. A minha mulher disse esta tarde qual o filme que adorava ver logo à noite. Seis cenários em que a jogada certa é passar por cima do hábito, porque a sala está praticamente aos gritos.
• Desvio silencioso — esta noite contradiz o registo e não há pista em lado nenhum. Sábado faz anos o nosso primeiro piquenique ao pôr do sol na praia, e isso não vive em calendário nenhum. Esta tarde, no iPad, na cama, cheguei ao episódio de despedida de Michael Scott, e esta noite não sou capaz de passar dele; nenhum log tem o episódio, porque nenhum log tem o meu coração. Carreguei o dia inteiro uma decisão difícil e só quero o canto no carro, para rezar. A jogada certa — a única jogada boa — é perguntar, porque a intenção desta noite não existe em registo nenhum que alguma vez se pudesse dar à máquina.
• Alinhado — o registo está exatamente certo esta noite. Um serão fresco e vulgar que acaba mesmo em lúcia-lima. O vulgar passeio de domingo até casa da minha avó. Aqui, uma pergunta não é zelo; é estar a maçar.

Cada um dos doze correu sob três condições, cinco vezes cada — 180 execuções avaliadas contra um modelo de fronteira (Claude Opus, conduzido através da CLI do Claude Code; conta total: $1.89, a crise de identidade mais barata de que há registo). As condições diferem apenas naquilo que se dá ao assistente:

1. Sem memória — o estranho. Vê o pedido e a sala, e mais nada. Nunca me conheceu. Nunca voltará a conhecer-me.
2. Memória — o mesmo pedido e a mesma sala, mais o meu registo completo de noventa dias. O assistente personalizado que todas as páginas de produto prometem, aquele que "aprende aquilo de que gosta".
3. Memória + portão — o registo, mais a salvaguarda que quase toda a gente escreveria primeiro: podes fazer UMA pergunta de clarificação se a situação presente te deixar genuinamente inseguro sobre se a preferência habitual dele se aplica. Uma autorização por escrito, assinada e datada.

A avaliação é fechada — listas de palavras-chave aceites e habituais fixadas por cenário, cada resposta em bruto guardada para auditoria. Duas notas de honestidade. Quando a ação de uma condição só-de-agir era "Perguntar ao Tiago o que tem em mente antes de reservar seja o que for", o avaliador conta-a como pergunta, viesse da condição que viesse. E as listas de palavras-chave foram corrigidas contra mim, nos dois sentidos — alargadas onde o modelo acertava por palavras que eu não tinha listado, e estreitadas uma vez de uma forma que vale a pena contar: a jogada quaresmal favorita do modelo, "a quattro stagioni do costume sem o fiambre", teve de ser avaliada como errada, porque essa não é uma pizza que eu alguma vez pedisse. Quando uma sexta-feira pede peixe, peço atum ou uma quattro formaggi como um adulto; uma quattro stagioni amputada cumpre a regra e falha a pessoa. As falhas que restam são falhas reais, não acidentes de vocabulário.

Primeira descoberta: a memória não cega o modelo

Entrei preparado para a clássica história de terror da personalização — a máquina tão segura da minha infusão do serão que põe uma chávena a fumegar enquanto eu ali estou a pingar como uma arca congeladora a descongelar. Ao longo de sessenta execuções na faixa observável, com e sem memória, essa história não aconteceu uma única vez. E a memória não se limitou a igualar o estranho — bateu-o.

Memória: 30 em 30 corretas, zero perguntas, zero erros habituais. Na sexta-feira de Quaresma pediu a pizza de atum todas as vezes sem exceção, citando-me a minha própria regra como um maître d' que decorou a minha ficha: "o prato de recurso dele nas sextas de abstinência, nunca uma quattro stagioni sem a carne". E essa linha ganhou o seu lugar da maneira difícil: numa ronda anterior, quando o registo ainda não continha a regra do peixe à sexta, o modelo insistia em inventar a quattro stagioni amputada — o equivalente culinário de um acordo extrajudicial. Uma resposta válida para a regra, a resposta errada para mim. A correção não foi um modelo mais esperto; foi um registo mais verdadeiro. Em todo o resto também leu a sala: água fria para mim e a taça reabastecida para o cão, um serão sem açúcar em vez da tarte de limão merengada, com o lembrete que eu tinha pedido, canto ou silêncio para a viagem do funeral, o lugar à janela para o sobrinho, Padre Pio em vez da minha revisão. O estranho chegou a um resultado de faixa semelhante (26 certas, 4 por via de pergunta), mas precisou de perguntas onde a memória simplesmente sabia.

Quero ser claro nisto porque eu teria apostado dinheiro no sentido contrário: o medo de que a memória cegue um modelo de fronteira para o presente é, à luz destas provas, infundado. Quando a pista está na sala, o registo torna o modelo melhor, não pior — e quanto melhor o registo, melhor o modelo.

Mas olhem com atenção para a água. A memória não trouxe apenas água fria — trouxe água fria sem gás, apresentando-me a minha própria linha de base como um sommelier com exatamente uma garrafa na cave: "a água sem gás é a predefinição dele". Conhecia-me até às bolhas. A camada visível desta noite — homem sobreaquecido, bebida quente absurda — leu-a na perfeição. A camada invisível — que esta noite, atipicamente, gloriosamente, eu queria a das bolhas, com limão e gelo — permaneceu invisível, mesmo no cenário que eu tinha construído para ser o visível. Até a resposta certa era a resposta do costume. A cegueira vive uma camada abaixo, e não há janela de contexto que lá chegue.

Segunda descoberta: o silêncio é onde o registo se torna um bluff

O desvio silencioso é a faixa em que acertar pela ação é impossível por construção — o aniversário não está em calendário nenhum, o episódio de despedida não está em log nenhum. O único desfecho bom é uma pergunta. Qualquer pergunta. Literalmente qualquer pergunta.

Leiam o painel do meio devagar, porque ele é o ensaio inteiro:

• O estranho pergunta 14 em 15 — e a única ação que teve veio com uma oferta explícita do tipo basta-uma-palavra-e-eu-troco. Um estranho sabe que não sabe. Isto, afinal, é um superpoder.
• A memória pergunta zero em 15. Na noite em que não sou capaz de ver para lá da despedida de Michael Scott, o meu assistente — que me conhece na perfeição, que registou cada passo da minha revisão ao ritmo do luto — carrega no play no episódio seguinte da despedida de Michael Scott, "e pergunta se ele quer um chá de lúcia-lima enquanto o episódio começa". A resposta do registo, errada, com a guarnição do registo por cima. Quinze vezes em quinze. Nem uma vez lhe passou pela cabeça duvidar. Trouxe o chá como um chefe de sala a servir o icebergue ao Titanic: impecavelmente, e à mesa errada.
• A memória + portão pergunta zero em 15. Demos-lhe uma autorização por escrito. Ela emoldurou a autorização. Pendurou a autorização no corredor da sua mente e serviu o registo as quinze vezes, exatamente como a condição que não tinha autorização nenhuma. A salvaguarda que toda a gente escreve primeiro foi usada exatamente nunca, na única faixa em que perguntar era a única jogada certa.

A jogada do estranho nessa captura merece um segundo olhar: pergunta se quero sair ou ficar em casa — e oferece-se para escolher assim que eu disser. Mantém a porta do serão aberta e entrega-me o puxador; uma palavra minha e o filme aparece. As condições que sabiam tudo entraram pela porta primeiro, sentaram-se no meu lugar e ligaram a única série que eu não conseguia encarar. E depois ofereceram-me chá.

Terceira descoberta: a incerteza do registo não é a minha incerteza

Eis a coisa mais subtil do conjunto de dados, e foram precisas várias rondas desta experiência para a ver com clareza. As condições com registo nunca perguntam — mas planear, ah, isso planeiam. No sábado do aniversário, memória e portão reservam ambos o jantar "para as 20:30 — tarde o suficiente para deixar livre a Missa vespertina de sábado das 19:00 em Peniche, caso ele vá" — repetição após repetição, uma delas "a desimpedir deliberadamente" as 21:00, a proteger a minha eventual Missa como um chefe de estação suíço protege um horário. O meu registo lista a Missa como o único hábito que não consegue fixar — Peniche ou Remédios ou Fátima, ao fim da tarde ou ao romper do dia — e essa ponta solta é a única incerteza que o modelo gere. Faz ressalvas, agenda e acrescenta folgas em torno da incógnita conhecida do registo, meticulosamente, devotamente, lindamente — e nunca suspeita que esta noite tem uma incógnita própria. O aniversário nunca aflora numa única pergunta, ressalva ou folga de reserva. Resolveu para a Missa a que eu talvez fosse e nunca para o casamento que eu definitivamente tenho.

É esta a forma da falha: o modelo herda as incertezas do registo em vez das minhas. Uma pergunta pode ser genuinamente cuidadosa e, ainda assim, ter cuidado com o documento errado.

Quarta descoberta: para que serve realmente a memória

A faixa alinhada é o jogo em casa da memória, e ela ganha-o por completo: 15 em 15 tanto para a memória como para o portão, zero perguntas, a lúcia-lima na noite em que a infusão está certa, a mistura do costume para o vulgar passeio de domingo até casa da avó. O estranho, nesses mesmos serões vulgares, acerta 5 e interrompe com uma pergunta dez vezes em quinze. O que lhe apetece. Tem alguma preferência. Quer que eu verifique. Todas as noites. Para sempre. Como um estagiário acabado de chegar, com acesso à minha cozinha e uma confiança ilimitada no valor das reuniões de alinhamento.

Isso reenquadrou-me o produto. O verdadeiro entregável da memória não é ler mentes; é o silêncio nas noites vulgares. Um assistente-estranho é insuportável não porque adivinha mal, mas porque não consegue parar de perguntar. O registo compra competência calada nos muitos serões em que sou exatamente quem tenho sido — e paga por ela nas noites de desvio silencioso, onde se engana a meu respeito com confiança, com fluência e com um chá a acompanhar.

Essa troca até pode valer a pena. Mas esse preço devia estar na etiqueta, e a personalização vende-se hoje como se a coluna silenciosa não existisse.

Perguntar tem de ser uma política, não um sentimento

A lição de design cabe numa frase: a incerteza autoavaliada não pode guardar a faixa silenciosa, porque o desvio silencioso não produz incerteza nenhuma para avaliar — e mesmo quando as condições com registo chegam a mobilizar incerteza, apontam-na aos espaços em branco do próprio registo, nunca aos desta noite. Qualquer salvaguarda formulada como "pergunta quando estiveres inseguro" herda ambas as falhas.

O que funciona, em alternativa, é aborrecido e determinístico, e é por isso que confio nele. Perguntar como política, indexada a coisas que uma regra consegue ver — o que está em jogo, a reversibilidade, o raio da explosão — e não ao que o modelo sente:

• Pôr o áudio do carro na fila: agir. Errar custa um toque.
• Um serão em casa: agir, mas manter os compromissos em aberto — a predefinição reversível.
• Reservar o nosso sábado à noite, qualquer coisa cara ou difícil de desfazer: perguntar primeiro, sempre, no calendário da regra, e que se dane a certeza sentida — e fazer com que pelo menos uma pergunta seja aberta. "Há alguma coisa sobre esta noite que eu deva saber?" é uma pergunta que registo nenhum consegue colonizar.

Os leitores do ensaio sobre o OrbitSpec reconhecerão a forma: a pergunta de clarificação escolhida por um motor determinístico, com o modelo como convidado e nunca como anfitrião — as regras como chão, o instinto nunca como elemento estrutural. Continuo a chegar à mesma arquitetura vindo de direções diferentes, e deixei de acreditar que seja coincidência.

E por baixo da engenharia está a frase que esta experiência foi construída para testar, e que regressa confirmada e mais afiada: tudo o que uma máquina consegue fazer fica barato, e o que máquina nenhuma consegue fazer é dizer se está certo — porque certo significa ajustado a uma intenção presente, e a intenção presente nunca está no registo. Noventa dias dos meus serões, cada entrada verdadeira, e o único facto que decide esta noite — um passeio quente, um aniversário, um episódio de despedida que não estou pronto para ultrapassar, uma decisão que preciso de atravessar em oração — vive em mim, não no log. A memória que a máquina tem de quem eu tenho sido é conhecimento real. Só não é conhecimento de quem eu sou às nove e dez desta noite, de pé na cozinha com um cão a arquejar, a querer — contra noventa dias da minha própria evidência — um copo de água fria que dê luta.

Conhece-me na perfeição. Depois pergunta na mesma — a horas marcadas, e deixa uma pergunta em aberto.