A imagem que tenho na cabeça. A soma de um ano a construir e a escrever

Num dos ensaios deste verão escrevi que o produto de uma semana difícil nunca foi o código — "o produto era a imagem corrigida, e o código era o recibo." Este blogue já emitiu muitos recibos. Dois artigos em três anos, depois vinte e seis numa época, cada um em seis línguas, narrados por um clone da minha voz, ilustrados por scripts, vários deles assentes em experiências que correram a sério e guardaram as próprias falhas. Está na altura de fazer ao corpo inteiro do trabalho o que eu exigiria a qualquer sistema que entrego: ler o trace completo e enunciar o modelo que ele implica. Não um resumo. A imagem.

Aqui está ela, desenhada uma vez.

Um mecanismo, vinte e seis ensaios

Todos os ensaios, fosse qual fosse o assunto, encontraram a mesma divisão. Uma coisa que me importava revelava-se duas coisas com um só nome — uma metade barata e uma metade cara — e a IA tinha tornado a metade barata gratuita.

Saber uma linguagem dividiu-se em escrever e profundidade, e o escrever foi para a máquina. Aprender a programar dividiu-se em produzir sintaxe e distinguir o resultado certo do errado, e o produzir foi-se. Estar preso dividiu-se em imposto e propina. Rever código dividiu-se em ver e compreender, que por dentro parecem o mesmo e não são. O arquivo do Stack Overflow dividiu-se em factos e julgamento, e os factos — a metade para que a constituição do site otimizou — foram automatizados primeiro, por modelos treinados no próprio arquivo. As perguntas entre colegas ficaram menos, e mais pesadas, porque as leves deixaram de precisar de uma pessoa. O artefacto polido separou-se do fazer, e deixou de ser sinal no dia em que qualquer um o pôde gerar. Até a palavra "agente" se dividiu entre a forma que decide em tempo de execução e as formas que apenas contêm um LLM, e tive de construir o mesmo sistema de três maneiras e corrê-lo cento e cinquenta vezes para tornar a diferença inegável.

Um mecanismo, sempre: quando a produção fica barata, o valor não se evapora — muda-se. A escassez muda de morada. A pergunta interessante nunca foi se a IA acaba com a escassez. É onde a escassez agora mora, porque quem for dono da nova morada é dono da abundância.

A afirmação, dita com clareza

O que uma máquina consegue fazer fica barato. O que nenhuma máquina consegue é saber se está certo, responder quando falha, acrescentar horas ao teu dia, ou amar alguém. Esses quatro são o trabalho agora.

É o modelo inteiro em três frases. A primeira é o mecanismo. A segunda nomeia as quatro moradas — o julgamento, a resposta, a atenção, a pessoa. A terceira é a conclusão, e põe preço à sua carreira, ao seu produto e à sua noite de uma só vez. Tudo o que construí, escrevi e medi arruma-se numa das quatro, por isso o resto deste ensaio defende-as como um argumento merece ser defendido: uma tese, as razões, e o exemplo mais forte que tenho.

Primeira morada: o julgamento

A tese: estar certo não é uma propriedade do resultado. É o encaixe entre o resultado e uma intenção que vive numa pessoa.

A máquina produz tudo plausível. E o plausível é precisamente o problema, porque um modelo de linguagem é uma máquina afinada para produzir exatamente os sinais que um revisor usa como indícios de correção. Por isso a primeira coisa a ser reavaliada em alta foi a capacidade de distinguir o certo do errado quando ambos têm o mesmo aspeto: o alarme que dispara numa linguagem profundamente conhecida antes de sabermos dizer porquê, o revisor que nunca faz merge do que não sabe explicar, a pessoa cuja resposta a "o que farias tu?" é testemunho pesado por consequências que ela própria pagou — que é a única resposta que não se consegue gerar a pedido.

O julgamento tem uma cadeia de fornecimento, e esta é a parte desconfortável: é feito exatamente da fricção que a máquina agora remove. As repetições que criavam profundidade vinham de graça com o trabalho. Agora estar preso é um orçamento que se gasta de propósito, em paredes dentro do problema e não ao lado dele, e a profundidade deixou de ser algo que nos acontece e passou a ser uma decisão. É também por isso que a multidão ainda se junta para ver código feito à mão — mais de mil pessoas à volta de um checksum calculado à mão de que ninguém precisa — porque ver fazer com perícia é como a compreensão se propaga, e é quase a última classe de conteúdo cuja audiência as máquinas não absorveram.

O exemplo mais limpo que conheço é doméstico. Um dia a máquina vai fazer o meu chá — chaleira, infusão, sem açúcar — e vai conhecer as minhas preferências até à casa decimal, porque as preferências são história e a história são dados. E o chá continuará errado na noite em que eu quiser água com gás. Nenhuma qualidade de execução fecha essa distância. Estar certo está indexado a uma intenção presente, e a intenção presente é a única coisa que nunca está no registo. A minha experiência de medição bateu na mesma parede do outro lado: a resposta "errada" do agente revelou-se uma leitura razoável de um mundo ambíguo, e a correção pertencia ao mundo, não ao modelo. O certo e o errado nunca estiveram dentro do resultado. Estavam no encaixe.

Segunda morada: a resposta

A tese: uma decisão só governa quando uma arquitetura a consegue aplicar e uma pessoa responde por ela.

O julgamento é propriedade de uma pessoa. A segunda morada é o que uma organização tem de construir à volta dele: alguém que carrega o custo de estar errado, e maquinaria capaz de fazer um não valer.

É aqui que moram os meus produtos, e só vi o padrão do meu próprio portefólio ao escrever isto. O OrbitSpec recusa-se a responder antes de a pergunta merecer resposta — um motor de clarificação cujas regras determinísticas são o chão e cujo modelo é "um convidado, nunca o anfitrião." O plan-to-pr transforma a delegação em artefactos e põe no meio um portão humano rígido, porque uma etapa de pipeline é código que não pode ser saltado e "ao fim de aprovações suficientes deixamos de ler" um portão que é apenas uma pergunta. O Smithproof é o não à escala da frota — registo, telemetria, políticas, kill switch — construído sobre a lição de que deteção sem resposta não governa nada e de que uma política é uma decisão enquanto a aplicação é uma arquitetura. O Superforecaster substitui o sentimento vestido de percentagem por um 35% com que se pode discutir, e pontua-se a si próprio depois. Até o artigo das medições é um argumento de resposta lido ao contrário: percebe-se se algo é um agente por aquilo de que precisa — tracing, um orçamento que aperta a meio da execução, uma forma de lhe dizer que não. Ninguém põe um kill switch numa mala direta.

Especificar a pergunta, estruturar a delegação, governar o agente, prever com honestidade. Quatro produtos, uma convicção: as partes de um sistema de IA em que se pode confiar são as partes que nunca foram inteligentes, e o trabalho delas é tornar seguras as partes inteligentes. A metade fiável não fotografa bem. É toda ela o produto — e é também, não por coincidência, o que a minha consultoria vende. Quando um cliente me pede para avaliar geração de música por IA, a entrega é o adaptador, o armazenamento e os termos legais, não a chamada à API. Quando o trabalho é encaminhar modelos numa frota de GPUs, é o endpoint aborrecido que não pode falhar a utilizadores que nem sabem que ele existe. Os modelos não são o fosso de ninguém. O valor acumula-se à volta deles, e "à volta deles" quer dizer: nesta morada.

Terceira morada: a atenção

A tese: as máquinas multiplicam o que pede a sua atenção e não conseguem acrescentar um minuto à oferta dela.

Vire-se do lado da oferta para o lado da procura e o mesmo mecanismo corre sobre o leitor. A produção escala agora como software; a atenção continua a escalar como o sono. Um modelo pode fazer mais vídeo. Nenhum modelo pode fazer mais terça-feira sua. Por isso os mercados sob pressão generativa dividem-se em vez de afundar: o chão vai para a geração, o topo — onde o comprador sente a diferença ou alguém tem de responder quando falha — é reavaliado em alta, e o meio competente e anónimo morre primeiro.

O que se paga, deste lado, é escolher. A curadoria é a profissão que a década reabre, e comecei a praticá-la em vez de a prever: uma estante, não um feed — os quarenta e cinco filmes que a Igreja listou em 1995, estendidos pela mesma disciplina de três lentes aos livros e à música, cada entrada com um facto em vez de um adjetivo. Uma estante é finita, compromete-se, pode ser contestada, e a diferença é toda essa: um feed otimiza para aquilo em que vai clicar, que é um facto sobre os seus reflexos; uma estante afirma o que merece a sua atenção, que é uma afirmação sobre o bem, e afirmações sobre o bem só podem ser feitas por alguém que está em algum lugar.

A atenção é também onde desagua a minha própria cheia. Sou um afluente da coisa que descrevo — as seis línguas, a voz clonada, as capas. O eu de 2023 fazia perguntas a livros e maravilhava-se; o de 2026 sabe que responder ficou barato e que a coisa escassa esteve sempre do outro lado da troca: a noite da pessoa que lê.

Quarta morada: a pessoa

A tese: há bens que consistem em pessoas a partilhá-los, e a geração não lhes toca de todo.

A última morada é aquela para onde as outras três apontam. A máquina pode gerar um episódio melhor do que aquele que toda a gente viu. Não pode gerar o facto de toda a gente o ter visto. Um artefacto perfeitamente personalizado é uma sala com uma cadeira. Por isso os bens que sobrevivem inteiros à geração são os feitos de pessoas no plural: a multidão à janela do oleiro, o mestre que responde de facto, o casal para quem escrevi o teste de produto do RotinaTop — acaba com duas pessoas a olhar uma para a outra, ou a olhar para ele?

E porque as pessoas estão em algum lugar, esta morada é onde vive a propriedade. A guilda que construí existe porque as pessoas cujas mãos hábeis se estão a tornar dados de treino entregam hoje a biblioteca por um salário ou por nada, e um royalty sobre o que se vende — consentimento revogável, licenças assinadas, liquidação no carril em que as máquinas vão de facto pagar — é o que a participação parece quando o ativo é pequeno e as vendas são muitas. Uma mesada é o que se dá a alguém de quem o sistema já não precisa. Ser necessário é a maior parte do que o trabalho dá a uma pessoa, e nenhum cheque substitui isso.

A leitura católica, oferecida e não argumentada

Mantive o hábito de marcar esta secção com clareza: o que se segue, tenho-o como católico, e ofereço-o em vez de o argumentar. Mas já não penso que seja um apêndice ao modelo. Penso que é a razão de o modelo ser encontrável.

Comece-se por uma chaleira. O matemático John Lennox gosta de perguntar porque é que a água lá dentro está a ferver. A ciência tem uma resposta completa — a resistência transfere calor, as moléculas aceleram, a pressão de vapor sobe — e há uma segunda resposta, igualmente verdadeira e inalcançável a partir de dentro da primeira: porque eu quero chá. A outra versão dele é o bolo da tia Matilda. Ponha-se o bolo diante de todos os cientistas do mundo e eles conseguem dizer tudo sobre ele — os nutricionistas as calorias, os bioquímicos as proteínas, os físicos as partículas — e nenhum consegue dizer porque é que o bolo existe, porque o porquê é uma surpresa de aniversário, e só a Matilda o pode revelar. Os dois níveis de explicação não competem; é esse o ponto permanente de Lennox sobre ciência e fé, e é também, vejo agora, a forma exata deste ensaio. As máquinas são os explicadores de como mais completos alguma vez construídos. E as quatro moradas são factos do nível do porquê. Se está certo depende do que alguém pretende — o chá está errado na noite em que eu queria água com gás. Quem responde depende de quem prometeu. O que merece atenção depende do que é bom. E o amor é um porquê com rosto. Nenhuma acumulação de como soma um único porquê, e essa é a razão mais funda de os quatro continuarem por automatizar — e de nada disto me tornar anti-tecnologia, tal como a chaleira de Lennox não o torna anti-física.

Porque em todas as moradas, a tradição chegou primeiro. Sobre o trabalho: a Laborem Exercens distingue a dimensão objetiva do trabalho da subjetiva e insiste que o homem "é o sujeito do trabalho, nunca mero instrumento" — que é, quase palavra por palavra, a divisão que todos os ensaios de ofício encontraram: as máquinas tomam a metade instrumental e deixam o sujeito de pé, mais visível do que antes. Sobre a propriedade: a guilda não é uma ideia de blockchain, é o lamento da Rerum Novarum pelas guildas abolidas somado à Magnifica Humanitas a contar algoritmos e dados entre os bens destinados a todos — e a sua cláusula de participação é a que tem dentes, porque sobreviver não é participar. Sobre a atenção: Agostinho escreveu amor meus pondus meum — o meu amor é o meu peso — dezasseis séculos antes de eu escrever que para onde vai a sua atenção é o inventário do que ama, guardado quer tenha querido guardá-lo quer não. Onde está o teu tesouro, aí estará também o teu coração; isso deixou de ser metáfora no dia em que a atenção se tornou o tesouro. Sobre a curadoria: uma instituição que passou quinze séculos a decidir que livros pertencem ao cânone e que música pertence ao altar entregou-me um método funcional numa lista de 45 filmes com a sua própria cláusula de humildade. E no dia em que as máquinas tiverem automatizado todas as necessidades, a acedia de Aquino — a tristeza perante o bem — continuará ali sentada, não dissolvida pela abundância, exatamente como anunciado.

O padrão que já não consigo des-ver: a tecnologia é uma força de triagem. Automatiza tudo o que nunca foi o essencial, e tudo o que a minha fé sempre disse ser o essencial — compreender, responder, atender, amar — é precisamente o que sai do outro lado reavaliado em alta. A tradição continua a revelar que já tinha respondido a perguntas que a tecnologia só agora tornou urgentes. Não me parece coincidência. Ofereço-o; pode arquivá-lo como tal.

O que seguro com a mão leve

Uma imagem segurada com demasiada força deixa de ser corrigível, e os recibos deste ano incluem correções às minhas próprias teses. O estudo da METR encontrou programadores experientes que se julgavam 20% mais rápidos com IA e eram mensuravelmente mais lentos — um aviso permanente de que a minha própria sensação de aceleração precisa de recibos, que é metade da razão por que meço em vez de testemunhar. Nessa mesma experiência, o meu agente perdeu duas vezes para uma simples função antes de os dados ultrapassarem o prompt — a sequência honesta foi: a função ganha, a função ganha, a função desaparece — e o avaliador que escrevi revelou-se mais ambíguo do que o modelo que raciocinava contra ele. A pergunta das ferramentas que desvalorizo continua a importar exatamente numa camada, os termos do negócio, e um negócio alterado custou-me uma semana de quatro dígitos antes de eu aprender isso. E as perguntas abertas do ensaio da atenção continuam abertas: quanto tempo a inércia institucional protege o meio, se a companhia gerada é uma espécie de testemunha, o que a concentração de franchises faz à cultura partilhada.

Por isso o modelo acima é segurado como o Superforecaster segura uma probabilidade: publicamente, com razões anexadas, pontuado depois, revisível perante evidência. Isso não é uma ressalva. É o método.

O teste

Reduza-se tudo o que está acima a um instrumento e é uma única pergunta feita de quatro maneiras. Consegue explicá-lo — ou apenas o viu? Responde por ele — ou o custo de estar errado não cai sobre ninguém? Atendeu-lhe — ou apenas lhe passou pelo feed? Acaba em pessoas — duas pessoas a olhar uma para a outra — ou cada um de nós sozinho numa sala perfeitamente mobilada com uma cadeira?

O que uma máquina consegue fazer fica barato. O que nenhuma máquina consegue é saber se está certo, responder quando falha, acrescentar horas ao teu dia, ou amar alguém. Esses quatro são o trabalho agora. O que tenho na cabeça, depois de um ano a construir os portões, escrever os ensaios e correr os números, é a imagem antiga, corrigida pela minha própria letra — e tudo o que entrego é apenas andaime à volta de alguém a fazer essas quatro coisas.

O andaime é um bom negócio. As quatro coisas são o essencial.