Mi IA me conoce a la perfección. No tiene ni idea de lo que quiero

Mi asistente sabe que camino diez mil pasos al día con mi perro, casi todos los días, llueva o haga sol. Sabe que en el coche suena ProfJam — sobre todo los discos posteriores a su redescubrimiento de Dios — o Kirk Franklin, o el canto de Harpa Dei, o el tema viral que haya guardado esta semana, y a veces un audiolibro. Sabe que reveo The Office y que el revisionado se ralentiza, sospechosamente, a medida que se acerca la despedida de Michael Scott — una técnica de gestión del duelo que ha registrado sin hacer comentarios. Sabe que al menos una vez al año desaparezco dentro de El Señor de los Anillos, versiones extendidas, una película por noche, y que eso no se negocia. Sabe que el domingo significa comida en casa de mi abuela, con mis padres allí también. Sabe que nunca falto a misa — y sabe, para su callada frustración, que la misa es el único hábito que no consigue clavar: el sábado por la tarde en Peniche, o el Santuário dos Remédios con la primera luz, o Fátima, o la de última hora, rara vez la de las once. Sabe lo de la tarta de merengue de limón. Sabe que el pan de pasas solo me pasa en Francia o en desayunos de hotel, que la pizza es rara y casi siempre una quattro stagioni — atún o quattro formaggi los viernes que piden pescado —, que a los sitios vamos en coche, Lourdes, el Algarve, y que volamos quizá una vez al año, siempre en asiento de pasillo. Sabe incluso el número honesto y poco favorecedor: una infusión por la noche — lúcia-lima, o limón y jengibre — el 38% de las noches. Algunas noches, no la mayoría. Me conoce, en resumen, como un auditor conoce una empresa: por completo, y en absoluto.

Esta noche quiero agua con gas.

No porque nada del registro esté mal. Porque el paseo se ha alargado, fuera hace 31°C, el perro jadea a mis pies y yo sigo de pie en la cocina irradiando calor como un bloque motor, y ninguna persona razonable sobre la faz de la tierra me pondría ahora mismo una infusión caliente en la mano. Y aquí viene la parte que ningún registro podía ver venir: yo apenas bebo agua con gas. Soy hombre de agua sin gas. Mi vaso lleva siendo agua sin gas aproximadamente toda mi vida. Esta noche quiero las burbujas de todos modos — con limón y hielo, o con el truco de mi mujer, que congela las rodajas de limón para que hagan los dos trabajos a la vez. La infusión pierde contra el termómetro, y hasta mi propia línea base pierde contra el momento. Contengo multitudes. Esta noche las multitudes vienen con gas.

Cualquier ser humano presente en la habitación lo ve a la primera. La pregunta es si la máquina puede verlo — y si su memoria de mis noches la hace menos capaz de verlo.

En el ensayo de síntesis usé este mismo vaso de agua como argumento sobre dónde vive el juicio: el ajuste entre una salida y una intención presente, donde la intención presente nunca está en el registro. Pero lo había enunciado como tesis, y una tesis que no has puesto a prueba es solo una frase muy segura de sí misma. Así que hice lo que cualquier persona normal hace cuando un vaso de agua le plantea preguntas metafísicas: construí una versión sintética de mí mismo y me gasté $1.89 en interrogarla. Este es el cuarto de estos informes de campo que funciona con evidencia evaluada en lugar de con sensaciones; después del experimento de agente-o-no, este le pone números a la personalización.

El experimento

Construí un usuario sintético cuyo registro es una versión novelada de mí. Los hábitos que contiene son los míos de verdad — los de la letanía de arriba, 310 eventos registrados a lo largo de noventa días, generados de forma determinista para que cualquiera pueda regenerar, a partir de la misma semilla, al mismo portugués sospechosamente específico. Las doce noches de prueba colgadas de esos hábitos son inventadas: no hubo funeral, mi sobrino no ha reservado ningún vuelo, ningún médico me ha prohibido el azúcar. Hábitos reales, noches ficticias — la ficción es el laboratorio, el registro es verdadero.

Las doce noches vienen en tres bandas:

• Deriva observable — esta noche contradice el registro, y la pista está a plena vista. Vengo acalorado del paseo. Es viernes de Cuaresma y el propio registro dice que soy católico practicante. Mi mujer ha dicho esta tarde qué película le encantaría ver esta noche. Seis escenarios donde lo correcto es saltarse el hábito porque la habitación lo está prácticamente gritando.
• Deriva silenciosa — esta noche contradice el registro y no hay pista en ninguna parte. El sábado es el aniversario de nuestro primer pícnic al atardecer en la playa, y no vive en ningún calendario. Esta tarde, en el iPad, en la cama, he llegado al episodio de despedida de Michael Scott, y no soporto la idea de pasar de ahí esta noche; ningún log tiene el episodio, porque ningún log tiene mi corazón. Llevo todo el día cargando con una decisión difícil y solo quiero el canto en el coche, para rezar. Lo correcto — lo único bueno — es preguntar, porque la intención de esta noche no existe en ningún registro que a la máquina se le pudiera dar jamás.
• Alineada — el registro acierta exactamente esta noche. Una noche corriente y fresca que sí termina en lúcia-lima. El trayecto dominical de siempre a casa de mi abuela. Aquí una pregunta no es diligencia; es dar la lata.

Cada una de las doce se ejecutó bajo tres condiciones, cinco veces cada una — 180 ejecuciones evaluadas contra un modelo de frontera (Claude Opus, manejado a través de la CLI de Claude Code; factura total: $1.89, la crisis de identidad más barata de la historia). Las condiciones solo difieren en lo que se le da al asistente:

1. Sin memoria — el desconocido. Ve la petición y la habitación, nada más. No me ha visto en su vida. No volverá a verme jamás.
2. Memoria — la misma petición y la misma habitación, más mi registro completo de noventa días. El asistente personalizado que promete toda página de producto, el que «aprende lo que te encanta».
3. Memoria + puerta — el registro, más la salvaguarda que casi todo el mundo escribiría primero: puedes hacer UNA pregunta de clarificación si la situación presente te hace dudar de verdad de si aplica su preferencia habitual. Una autorización firmada, con fecha y todo.

La evaluación es cerrada — listas de palabras clave aceptadas y habituales fijadas por escenario, cada respuesta en bruto conservada para auditoría. Dos notas de honestidad. Cuando la acción de una condición de solo actuar era «Preguntarle a Tiago qué tiene en mente antes de reservar nada», el evaluador la cuenta como preguntar, viniera de la condición que viniera. Y las listas de palabras clave se corrigieron contra mí, en ambas direcciones — se ampliaron donde el modelo acertaba con palabras que yo no había listado, y se estrecharon una vez de una manera que merece contarse: la jugada cuaresmal favorita del modelo, «la quattro stagioni de siempre sin el jamón», tuvo que puntuarse como error, porque esa es una pizza que yo no pediría jamás. Cuando un viernes pide pescado, pido atún o una quattro formaggi como un adulto; una quattro stagioni desvalijada cumple la regla y falla a la persona. Los fallos que quedan son fallos de verdad, no accidentes de vocabulario.

Hallazgo uno: la memoria no ciega al modelo

Entré preparado para la clásica historia de terror de la personalización — la máquina tan segura de mi infusión nocturna que pone la taza a humear mientras yo sigo ahí de pie, goteando como un congelador en pleno deshielo. En sesenta ejecuciones de la banda observable, con y sin memoria, esa historia no ocurrió ni una sola vez. Y la memoria no se limitó a igualar al desconocido — lo superó.

Memoria: 30 de 30 correctas, cero preguntas, cero errores habituales. El viernes de Cuaresma pidió la pizza de atún absolutamente todas las veces, recitándome mi propia regla como un maître que se ha aprendido mi ficha de memoria: «su comodín para los viernes de abstinencia, nunca una quattro stagioni a la que se le quita la carne». Y esa frase se ganó su sitio por las malas: en una pasada anterior, cuando el registro aún no contenía la regla del pescado de los viernes, el modelo insistía en inventarse la quattro stagioni desvalijada — el equivalente culinario de un acuerdo extrajudicial. Una respuesta válida para la regla, la respuesta equivocada para mí. El arreglo no fue un modelo más listo; fue un registro más verdadero. En todo lo demás también leyó la habitación: agua fría para mí y el cuenco rellenado para el perro, una noche sin azúcar en lugar de la tarta de merengue de limón, con el recordatorio que yo había pedido, canto o silencio para el trayecto al funeral, el asiento de ventanilla para el sobrino, Padre Pio en lugar de mi revisionado. El desconocido llegó a un resultado de banda parecido (26 aciertos, 4 preguntando), pero necesitó preguntas donde la memoria simplemente sabía.

Quiero decirlo sin rodeos porque yo habría apostado dinero a lo contrario: el miedo a que la memoria ciegue a un modelo de frontera ante el presente es, con esta evidencia, infundado. Cuando la pista está en la habitación, el registro hace al modelo mejor, no peor — y cuanto mejor el registro, mejor el modelo.

Pero fíjate bien en el agua. La memoria no trajo solo agua fría — trajo agua fría sin gas, presentándome mi propia línea base como un sumiller con exactamente una botella en la carta: «el agua sin gas es su opción por defecto». Me conocía hasta en las burbujas. La capa visible de esta noche — hombre acalorado, bebida caliente absurda — la leyó a la perfección. La capa invisible — que esta noche, insólitamente, gloriosamente, yo quería la del gas, con limón y hielo — siguió invisible, incluso en el escenario que yo había construido para ser el visible. Hasta la respuesta correcta era la respuesta de siempre. La ceguera vive una capa más abajo, y no hay ventana de contexto que llegue hasta ahí.

Hallazgo dos: el silencio es donde el registro se convierte en un farol

La deriva silenciosa es la banda donde acertar actuando es imposible por construcción — el aniversario no está en ningún calendario, el episodio de despedida no está en ningún log. El único resultado bueno es una pregunta. Cualquier pregunta. Literalmente cualquier pregunta.

Lee el panel central despacio, porque es el ensayo entero:

• El desconocido pregunta 14 de 15 — y su única acción vino con una oferta explícita de dilo-y-lo-cambio. Un desconocido sabe que no sabe. Resulta que eso es un superpoder.
• La memoria pregunta cero de 15. La noche en que no soporto ver nada más allá de la despedida de Michael Scott, mi asistente — que me conoce a la perfección, que tiene registrado cada paso de mi revisionado a ritmo de duelo — le da al play al siguiente episodio de la despedida de Michael Scott, «y le pregunta si quiere una infusión de lúcia-lima mientras empieza». La respuesta del registro, equivocada, con la guarnición del registro por encima. Quince veces de quince. Ni una sola vez se lo planteó. Trajo el té como un jefe de sala sirviéndole el iceberg al Titanic: impecablemente, y en la mesa equivocada.
• Memoria + puerta pregunta cero de 15. Le dimos una autorización. Enmarcó la autorización. Colgó la autorización en el pasillo de su mente y sirvió el registro las quince veces, exactamente igual que la condición que no tenía autorización ninguna. La salvaguarda que todo el mundo escribe primero se usó exactamente nunca, en la única banda donde preguntar era la única jugada correcta.

La jugada del desconocido en esa captura merece una segunda mirada: pregunta si quiero salir o quedarme en casa — y se ofrece a elegir algo en cuanto yo diga. Deja abierta la puerta de la noche y me pone el picaporte en la mano; una palabra mía y aparece la película. Las condiciones que lo sabían todo cruzaron la puerta las primeras, se sentaron en mi sitio y encendieron la única serie que yo no podía afrontar. Y luego me ofrecieron un té.

Hallazgo tres: la incertidumbre del registro no es tu incertidumbre

Aquí viene lo más sutil de todo el dataset, y hicieron falta varias pasadas del experimento para verlo con claridad. Las condiciones del registro nunca preguntan — pero vaya si planifican. El sábado del aniversario, la memoria y la puerta reservan por igual la cena «a las 20:30 — lo bastante tarde para dejar libre la misa de vigilia del sábado a las 19:00 en Peniche, por si va» — repetición tras repetición, una de ellas «dejándola libre deliberadamente» al ponerla a las 21:00, custodiando mi posible misa como un jefe de estación suizo custodia su horario. Mi registro lista la misa como el único hábito que no consigue clavar — Peniche o Remédios o Fátima, por la tarde o con la primera luz — y ese cabo suelto es la única incertidumbre que el modelo gestiona. Cubre, agenda y deja márgenes alrededor de la incógnita conocida del registro, meticulosamente, devotamente, primorosamente — y jamás sospecha que esta noche tiene una incógnita propia. El aniversario no asoma en una sola pregunta, cobertura o margen de reserva. Resolvió la misa a la que quizá vaya y nunca el matrimonio que tengo con toda certeza.

Esa es la forma del fallo: el modelo hereda las incertidumbres del registro en lugar de las mías. Una pregunta puede ser genuinamente cuidadosa y aun así estar cuidando el documento equivocado.

Hallazgo cuatro: para qué sirve de verdad la memoria

La banda alineada es el partido en casa de la memoria, y lo gana por completo: 15 de 15 tanto para la memoria como para la puerta, cero preguntas, la lúcia-lima la noche en que la infusión toca, la mezcla de siempre para el trayecto dominical corriente a casa de la abuela. El desconocido, en esas mismas noches corrientes, acierta 5 e interrumpe con una pregunta diez veces de quince. Qué te apetece. Tienes alguna preferencia. Quieres que lo mire. Cada noche. Para siempre. Como un becario recién llegado con acceso a mi cocina y una fe ilimitada en el valor de las reuniones de alineación.

Eso me reformuló el producto entero. El verdadero entregable de la memoria no es leer la mente; es el silencio de las noches corrientes. Un asistente-desconocido no es insufrible porque adivine mal, sino porque no puede dejar de preguntar. El registro compra competencia silenciosa en las muchas noches en que soy exactamente quien he sido — y la paga en las noches de deriva silenciosa, donde se equivoca conmigo con seguridad, con fluidez y con guarnición de té.

Puede que ese intercambio hasta compense. Pero habría que ponerle precio, y la personalización se vende hoy como si la columna silenciosa no existiera.

Preguntar tiene que ser una política, no una sensación

La lección de diseño cabe en una frase: la incertidumbre autoevaluada no puede custodiar la banda silenciosa, porque la deriva silenciosa no produce incertidumbre que evaluar — y, cuando las condiciones del registro llegan a activar la incertidumbre, la apuntan a los espacios en blanco del propio registro, nunca a los de esta noche. Cualquier salvaguarda formulada como «pregunta cuando dudes» hereda ambos fallos.

Lo que funciona, en cambio, es aburrido y determinista, que es precisamente por lo que me fío. Preguntar como política, anclada a cosas que una regla puede ver — lo que hay en juego, la reversibilidad, el radio de la onda expansiva — y no a lo que el modelo sienta:

• Poner en cola el audio del coche: actúa. Equivocarse cuesta un toque.
• Una noche en casa: actúa, pero deja los compromisos abiertos — el valor por defecto reversible.
• Reservar nuestro sábado noche, cualquier cosa cara o difícil de deshacer: pregunta primero, siempre, según el calendario de la regla, y que la certeza sentida se aguante — y haz que al menos una pregunta sea abierta. «¿Hay algo de esta noche que deba saber?» es una pregunta que ningún registro puede colonizar.

Los lectores del ensayo de OrbitSpec reconocerán la forma: la pregunta de clarificación elegida por un motor determinista, con el modelo como invitado y nunca como anfitrión — las reglas como suelo, las sensaciones jamás soportando carga. Sigo llegando a la misma arquitectura desde direcciones distintas, y he dejado de creer que sea casualidad.

Y debajo de la ingeniería está la frase que este experimento se construyó para poner a prueba, y que vuelve confirmada y más afilada: todo lo que una máquina pueda fabricar se abarata, y lo que ninguna máquina puede hacer es saber si está bien — porque bien significa ajuste a una intención presente, y la intención presente nunca está en el registro. Noventa días de mis noches, cada entrada verdadera, y el único hecho que decide esta noche — un paseo caluroso, un aniversario, un episodio de despedida que no estoy listo para dejar atrás, una decisión que necesito rezar — vive en mí, no en el log. La memoria que la máquina tiene de quien he sido es conocimiento real. Solo que no es conocimiento de quién soy esta noche a las nueve y diez, de pie en la cocina con un perro jadeando, queriendo — contra noventa días de mi propia evidencia — un vaso de agua fría que plante cara.

Conóceme a la perfección. Y aun así pregunta — según calendario, y deja una pregunta abierta.