Notas sobre lanzar IA en producción: RAG, agentes y sistemas con LLM, desde la perspectiva de un ingeniero en activo.
Todo lo que una máquina puede producir se abarata. Lo que ninguna máquina puede hacer es saber si está bien, responder cuando falla, añadir horas a su día o querer a alguien. Esas cuatro son el trabajo ahora. Leer el ensayo que hay detrás
Cuando se abre una pull request, sea mía o una que me toca revisar, ahora le pido al agente que la ejecute en mi máquina, que intente romperla y que se grabe mientras lo hace. Un párrafo puede asegurar que se hizo una prueba. Una grabación tiene que enseñarla, y decidir qué significa sigue siendo cosa mía.
Jev, de TypeSafe, no escribe ni una frase. Le entregas un estado y unas preguntas tipadas, y te devuelve una elección, una puntuación o una probabilidad de sí o no, a cuatro milésimas de céntimo por una decisión sobre mil tokens. La novedad es la forma, que devuelve la autoridad a tu código, y la trampa es que una probabilidad parece un recurso y no lo es. Ejecuté el piloto que pediría antes de creerme ningún número, sobre mis propios ensayos con el modelo abierto que sustituyó a Jev, y la respuesta fue no.
La IA se está comiendo exactamente el trabajo con el que aprendían los desarrolladores junior, la contratación de perfiles de entrada se hunde de forma medible, y todo senior capaz de auditar lo que produce una máquina fue antes un junior al que alguien pagó por equivocarse. Sobre DHH contratando por «hasta dónde podría llegar», las 2.200 personas que se presentaron, y por qué una industria que deja de fabricar seniors ha entendido mal su propia cadena de suministro.
Vivimos mejor que la mayoría de los reyes que han reinado jamás, y el ánimo de la época es una tristeza sorda que nadie sabe nombrar. Un monje del desierto del siglo IV le puso nombre. Un economista explicó su mecanismo en 1971. Este es un ensayo sobre la acedia, la tristeza que llega justo cuando llega el bien, y sobre por qué una era de abundancia infinita iba a ser siempre su hora dorada.
Una pareja a las ocho y media sin plan y con un móvil cada uno; un sábado en familia disolviéndose en pantallas. Construí RotinaTop exactamente para esos dos momentos: retos de aventura escondidos bajo una lámina rascable, un veto que no cuesta nada y una puerta que se cierra a tu espalda. Dos viñetas de cómo se vive.
He leído los términos de servicio de consumo de diez empresas de IA y le he hecho a cada una la misma pregunta: si tu producto se equivoca con total seguridad en sí mismo y eso me cuesta algo, ¿quién paga? Las respuestas, textuales: no se garantiza nada, debes verificarlo todo, el techo de reembolso empieza en diez dólares y, en la mayoría de los casos, el asegurador eres tú. Una guía de campo sobre el recurso que nadie vende.
Le di a un modelo de frontera un registro de ejemplo de 90 días construido con mis hábitos reales y luego hice que esta noche contradijera el registro. 180 ejecuciones evaluadas después: la memoria no ciega al modelo cuando la pista está en la habitación, el verdadero producto de la memoria es el silencio de las noches corrientes — y la única vez que necesitaba una pregunta, el asistente que lo sabía todo le dio al play justo al episodio que yo estaba evitando, y me ofreció un té para la ocasión.
Veintiséis ensayos, seis productos, una práctica de consultoría y una temporada midiendo cosas que podría haber simplemente afirmado. Releídos como una sola traza, todos ejecutan el mismo mecanismo: la IA vuelve gratuita la mitad barata de todo, y la mitad cara cambia de dirección. Este es el mapa de las direcciones (juicio, respuesta, atención, la persona), y la razón por la que mi fe reconoció el territorio antes que yo.
Una función con una llamada a un LLM dentro no es un agente, y llamarla así no es una simplificación inofensiva. Construí la misma tarea de auditoría de gastos como función, como workflow y como agente, ejecuté 150 corridas evaluadas y medí lo que la palabra cuesta de verdad, y luego escalé los datos hasta que la única jugada de la función dejó de existir y el agente fue la última arquitectura en pie.
El ensayo anterior sostenía que, cuando hacer es gratis, elegir se convierte en el trabajo, y la curaduría vuelve como profesión. Aquí la he puesto en práctica: un sitio que toma la lista de cine del Vaticano de 1995, la que un organismo de la Santa Sede publicó por el centenario del cine, y extiende su disciplina a los libros y a la música. Construido en un día, en el lenguaje visual de vatican.va, con la cláusula de humildad conservada.
Dieciséis ensayos en un mes en un blog que antes apenas conseguía sacar dos en tres años. Así es ahora el lado de la oferta, y todo el que hace cosas está viviendo alguna versión de esto. Este ensayo va del otro lado: qué le ocurre a la atención, al consumo y al pago cuando hacer deja de ser la parte difícil. La franja media muere, la noche se convierte en la unidad de cuenta, la jornada laboral funciona con el mismo presupuesto, y la atención resulta ser un inventario de lo que amas.
Mi último artículo terminaba con un programa que compraba una licencia, usaba un tercio y se llevaba su reembolso al céntimo. Este trata de dónde se liquidarán de verdad pagos como ese. Una cadena liquida cien millones de transacciones al día, más que el resto de las grandes juntas, transporta los dólares de Western Union y de Fiserv, y responde a una petición HTTP impagada con condiciones que una máquina puede pagar. El precio todavía no está de acuerdo, y un analista con 577,000 suscriptores tiene una teoría sobre el porqué. Cada cifra de este artículo tiene fuente y fecha.
La IA encarnada necesita metraje de manos expertas haciendo trabajo real, y la gente que lo produce lo está regalando. Musk dice que los robots acaban con el dinero vuelto irrelevante; León XIV dice que sobrevivir no es participar. Entre esas dos afirmaciones hay una transición larga, y esto es un sistema funcional para conservar una participación en ella: un gremio que paga una parte, medido contra el runtime real de Solana. Con números incluidos, y no todos favorecen la idea.
Elon Musk dice que los robots harán innecesario el dinero dentro de una década. Pero todos los oficios que ya han pasado por esto dicen lo mismo: la escasez no desaparece, se muda. Aquí está adónde fue la última vez, y adónde va ahora.
Cuando el artefacto se volvió gratis, la atención se mudó al proceso de hacer. Eso es a la vez un canal de marketing, una mecánica de ventas y un modelo de negocio, y hay una segunda multitud formándose junto al cristal: las máquinas que se entrenarán con esas grabaciones.
Más de mil personas vieron hace poco a alguien calcular un CRC a mano. Todas ellas tienen una máquina que lo haría al instante. Las cifras de visitas nos están diciendo algo que las estadísticas de cierre no pueden decir.
El mismo sitio, la misma herramienta, las mismas pocas semanas. Una pregunta cerrada a menos ocho, una respuesta votada por las nubes. La diferencia entre ellas es el consejo de escritura más útil de la era de la IA.
Un tag ejecutado en 2010 ha vuelto a aparecer en preguntas vivas, la súplica de ayuda de un estudiante superó a los segfaults, y la comunidad está renegociando en público su regla más antigua. Lo que el regreso de las preguntas prohibidas dice sobre el Q&A después de que los hechos se automatizaran.
Paso la mayor parte del tiempo en la capa de aplicación. Pero en cuanto un producto de IA crece más allá de un modelo, pasa a apoyarse en una capa que sus usuarios ni saben que existe: la que decide qué modelo responde, en qué GPU, y qué pasa cuando el hardware está lleno. No puede fallarles. Así que la construí.
Las respuestas pasaron a ser gratis y las preguntas entre desarrolladores cambiaron de forma. Las que todavía necesitan a una persona son las que nos enseñaron a menospreciar.
La IA disuelve cualquier atasco en cuanto se lo pides. Algunos de esos momentos siempre fueron ruido. En los adecuados era donde se formaba la comprensión, y la nueva habilidad es distinguir unos de otros.
La generación de música con IA parece una llamada a una API y se comporta como un proyecto de infraestructura. Construí la misma integración contra cinco proveedores para que veas qué es lo que realmente varía y qué no debería colarse nunca en tu producto.
Una grabación de cuarenta segundos, un modelo con licencia MIT y una GPU de consumo leen ahora en voz alta cada artículo de este sitio en seis idiomas, con mi voz. Aquí tienes el pipeline completo, números incluidos.
La herramienta por la que discutes es la parte que puedes cambiar en un día. Nadie pregunta por la parte que llevó años.
Ahora un modelo escribe cualquier lenguaje con fluidez. Eso deja sin valor la mitad barata de conocer un lenguaje y hace que la mitad cara valga más que nunca.
Leer el diff es toda la revisión para un tipo de cambio y un cuento que te cuentas a ti mismo para otro. La habilidad escasa que la IA te deja es distinguir cuál es cuál.
Dos de las preguntas que los programadores no dejan de hacer son el mismo miedo desde extremos opuestos. La respuesta es sí, y el motivo acaba de reforzarse, no de debilitarse.
El consejo de internet para romper la dependencia de la IA es quitar la muleta y batallar. Es acertado para un principiante e incompleto para un profesional, cuya verdadera salvaguarda es una sola regla.
Fija el trimestre con el negocio, codifica los objetivos como milestones de GitHub y deja que un forecaster publique las probabilidades cada semana. El negocio sabe pronto si va a recibir lo que pidió, y los desarrolladores saben exactamente qué significa terminado.
Notas de campo de OrbitSpec, un motor de clarificación que convierte peticiones vagas en Context Bundles tipados y auditables antes de que se ejecute ningún modelo, y por qué la fiabilidad empieza antes de la respuesta.
Notas de campo sobre plan-to-pr, un pipeline que convierte una petición de funcionalidad en tickets, una puerta de aprobación y pull requests en borrador, y por qué delegar en agentes de código exige artefactos, no chat.
Notas de campo sobre la construcción de Smithproof, un plano de control multiinquilino para agentes de IA, y por qué la detección sin respuesta y la política sin aplicación no gobiernan nada.
Desde los fundamentos de los agentes hasta el ecosistema de frameworks, además de un plan práctico para exponer tus herramientas internas a través del Model Context Protocol.
Una breve y entusiasta introducción a los LLM como GPT-4, y cómo te permiten hacerle preguntas a un libro y obtener respuestas directamente del texto.
Un sistema al que quieres añadir IA, un riesgo que quieres sopesar, un plan del que no estás seguro, o una idea que nadie ha construido todavía. Si puedo ayudarte, te lo diré, y te diré exactamente cómo.
Cuéntame qué quieres construir