Des notes sur la mise en production de l'IA : RAG, agents et systèmes LLM, par un ingénieur sur le terrain.
Tout ce qu'une machine peut produire devient bon marché. Ce qu'aucune machine ne peut faire, c'est dire si c'est juste, répondre quand ça échoue, ajouter des heures à votre journée ou aimer quelqu'un. Ces quatre-là, c'est le travail désormais. Lire l'essai derrière ce modèle
Quand une pull request est ouverte, la mienne ou une autre que je dois relire, je demande désormais à l'agent de la lancer sur ma machine, d'essayer de la casser et de se filmer en train de le faire. Un paragraphe peut affirmer qu'un test a eu lieu. Un enregistrement doit le montrer, et décider de ce qu'il signifie reste mon travail.
Jev, de TypeSafe, n'écrira pas une phrase. Vous lui tendez un état et des questions typées, et il vous rend un choix, un score ou une probabilité oui/non, pour quatre millièmes de centime par décision sur mille tokens. La nouveauté, c'est la forme, qui remet l'autorité dans votre code, et le piège, c'est qu'une probabilité ressemble à un recours et n'en est pas un. J'ai lancé le pilote qu'il me faudrait avant de croire le moindre chiffre, sur mes propres essais avec le modèle ouvert qui a servi de doublure à Jev, et la réponse a été non.
L'IA dévore exactement le travail sur lequel les développeurs juniors apprenaient leur métier, le recrutement des débutants s'effondre de façon mesurable, et chaque senior capable de contrôler ce que produit une machine a d'abord été un junior que quelqu'un payait pour se tromper. Sur DHH qui recrute au « jusqu'où peuvent-ils aller », les 2 200 personnes qui ont postulé, et pourquoi une industrie qui cesse de fabriquer des seniors n'a rien compris à sa propre chaîne d'approvisionnement.
Nous vivons mieux que la plupart des rois qui ont jamais régné, et l'humeur de l'époque est une tristesse sourde que personne ne sait nommer. Un moine du désert du IVe siècle, lui, l'a nommée. Un économiste en a expliqué le mécanisme en 1971. Cet essai parle de l'acédie, la tristesse qui survient précisément au moment où le bien arrive, et de la raison pour laquelle une époque d'abondance infinie ne pouvait qu'en être l'âge d'or.
Un couple à vingt heures trente, sans plan et un téléphone chacun ; un samedi en famille qui se dissout dans les écrans. J'ai construit RotinaTop pour exactement ces deux moments : des défis d'aventure cachés sous une pellicule à gratter, un veto qui ne coûte rien, et une porte qui se referme derrière vous. Deux vignettes de ce que ça donne.
J'ai lu les conditions générales grand public de dix entreprises d'IA en posant à chacune la même question : si votre produit se trompe avec assurance et que cela me coûte quelque chose, qui paie ? Les réponses, mot pour mot : rien n'est garanti, c'est à vous de tout vérifier, le plafond de remboursement commence à dix dollars, et dans la plupart des cas c'est vous qui les assurez. Guide de terrain d'un recours que personne ne vend.
J'ai donné à un modèle de pointe un registre-exemple de 90 jours bâti sur mes vraies habitudes, puis j'ai fait en sorte que ce soir ne ressemble pas au registre. 180 runs notés plus tard : la mémoire n'aveugle pas le modèle quand l'indice est dans la pièce, le vrai produit de la mémoire est le silence des soirs ordinaires — et la seule fois où j'avais besoin d'une question, l'assistant qui savait tout a lancé précisément l'épisode que je fuyais, et m'a proposé une tisane pour l'occasion.
Vingt-six essais, six produits, une pratique de conseil et une saison à mesurer des choses que j'aurais pu me contenter d'affirmer. Relus comme une seule trace, ils exécutent tous le même mécanisme : l'IA rend gratuite la moitié bon marché de tout, et la moitié chère change d'adresse. Voici la carte des adresses (le jugement, la réponse, l'attention, la personne), et la raison pour laquelle ma foi a reconnu le territoire avant moi.
Une fonction avec un appel LLM à l'intérieur n'est pas un agent, et l'appeler ainsi n'est pas une simplification anodine. J'ai construit la même tâche d'audit de dépenses comme fonction, comme workflow et comme agent, lancé 150 exécutions notées et mesuré ce que le mot coûte réellement, puis fait grossir les données jusqu'à ce que l'unique coup de la fonction cesse d'exister et que l'agent soit la dernière architecture debout.
L'essai précédent soutenait que lorsque fabriquer ne coûte rien, choisir devient le travail, et que la curation revient comme profession. Cette fois, je l'ai mise en pratique : un site qui prend la liste de films du Vatican de 1995, celle qu'un bureau du Saint-Siège a publiée pour le centième anniversaire du cinéma, et qui étend sa discipline aux livres et à la musique. Construit en un jour, dans le langage visuel de vatican.va, avec la clause d'humilité conservée.
Seize essais en un mois pour un blog qui en produisait péniblement deux en trois ans. Voilà à quoi ressemble désormais le côté de l'offre, et chaque créateur en vit une version. Ce billet porte sur l'autre côté : ce qui arrive à l'attention, à la consommation et au paiement quand fabriquer cesse d'être la partie difficile. Le milieu meurt, la soirée devient l'unité de compte, la journée de travail tourne sur le même budget, et l'attention se révèle être un inventaire de ce que vous aimez.
Mon dernier article se terminait sur un programme qui achetait une licence, en utilisait un tiers et récupérait son remboursement au centime près. Celui-ci porte sur l'endroit où des paiements de ce genre vont réellement se régler. Une chaîne règle cent millions de transactions par jour, plus que les autres grandes réunies, transporte les dollars de Western Union et de Fiserv, et répond à une requête HTTP impayée avec des conditions qu'une machine peut payer. Le prix n'est pas encore d'accord, et un analyste aux 577,000 abonnés a une théorie sur le pourquoi. Chaque chiffre ici a une source et une date.
L'IA incarnée a besoin d'images de mains expertes faisant du vrai travail, et les gens qui les produisent les donnent. Musk dit que les robots finissent par rendre l'argent sans objet ; Léon XIV dit que survivre n'est pas participer. Entre ces deux affirmations s'étend une longue transition, et voici un système en état de marche pour y tenir une part : une guilde qui verse une part, mesurée contre le vrai runtime Solana. Chiffres inclus, et tous ne flattent pas l'idée.
Elon Musk annonce que les robots rendront l'argent inutile d'ici dix ans. Mais tous les métiers qui sont déjà passés par là disent la même chose : la rareté ne disparaît pas, elle se déplace. Voici où elle est allée la dernière fois, et où elle va maintenant.
Quand l'artefact est devenu gratuit, l'attention s'est déplacée vers la fabrication. C'est à la fois un canal marketing, une mécanique de vente et un modèle économique, et une deuxième foule se forme devant la vitre : les machines qui seront entraînées sur ces images.
Plus de mille personnes ont récemment regardé quelqu'un calculer un CRC à la main. Chacune d'elles possède une machine qui le ferait instantanément. Les chiffres de consultation nous disent quelque chose que les statistiques de clôture ne peuvent pas dire.
Le même site, le même outil, les mêmes quelques semaines. Une question fermée à moins huit, une réponse votée jusqu'au plafond. La différence entre les deux est le conseil d'écriture le plus utile de l'ère de l'IA.
Un tag exécuté en 2010 réapparaît sur des questions vivantes, l'appel à l'aide d'un étudiant a devancé les segfaults, et la communauté renégocie en public sa plus vieille règle. Ce que le retour des questions bannies dit du Q&A après l'automatisation des faits.
Je passe le plus clair de mon temps sur la couche applicative. Mais dès qu'un produit d'IA dépasse un seul modèle, il repose sur une couche dont ses utilisateurs ignorent l'existence : celle qui décide quel modèle répond, sur quel GPU, et ce qui se passe quand le matériel est plein. Elle ne peut pas les lâcher. Alors je l'ai construite.
Les réponses sont devenues gratuites, et les questions entre développeurs ont changé de forme. Celles qui ont encore besoin d'une personne sont celles qu'on nous avait appris à balayer.
L'IA dissout chaque blocage à la demande. Certains de ces moments ont toujours été du bruit. Les bons étaient ceux où se formait la compréhension, et la nouvelle compétence consiste à les distinguer les uns des autres.
La génération musicale par IA ressemble à un appel d'API et se comporte comme un projet d'infrastructure. J'ai construit la même intégration face à cinq fournisseurs pour que vous voyiez ce qui varie réellement, et ce qui ne doit jamais s'infiltrer dans votre produit.
Un enregistrement de quarante secondes, un modèle sous licence MIT et un GPU grand public lisent désormais chaque article de ce site à voix haute en six langues, avec ma voix. Voici le pipeline complet, chiffres inclus.
L'outil dont vous débattez est la partie qui se remplace en un jour. Personne ne pose de question sur celle qui a demandé des années.
Un modèle écrit désormais n'importe quel langage couramment. Cela rend sans valeur la moitié bon marché de la connaissance d'un langage, et rend la moitié coûteuse plus précieuse qu'elle ne l'a jamais été.
Lire le diff, c'est toute la relecture pour un type de changement, et une histoire que l'on se raconte pour un autre. La compétence rare que l'IA vous laisse, c'est de distinguer l'un de l'autre.
Deux des questions que les développeurs ne cessent de poser sont la même peur vue par les deux bouts. La réponse est oui, et sa raison vient de se renforcer, pas de s'affaiblir.
Sur internet, le conseil pour se défaire de la dépendance à l'IA se résume à retirer la béquille et à en baver. C'est juste pour un débutant, incomplet pour un professionnel, dont la vraie protection tient à une seule règle.
Fixez le trimestre avec le métier, encodez les objectifs en milestones GitHub, et laissez un forecaster publier les probabilités chaque semaine. Le métier apprend tôt s'il obtiendra ce qu'il a demandé, et les développeurs savent exactement ce que veut dire terminé.
Notes de terrain sur OrbitSpec, un moteur de clarification qui transforme les demandes vagues en Context Bundles typés et auditables avant qu'aucun modèle ne tourne, et pourquoi la fiabilité commence avant la réponse.
Notes de terrain sur plan-to-pr, un pipeline qui transforme une demande de fonctionnalité en tickets, en un point de contrôle d'approbation et en pull requests en brouillon, et pourquoi déléguer à des agents de code demande des artefacts, pas du chat.
Notes de terrain sur la construction de Smithproof, un plan de contrôle multi-tenant pour agents IA, et pourquoi la détection sans réponse et la politique sans application ne gouvernent rien.
Des fondamentaux des agents à l'écosystème des frameworks, plus un plan concret pour exposer vos outils internes via le Model Context Protocol.
Une brève introduction enthousiaste aux LLM comme GPT-4, et comment ils vous permettent de poser une question à un livre et d'obtenir des réponses tirées directement du texte.
Un système dans lequel vous voulez de l'IA, un risque que vous voulez faire évaluer, un plan dont vous n'êtes pas sûr, ou une idée que personne n'a encore construite. Si je peux aider, je vous le dirai, et je vous dirai exactement comment.
Parlez-moi de votre projet