Chi paga quando l'AI sbaglia? Ho letto i termini di dieci vendor per scoprirlo

Ecco una domanda semplice da porre a qualsiasi strumento a cui stai per affidare qualcosa che conta: se sbagli, e il tuo sbaglio mi costa qualcosa, chi paga?

Chiedilo a un ingegnere strutturale e la risposta è: la sua assicurazione di responsabilità professionale, la sua abilitazione e, nei casi peggiori, la sua libertà. Chiedilo a un commercialista: la sua copertura di indennizzo e la sua firma sulla dichiarazione. Chiedilo a una compagnia aerea: un regolamento con gli importi dei risarcimenti stampati dentro. Questo non è un dettaglio di quelle professioni — è vicino alla definizione stessa di professione: qualcuno che risponde della risposta.

Ora chiedilo a un assistente AI. Meglio ancora: chiedilo al contratto che ci sta dietro, perché è nel contratto che abita la risposta onesta. Nel saggio di sintesi sostenevo che il ricorso — un no fatto rispettare, e una persona che risponde quando le cose vanno male — è uno dei quattro luoghi in cui il valore si sposta quando le macchine rendono la produzione a buon mercato. Così ho passato qualche giorno a leggere gli attuali termini di servizio consumer di dieci vendor AI: OpenAI, Anthropic, Google, Microsoft, Meta, xAI, Mistral, Perplexity, Midjourney e GitHub Copilot. Tutte le citazioni che seguono provengono dalle versioni in vigore mentre scrivo (annoto le date di efficacia; i termini cambiano, e l'applicabilità di alcune clausole varia a seconda della giurisdizione — ne riparlo alla fine).

La versione breve: tutti e dieci i contratti fanno le stesse quattro mosse, più o meno nello stesso ordine, come una coreografia che gli avvocati di tutti hanno imparato alla stessa accademia.

Prima mossa: non si promette nulla

Ognuno dei dieci apre la sezione sulla responsabilità con lo stesso incantesimo, di solito in maiuscolo, che nel diritto dei contratti è il modo in cui si urla: AS IS.

OpenAI (termini in vigore dal 1° gennaio 2026): "OUR SERVICES ARE PROVIDED 'AS IS.'" Anthropic: "THE SERVICES AND OUTPUTS ARE PROVIDED 'AS IS' AND 'AS AVAILABLE' WITHOUT WARRANTY OF ANY KIND." Meta: le AI e gli output arrivano "on an 'as is' and 'as available' basis," senza alcuna garanzia che siano "safe, secure, or error-free." Il Services Agreement di Microsoft (in vigore dal 30 settembre 2025) firma il capolavoro del genere: i servizi arrivano "'AS IS' 'WITH ALL FAULTS' AND 'AS AVAILABLE'" — e poi, in una frase che ho riletto sei volte per accertarmi che esistesse davvero: "YOU BEAR THE ENTIRE RISK OF USING THE SERVICES." (l'intero rischio dell'uso dei servizi è a tuo carico)

Due vendor meritano note d'onore. Google offre in realtà una garanzia affermativa — "We provide our services using reasonable skill and care" (forniamo i nostri servizi con ragionevole perizia e cura) — prima di declinare quasi tutto il resto, e Mistral garantisce che i suoi prodotti saranno sostanzialmente conformi alla loro documentazione prima che comincino le maiuscole. Sono promesse reali, per quanto modeste, e in un genere così cupo le promesse modeste spiccano come fari.

Seconda mossa: il dovere di verifica adesso è tuo

La seconda mossa è più interessante della prima, perché non è soltanto uno scudo — è un trasferimento. Ogni contratto ti dice, in un linguaggio sorprendentemente piano, che il rischio che definisce il prodotto è reale, e che gestirlo è compito tuo.

OpenAI: "Output may not always be accurate. You should not rely on Output from our Services as a sole source of truth or factual information, or as a substitute for professional advice." Anthropic, con una frase che ammiro sinceramente per la sua onestà: gli output "may contain material inaccuracies even if they appear accurate because of their level of detail or specificity" (possono contenere inesattezze sostanziali anche quando sembrano accurati per il loro livello di dettaglio) — la resa in diritto contrattuale di sbagliato con sicurezza. I termini di xAI (in vigore dal 10 aprile 2026) sono gli unici abbastanza coraggiosi da usare la parola del settore: l'output "may sometimes... result in Output that contains 'hallucinations.'" Mistral, con dolcezza: "Mistral AI Products are not authoritative or infallible sources of information... always verify the reliability, accuracy, and completeness of the Output." GitHub, per Copilot: "You are responsible for reviewing, testing, and validating any Output before use."

E poi ci sono i termini supplementari Copilot AI Experiences di Microsoft, che contengono la singola frase più chiarificatrice di tutto questo progetto di ricerca: "The Online Services are for entertainment purposes." (i servizi online sono a scopo di intrattenimento)

Rileggila, e poi ricorda per che cosa vengono commercializzati questi prodotti. La pubblicità dice: il tuo assistente quasi-medico, quasi-avvocato, quasi-analista. Il contratto dice: intrattenimento; verifica tutto; la consulenza professionale si vende a parte, la vendono i professionisti, i quali — vedi l'apertura di questo saggio — sono professionisti proprio perché il rischio se lo caricano loro. Nell'esperimento Sparkling Water ho misurato come un modello che conosce il tuo storico non possa comunque conoscere l'intenzione di stasera. I termini di servizio sono la stessa scoperta in giacca e cravatta: il vendor, che conosce il modello meglio di chiunque altro, rifiuta per contratto di rispondere di ciò che dice.

Terza mossa: il tetto

Dunque nulla è garantito e devi verificare tutto — ma supponiamo che il peggio accada comunque. Il prodotto sbaglia, tu ti ci sei affidato, e ti è costato denaro vero. Che cosa ti deve il vendor? Ogni contratto nomina una cifra, e le cifre sono i documenti più divertenti del software.

Su un piano gratuito — che è il modo in cui la maggior parte dell'umanità usa questi strumenti — i tetti si allineano così. I termini di GitHub non nominano alcuna cifra in dollari: i danni elencati sono semplicemente esclusi, quindi la risposta pratica è zero. Midjourney si ferma a quanto hai pagato negli ultimi dodici mesi, che su una prova gratuita è di nuovo zero. Microsoft: "up to $10.00 if the Services are free" (fino a 10 dollari se i servizi sono gratuiti) — dieci dollari veri, una decina di caffè dalle mie parti, per qualunque cosa Copilot possa averti fatto in un mese. OpenAI, Anthropic, xAI, Meta e Perplexity si assestano sul maggiore tra 100 $ e una qualche finestra dei tuoi pagamenti (dodici mesi per OpenAI e Meta; sei per Anthropic e Perplexity; xAI, quello che hai pagato). Mistral, da buona francese, si ferma a 100 €. E il tetto di responsabilità consumer più generoso dell'intelligenza artificiale, la vetta della fiducia del settore nei propri prodotti, è quello di Google: duecento dollari.

Ognuno di questi tetti siede accanto a un'esclusione dei danni consequenziali — niente mancati profitti, niente dati persi, niente di niente a valle, "EVEN IF WE HAVE BEEN ADVISED OF THE POSSIBILITY OF SUCH DAMAGES" (anche qualora fossimo stati avvisati della possibilità di tali danni). La struttura merita di essere detta senza giri di parole: il settore che racconta agli investitori che i suoi prodotti trasformeranno la medicina, il diritto e l'ingegneria dice ai suoi utenti, per iscritto, che sbagliare vale al massimo il prezzo di una buona cena, e di solito meno.

Quarta mossa: sei tu ad assicurare loro

La quarta mossa è quella che quasi nessuno legge abbastanza a fondo da trovare, ed è quella che rovescia l'intera domanda. Sei arrivato al contratto chiedendo: chi paga me se l'AI mi danneggia? Il contratto risponde a una domanda diversa: tu paghi noi se il tuo uso dell'AI danneggia noi.

Le clausole di manleva — accetti di coprire le perdite e le spese legali dell'azienda per le rivendicazioni derivanti dal tuo uso — compaiono nella maggior parte dei dieci. I termini consumer di Anthropic ne hanno una. Quella di Perplexity è d'ordinanza. Quella di Midjourney copre le rivendicazioni "arising out of or relating to your use of the Services and Assets." Quella di GitHub si applica espressamente all'output AI che incorpori nei tuoi prodotti. E quella di xAI è la cosa più ampia che ho trovato in una quarantina di pagine di testo legale: li tieni indenni dalle rivendicazioni "arising from or related to your use of the Service and Output" (derivanti dal tuo uso del Servizio e dell'Output) — non dal tuo abuso, non dalla tua violazione: dal tuo uso. La macchina genera un paragrafo; tu lo usi; se un terzo fa causa per quel paragrafo, la risposta del contratto è che sarai tu a difendere il fabbricante della macchina.

Quindi, il quadro completo del ricorso, una volta montato: il prodotto non è garantito per nulla, il dovere di intercettarne gli errori è tuo, l'esposizione del suo fabbricante è limitata a circa il prezzo di un tascabile per incidente — e in parecchi casi sei tu l'assicuratore di ultima istanza per loro. Come risposta a "chi risponde quando sbaglia?", il contratto AI moderno è un piccolo capolavoro di depistaggio. La risposta sei tu. Sei sempre stato tu. Il ricorso sei tu.

Dove stanno le risposte vere (e quanto costano)

Altre due scoperte, e contano più della commedia.

Primo: quando una promessa c'è, guarda a chi va. I termini business di OpenAI includono una manleva sulla proprietà intellettuale — OpenAI che difende il cliente — che i termini consumer non hanno. I termini AI business di Meta contengono la clausola di indennizzo che manca ai termini AI consumer. E Mistral, va detto a suo autentico merito, manleva perfino gli utenti ordinari contro le rivendicazioni di terzi in materia di proprietà intellettuale sui suoi prodotti — l'unico vendor dei dieci i cui termini consumer contengono una promessa che scorre in quella direzione. Lo schema è la tesi dell'indirizzo del ricorso in una frase sola: la responsabilità esiste; si vende a parte, e ha un prezzo. Le imprese negoziano manleve vere perché le imprese hanno avvocati che pongono la mia domanda d'apertura prima di firmare. I consumatori cliccano "Accetto".

Secondo: il macchinario delle controversie è apparecchiato prima che tu arrivi. OpenAI, Microsoft e Perplexity impongono l'arbitrato vincolante con rinuncia alle class action (OpenAI e Perplexity offrono un opt-out di 30 giorni — una lettera che quasi nessuno spedisce). Midjourney impone un arbitrato in cui ciascuna parte paga i propri avvocati comunque vada a finire — su una controversia da 200 $, quella clausola è la controversia. xAI salta l'arbitrato ma si prende la tua giuria e la tua class action, e sposta tutto in specifici tribunali del Texas, con una scadenza di uno o due anni per fare causa. Anthropic è un'eccezione degna di nota — niente clausola di arbitrato e niente rinuncia alle class action nei suoi termini consumer, semplici tribunali di San Francisco — come lo sono Google, Meta, Mistral e GitHub. Quando la porta d'ingresso (la garanzia) è saldata, la forma della porta sul retro (la procedura) ti dice quanto spesso ci si aspetta che qualcuno provi a usarla.

Il paragrafo dell'onestà necessaria: questi sono i documenti consumer rivolti al mercato statunitense, citati dalle versioni in vigore alle date indicate, e sono la posizione di apertura dei vendor, non l'ultima parola legale. Il diritto dei consumatori in gran parte del mondo limita quanto "AS IS" possa davvero allungarsi — i termini UE di Meta lasciano cadere del tutto il tetto dei 100 $ e accettano responsabilità illimitata per dolo e colpa grave, il che ti dice che i tetti sono una scelta, non una costante fisica. Saranno i tribunali, prima o poi, a decidere come queste clausole reggeranno davanti a un prodotto che parla in sicure frasi in prima persona. Ma i documenti restano la dichiarazione più vera oggi disponibile di quanto i fabbricanti credano che valgano le parole dei loro prodotti, espressa nell'unica lingua che matura interessi: il denaro.

L'indirizzo è ancora lì

Niente di tutto questo è uno scandalo, a rigore. Le startup non possono sottoscrivere una responsabilità illimitata per una tecnologia che ha le allucinazioni; gli avvocati fanno il loro mestiere; scriverei termini simili anch'io, se spedissi una macchina di testo generalista a un miliardo di sconosciuti. Il punto è esattamente questo. I tetti non sono un difetto del settore — sono il settore che ti dice, con precisione, che cosa è la risposta di una macchina: un artefatto probabilistico di cui nessuno risponde, prodotto a un costo marginale di quasi nulla, garantito esattamente per quell'importo.

Ecco perché il ricorso è un indirizzo dove il valore vive e continuerà a vivere. Tutto ciò che una macchina può produrre diventa a buon mercato — ed ecco dieci contratti a confermare che ciò che nessun fabbricante di macchine farà è risponderne. Il professionista che firma, lo studio che porta un'assicurazione, il vendor che dice "se questo è sbagliato, ti risarciamo noi" — la loro scarsità è ora messa per iscritto in quaranta pagine di maiuscole, con un prezzo compreso tra dieci e duecento dollari. Quando qualcuno finalmente venderà responsabilità vera per l'output delle macchine su scala consumer, starà vendendo la cosa più rara di questo mercato. Fino ad allora, leggi i termini, e sappi esattamente che cosa saresti stato comunque: la persona che risponde.