Wer zahlt, wenn die KI falschliegt? Ich habe die AGB von zehn Anbietern gelesen, um es herauszufinden

Hier ist eine einfache Frage an jedes Werkzeug, dem man etwas anvertrauen will, das zählt: Wenn du falschliegst und dein Falschliegen mich etwas kostet — wer zahlt?

Fragen Sie einen Statiker, und die Antwort lautet: seine Berufshaftpflicht, seine Zulassung und in schlimmen Fällen seine Freiheit. Fragen Sie einen Wirtschaftsprüfer: seine Vermögensschadenhaftpflicht und seine Unterschrift unter dem Abschluss. Fragen Sie eine Fluggesellschaft: eine Verordnung, in der die Entschädigungsbeträge abgedruckt sind. Das ist kein Detail dieser Berufe — es kommt der Definition eines Berufs ziemlich nahe: jemand, der für die Antwort geradesteht.

Nun fragen Sie einen KI-Assistenten. Besser noch: Fragen Sie den Vertrag dahinter, denn im Vertrag wohnt die ehrliche Antwort. In dem Synthese-Essay habe ich argumentiert, dass Rechtsschutz — ein durchgesetztes Nein und eine Person, die geradesteht, wenn etwas schiefgeht — einer der vier Orte ist, an die der Wert wandert, wenn Maschinen die Produktion billig machen. Also habe ich ein paar Tage damit verbracht, die aktuellen Verbraucher-AGB von zehn KI-Anbietern zu lesen: OpenAI, Anthropic, Google, Microsoft, Meta, xAI, Mistral, Perplexity, Midjourney und GitHub Copilot. Alle Zitate unten stammen aus den Fassungen, die gelten, während ich dies schreibe (ich nenne die Stichtage; AGB ändern sich, und die Durchsetzbarkeit mancher Klauseln hängt von der Rechtsordnung ab — dazu am Ende mehr).

Die Kurzfassung: Alle zehn Verträge machen dieselben vier Züge, in ungefähr derselben Reihenfolge, wie ein Tanz, den die Anwälte aller Beteiligten an derselben Akademie gelernt haben.

Zug eins: Nichts wird versprochen

Jeder einzelne der zehn eröffnet den Haftungsabschnitt mit derselben Beschwörungsformel, meist in Großbuchstaben, was im Vertragsrecht die Art ist zu schreien: AS IS.

OpenAI (AGB gültig ab 1. Januar 2026): "OUR SERVICES ARE PROVIDED 'AS IS.'" Anthropic: "THE SERVICES AND OUTPUTS ARE PROVIDED 'AS IS' AND 'AS AVAILABLE' WITHOUT WARRANTY OF ANY KIND." Meta: KIs und Outputs kommen "on an 'as is' and 'as available' basis," ohne Garantie, dass sie "safe, secure, or error-free" sein werden. Microsofts Services Agreement (gültig ab 30. September 2025) liefert das Meisterwerk des Genres: Die Dienste kommen "'AS IS' 'WITH ALL FAULTS' AND 'AS AVAILABLE'" — und dann, in einem Satz, den ich sechsmal gelesen habe, um sicherzugehen, dass er existiert: "YOU BEAR THE ENTIRE RISK OF USING THE SERVICES." (Sie tragen das gesamte Risiko der Nutzung der Dienste.)

Zwei Anbieter verdienen ehrenvolle Fußnoten. Google gibt tatsächlich eine positive Zusicherung — "We provide our services using reasonable skill and care" (wir erbringen unsere Dienste mit angemessener Sorgfalt und Fachkenntnis) —, bevor der Rest weitgehend ausgeschlossen wird, und Mistral sichert zu, dass seine Produkte im Wesentlichen ihrer Dokumentation entsprechen, bevor die Blockbuchstaben beginnen. Das sind echte, wenn auch bescheidene Versprechen, und in einem so trostlosen Genre ragen bescheidene Versprechen heraus wie Leuchttürme.

Zug zwei: Die Prüfpflicht gehört jetzt Ihnen

Der zweite Zug ist interessanter als der erste, denn er ist nicht bloß ein Schild — er ist ein Transfer. Jeder Vertrag sagt Ihnen, in überraschend klarer Sprache, dass das produktprägende Risiko real ist und dass es Ihre Aufgabe ist, damit umzugehen.

OpenAI: "Output may not always be accurate. You should not rely on Output from our Services as a sole source of truth or factual information, or as a substitute for professional advice." Anthropic, mit einer Formulierung, die ich für ihre Ehrlichkeit aufrichtig bewundere: Outputs "may contain material inaccuracies even if they appear accurate because of their level of detail or specificity" (können wesentliche Ungenauigkeiten enthalten, selbst wenn sie durch ihren Detailgrad akkurat wirken) — die vertragsrechtliche Übersetzung von mit voller Überzeugung falsch. xAIs AGB (gültig ab 10. April 2026) sind als einzige mutig genug, das branchenieigene Wort zu benutzen: Output "may sometimes... result in Output that contains 'hallucinations.'" Mistral, geradezu lieblich: "Mistral AI Products are not authoritative or infallible sources of information... always verify the reliability, accuracy, and completeness of the Output." GitHub, für Copilot: "You are responsible for reviewing, testing, and validating any Output before use."

Und dann gibt es Microsofts ergänzende Copilot-AI-Experiences-Bedingungen, die den klärendsten Satz dieses gesamten Rechercheprojekts enthalten: "The Online Services are for entertainment purposes." (Die Online-Dienste dienen Unterhaltungszwecken.)

Lesen Sie das noch einmal, und erinnern Sie sich dann, wofür diese Produkte beworben werden. Die Werbung sagt: Ihr arztähnlicher, anwaltsähnlicher, analystenähnlicher Assistent. Der Vertrag sagt: Unterhaltung; alles überprüfen; professioneller Rat wird separat verkauft, von Profis, die — siehe den Anfang dieses Essays — genau deshalb Profis sind, weil sie das Risiko tragen. Im Sparkling-Water-Experiment habe ich gemessen, wie ein Modell, das Ihre Historie kennt, die Absicht des heutigen Abends trotzdem nicht kennen kann. Die AGB sind derselbe Befund im Anzug: Der Anbieter, der das Modell am besten kennt, lehnt es vertraglich ab, für dessen Aussagen einzustehen.

Zug drei: die Obergrenze

Nichts wird also zugesichert, und Sie müssen alles überprüfen — aber nehmen wir an, das Schlimmste passiert trotzdem. Das Produkt liegt falsch, Sie haben sich darauf verlassen, und es hat Sie echtes Geld gekostet. Was schuldet Ihnen der Anbieter? Jeder Vertrag nennt eine Zahl, und diese Zahlen sind die komischsten Dokumente der Softwarebranche.

Im Gratis-Tarif — und so nutzt der Großteil der Menschheit diese Werkzeuge — reihen sich die Obergrenzen so auf: GitHubs AGB nennen überhaupt keinen Dollarbetrag: Die aufgezählten Schäden sind schlicht ausgeschlossen, die praktische Antwort lautet also null. Midjourney deckelt bei dem, was Sie in den letzten zwölf Monaten gezahlt haben, was in einer Gratis-Testphase ebenfalls null ist. Microsoft: "up to $10.00 if the Services are free" (bis zu 10,00 $, wenn die Dienste kostenlos sind) — zehn echte Dollar, etwa zehn Kaffee dort, wo ich lebe, für alles, was Copilot Ihnen in einem Monat angetan haben mag. OpenAI, Anthropic, xAI, Meta und Perplexity einigen sich auf den höheren Wert aus $100 oder einem Fenster Ihrer Zahlungen (zwölf Monate bei OpenAI und Meta; sechs bei Anthropic und Perplexity; xAI: was immer Sie gezahlt haben). Mistral, als französisches Haus, deckelt bei €100. Und die großzügigste Verbraucher-Haftungsobergrenze der künstlichen Intelligenz, der Gipfel des Vertrauens der Branche in ihre eigenen Produkte, gehört Google: zweihundert Dollar.

Jede dieser Zahlen steht neben einem Ausschluss von Folgeschäden — kein entgangener Gewinn, keine verlorenen Daten, nichts Nachgelagertes, "EVEN IF WE HAVE BEEN ADVISED OF THE POSSIBILITY OF SUCH DAMAGES." Die Struktur verdient es, klar ausgesprochen zu werden: Die Branche, die Investoren erzählt, ihre Produkte würden Medizin, Recht und Ingenieurwesen transformieren, erklärt ihren Nutzern schriftlich, dass Falschliegen höchstens den Preis eines guten Abendessens wert ist, und meist weniger.

Zug vier: Sie versichern die Anbieter

Der vierte Zug ist der, bis zu dem fast niemand weiterliest, und er ist derjenige, der die ganze Frage umkehrt. Sie kamen zum Vertrag mit der Frage: Wer zahlt mir, wenn die KI mir schadet? Der Vertrag beantwortet eine andere Frage: Sie zahlen uns, wenn Ihre Nutzung der KI uns schadet.

Freistellungsklauseln — Sie verpflichten sich, die Verluste und Anwaltskosten des Unternehmens für Ansprüche aus Ihrer Nutzung zu tragen — finden sich in den meisten der zehn. Anthropics Verbraucher-AGB haben eine. Perplexitys ist Standardware. Midjourneys erfasst Ansprüche "arising out of or relating to your use of the Services and Assets." GitHubs gilt ausdrücklich für KI-Output, den Sie in Ihre Produkte einbauen. Und xAIs ist das Breiteste, was ich in gut vierzig Seiten juristischem Text gefunden habe: Sie stellen das Unternehmen frei von Ansprüchen "arising from or related to your use of the Service and Output" (aus oder im Zusammenhang mit Ihrer Nutzung des Dienstes und des Outputs) — nicht Ihrem Missbrauch, nicht Ihrem Vertragsbruch: Ihrer Nutzung. Die Maschine generiert einen Absatz; Sie verwenden ihn; verklagt Sie ein Dritter deswegen, lautet die Antwort des Vertrags, dass Sie den Hersteller der Maschine verteidigen werden.

Das vollständige Rechtsschutzbild, zusammengesetzt: Für das Produkt wird nichts zugesichert, die Pflicht, seine Fehler zu fangen, liegt bei Ihnen, das Risiko seines Herstellers ist ungefähr auf den Preis eines Taschenbuchs pro Vorfall gedeckelt — und in mehreren Fällen sind Sie der Rückversicherer letzter Instanz für die Anbieter. Als Antwort auf die Frage „Wer steht gerade, wenn es falsch ist?" ist der moderne KI-Vertrag ein kleines Meisterwerk der Irreführung. Die Antwort sind Sie. Es waren immer Sie. Sie sind der Rechtsschutz.

Wo die echten Antworten stehen (und was sie kosten)

Zwei weitere Befunde, und sie wiegen schwerer als die Komik.

Erstens: Wenn es doch ein Versprechen gibt, achten Sie darauf, wer es bekommt. OpenAIs Geschäftskunden-AGB enthalten eine IP-Freistellung — OpenAI verteidigt den Kunden —, die in den Verbraucher-AGB fehlt. Metas Business-KI-Bedingungen enthalten die Freistellungsklausel, die den Verbraucher-KI-Bedingungen fehlt. Und Mistral, zu seiner aufrichtigen Ehre, stellt sogar gewöhnliche Nutzer von IP-Ansprüchen Dritter über seine Produkte frei — als einziger der zehn Anbieter mit einem Versprechen in den Verbraucher-AGB, das in diese Richtung fließt. Das Muster ist die These der Rechtsschutz-Adresse in einem Satz: Verantwortung existiert; sie wird separat verkauft, und sie hat einen Preis. Unternehmen verhandeln echte Freistellungen, weil Unternehmen Anwälte haben, die vor der Unterschrift meine Eingangsfrage stellen. Verbraucher klicken auf „Ich stimme zu".

Zweitens: Die Streitmaschinerie ist arrangiert, bevor Sie eintreffen. OpenAI, Microsoft und Perplexity verlangen bindende Schiedsverfahren mit Verzicht auf Sammelklagen (OpenAI und Perplexity bieten ein 30-Tage-Opt-out — ein Brief, den fast niemand abschickt). Midjourney verlangt ein Schiedsverfahren, in dem jede Seite ihre eigenen Anwälte bezahlt, egal wer gewinnt — bei einem Streitwert von $200 ist diese Klausel der Streit. xAI verzichtet auf das Schiedsverfahren, nimmt Ihnen aber Geschworene und Sammelklage und verlegt alles an bestimmte Gerichte in Texas, mit einer Klagefrist von ein bis zwei Jahren. Anthropic ist ein bemerkenswerter Ausreißer — keine Schiedsklausel und kein Sammelklageverzicht in den Verbraucher-AGB, schlicht die Gerichte von San Francisco —, ebenso Google, Meta, Mistral und GitHub. Wenn die Vordertür (Gewährleistung) zugeschweißt ist, verrät die Form der Hintertür (Verfahren), wie oft man erwartet, dass es jemand überhaupt versucht.

Der notwendige Ehrlichkeitsabsatz: Dies sind die auf die USA zugeschnittenen Verbraucherdokumente, zitiert aus den Fassungen mit den genannten Stichtagen, und sie sind die Eröffnungsposition der Anbieter, nicht das letzte juristische Wort. Verbraucherschutzrecht begrenzt in weiten Teilen der Welt, wie weit sich "AS IS" tatsächlich dehnen lässt — Metas eigene EU-Bedingungen lassen die $100-Obergrenze komplett fallen und akzeptieren unbegrenzte Haftung für Vorsatz und grobe Fahrlässigkeit, was Ihnen sagt: Die Obergrenzen sind eine Entscheidung, keine Naturkonstante. Gerichte werden irgendwann entscheiden, wie diese Klauseln gegen ein Produkt bestehen, das in selbstbewussten Ich-Sätzen spricht. Aber die Dokumente bleiben die ehrlichste verfügbare Aussage darüber, was die Hersteller die Worte ihrer Produkte für wert halten — ausgedrückt in der einzigen Sprache, die sich verzinst: Geld.

Die Adresse steht noch

Nichts davon ist, genau genommen, ein Skandal. Start-ups können keine unbegrenzte Haftung für eine Technologie zeichnen, die halluziniert; die Anwälte machen ihre Arbeit; ich würde ähnliche AGB schreiben, wenn ich eine Allzweck-Textmaschine an eine Milliarde Fremde auslieferte. Genau das ist der Punkt. Die Obergrenzen sind kein Fehler der Branche — sie sind die Branche, die Ihnen akkurat mitteilt, was die Antwort einer Maschine ist: ein probabilistisches Artefakt, hinter dem niemand steht, produziert zu Grenzkosten von fast nichts, zugesichert für exakt diesen Betrag.

Und darum ist Rechtsschutz eine Adresse, an der Wert wohnt und wohnen bleiben wird. Was eine Maschine herstellen kann, wird billig — und hier sind zehn Verträge, die bestätigen, dass kein Maschinenhersteller bereit ist, dafür geradezustehen. Der Berufsträger, der unterschreibt, die Kanzlei, die versichert ist, der Anbieter, der sagt „Wenn das falsch ist, stellen wir Sie schadlos" — ihre Knappheit steht jetzt geschrieben in vierzig Seiten Blockbuchstaben, eingepreist zwischen zehn und zweihundert Dollar. Wenn irgendwann jemand echte Verantwortung für Maschinen-Output im Verbrauchermaßstab verkauft, verkauft er das Seltenste auf diesem Markt. Bis dahin: Lesen Sie die AGB, und wissen Sie genau, was Sie immer schon sein würden: die Person, die geradesteht.