Microsoft hat das perfekte Geständnis geschrieben — und die Rechnung zahlst du

I. Das Achtzig-Milliarden-Spielzeug

Es gibt ein Dokument, das Sie lesen sollten. Nicht lang, nicht versteckt, ohne juristische Vorbildung verständlich. Unter microsoft.com/en-us/microsoft-copilot/for-individuals/termsofuse, aktualisiert am 24. Oktober 2025, enthält es einen Satz, den man ernst nehmen sollte. Im Abschnitt in Großbuchstaben und Fett, „IMPORTANT DISCLOSURES & WARNINGS“, lautet er: Copilot ist als ausschließlich zu Unterhaltungszwecken zu betrachten. Er kann Fehler machen und nicht wie erwartet funktionieren. Verlassen Sie sich nicht auf Copilot für wichtige Ratschläge. Nutzen Sie Copilot auf eigenes Risiko.

Wenn Ihnen das wie die Klausel einer Meme-App vorkommt, kann ich es nachvollziehen. Aber wir reden über das Produkt, das Microsoft in Windows 11 integriert hat, in Excel, PowerPoint, Teams, Outlook — ins Herz einer Suite, die täglich über 430 Millionen Menschen nutzen. Das Produkt, für das Microsoft im FY2025 rund 80 Milliarden Dollar KI-Capex aufgewendet hat — Rechenzentren, Infrastruktur, Rechenkapazität —, plus die kumulierten rund 13 Milliarden Investitionen in OpenAI, dessen Technologie die zugrundeliegenden Modelle speist. Das Produkt, das Großkonzerne 30 $ pro Nutzer und Monat zahlen, KMU 21 (mit den Aktionen des ersten Halbjahrs 2026 18). Die ToU dieses Produkts sagen: es ist ein Spielzeug.

Microsofts Reaktion, als die Klausel Anfang April 2026 in den sozialen Medien zirkulierte, war voraussehbar mechanisch. Ein Sprecher erklärte gegenüber PCMag, es handle sich um „Legacy-Sprache“, die „die heutige Produktnutzung nicht mehr widerspiegelt“ und beim „nächsten Update geändert“ werde. Kein Datum. Keine bindende Zusage. Keine Erklärung, warum eine Sprache, die die Realität nicht widerspiegelt, monatelang in den Rechtstexten geblieben ist, unter den Augen desselben Rechtsteams, das sie geschrieben hat. Der Sprecher redete, als hätte jemand vergessen, ein Schild auf einer geschlossenen Baustelle abzunehmen. Aber geschlossene Baustellen rechnen keine 30 $ pro Sitz.

Versuchung: das als Patzer der Rechtsabteilung abzutun. Falsch. ToU werden nicht aus Versehen verfasst. Anwaltsteams wägen jedes Wort, weil sie wissen, dass es im Gericht verwendet wird. „Entertainment“ ist kein träger Synonym für „experimentell“ oder „beta“. Im angelsächsischen Recht hat es eine präzise juristische Bedeutung: die Kategorie, die schützt, wer ausdrücklich nicht-faktische Inhalte produziert (Spiele, Fiktion, Simulationen). Ein Produkt als „for entertainment purposes only“ zu erklären, bedeutet, dass kein vernünftiger Nutzer erwarten dürfe, dass die Antworten genau, verlässlich oder für irgendeinen praktischen Zweck geeignet seien.

Man könnte einwenden, die Zahlen erzählen anders. Dass Copilots Adoption langsamer ist als erwartet. Dass Microsoft selbst weiß, dass das Produkt Probleme hat. Stimmt. Im FY2026/Q2 hatten nur 15 Mio. von 450 Mio. zahlenden gewerblichen Sitzen ein M365-Copilot-Abo: 3,3 %. Der US-Anteil zahlender Abonnenten schrumpfte in sechs Monaten um 39 % (von 18,8 % im Juli 2025 auf 11,5 % im Januar 2026). Der NPS zur Antwortgenauigkeit fiel laut Recon Analytics zwischen Juli und September 2025 von –3,5 auf –24,1. 44,2 % der Copilot-Abbrecher nennen Misstrauen in die Antworten als Hauptgrund. Können Beschäftigte zwischen Copilot, ChatGPT und Gemini wählen, entscheiden sich nur 8 % für Microsoft.

Diese Zahlen mildern das Problem nicht. Sie verschärfen es. Sie zeigen, dass Microsoft genau weiß, das Produkt sei nicht zuverlässig — sagt es in juristischen Dokumenten — und es weiter als Enterprise-Produktivitätswerkzeug verkauft. Satya Nadella nannte Copilot vor Investoren „a true daily habit“. Das Marketing präsentiert ihn als den Assistenten, der die Arbeit verändert. Die ToU sagen: ein Spielzeug. Kein Widerspruch. Strategie.

II. Der Chor der Disclaimer

Es wäre intellektuell unredlich, Microsofts Klausel als Anomalie darzustellen. Sie ist keine. Sie ist der spektakulärste Fall eines Musters durch die ganze KI-Branche, das es zu kartieren lohnt.

OpenAI warnt in seinen ToU davor, sich auf Outputs als einzige Wahrheits- oder Faktenquelle zu verlassen, und begrenzt seine Gesamtsumme der Haftung auf 100 $ oder den in den letzten zwölf Monaten gezahlten Betrag. Google schreibt in den Gemini-ToU, sich nicht auf die Dienste für medizinische, mentale, juristische, finanzielle oder andere fachliche Beratung zu verlassen. xAI, Musks Firma, warnt, ihre KI sei „probabilistisch“ und könne fehlerhafte Outputs erzeugen. Keine dieser Firmen ist bis zur Formel „for entertainment purposes only“ gegangen. Das bleibt Microsofts Exklusivität.

Der Unterschied zu den anderen ist nicht inhaltlich. Er ist Nuance. Alle großen KI-Anbieter bauen eine juristische Mauer zwischen dem verkauften Produkt und den Folgen seiner Nutzung. Sie tun das im Wissen, dass ihre Modelle falsche, irreführende, potenziell schädliche Outputs erzeugen können — und tun. Im August 2024 identifizierte Copilot fälschlicherweise den deutschen Journalisten Martin Bernklau als verurteilten Pädokriminellen und Betrüger und gab seine Heimadresse aus. Microsoft sperrte Anfragen zu Bernklau erst nach einer Datenschutzbeschwerde. Keine Grenzfälle. Normalbetrieb eines probabilistischen Systems, das kommerziell als deterministisch verkauft wird.

Und Disclaimer wirken vor Gericht. Am 19. Mai 2025 erließ der Superior Court des Gwinnett County, Georgia, ein summary judgment zugunsten von OpenAI in Walters v. OpenAI (23-A-04860-2). Radiomoderator Mark Walters hatte OpenAI verklagt, nachdem ChatGPT auf Anfrage eines Journalisten eine falsche Zusammenfassung einer Klage erzeugte, in der Walters der Veruntreuung zulasten der Second Amendment Foundation beschuldigt war. Das Gericht wies die Klage aus drei unabhängigen Gründen zurück: die Aussagen seien vernünftigerweise nicht als reale Fakten zu verstehen (auch weil ChatGPT den Journalisten auf seine Grenzen hingewiesen hatte und die ToU explizite Disclaimer enthielten); Walters habe weder Fahrlässigkeit noch malice dargelegt; und Walters selbst habe zugegeben, keinen Schaden erlitten zu haben. Eine Entscheidung auf mehreren Beinen, also nicht nur auf den Disclaimern. Aber sie wogen — und wiegen. Das Gericht erkannte ausdrücklich, dass die wiederholten Hinweise auf „Halluzinationen“ jede vernünftige Erwartung an faktische Genauigkeit der Nutzerseite untergruben.

Hier halten viele inne, empört. Aber hier muss der Diskurs präziser werden — nicht alle Disclaimer sind gleich, dienen demselben Zweck oder sind an sich negativ.

Der EU AI Act, Verordnung 2024/1689, verlangt ausdrücklich, dass Anbieter von KI-Systemen die Grenzen ihrer Produkte kommunizieren. Artikel 13 verlangt, dass Hochrisikosysteme so transparent gestaltet sind, dass Deployer die Outputs interpretieren und sachgerecht nutzen können, und dass sie mit knappen, vollständigen, korrekten und klaren Anleitungen zu Eigenschaften, Fähigkeiten und Leistungsgrenzen versehen sind. Artikel 14 verlangt wirksame menschliche Aufsicht und schreibt vor, dass die mit Aufsicht Betrauten in die Lage versetzt werden, sich der möglichen Tendenz bewusst zu bleiben, sich automatisch oder übermäßig auf Outputs zu verlassen — den „automation bias“. Artikel 50 verlangt, Nutzer darüber zu informieren, dass sie mit einem KI-System interagieren, und generierte Inhalte als solche zu kennzeichnen.

Zu sagen „dieses KI-System kann Fehler machen, prüfe stets, vertraue nicht blind“, ist also nicht nur legitim. Es ist Pflicht. Europa hat festgelegt, dass Transparenz über KI-Grenzen eine Säule von Sicherheit und Vertrauen ist. Der Nutzer muss wissen, womit er es zu tun hat, welche Risiken bestehen, und in der Lage sein, jeden Output zu ignorieren oder zu überschreiben. Das ist der Rahmen, dem jedes seriöse Unternehmen folgen sollte.

Aber etwas anderes ist es zu sagen „dieses System hat folgende Grenzen, so überwacht man es sicher“. Etwas anderes „das ist ein Spielzeug, nutz’ es auf eigenes Risiko, wir garantieren nichts“. Erste Formel: Transparenz. AI-Act-Konformität. Verantwortungsakt, der den Deployer zur Arbeit befähigt. Zweite Formel: als Transparenz verkleidete Verantwortungsabschiebung. Sie befähigt den Nutzer nicht zur sachgerechten Nutzung — sie macht ihn unfähig zum Regress, wenn etwas schiefgeht.

Der AI Act verlangt die Erklärung der Grenzen, um sicheren Gebrauch zu ermöglichen. Die ToU von Microsoft erklären die Grenzen, um Regress zu verhindern. Der eine dient dem Nutzer. Der andere der Rechtsabteilung. Und wenn ein US-Gericht Anbieter-Disclaimer beim Abweisen einer Diffamierungsklage positiv bewertet, belohnt es nicht zwangsläufig Transparenz. Es nimmt Legalese zur Kenntnis.

III. Die Richtlinie, die alles ändert (und der blinde Fleck)

Bis zum 9. Dezember 2026 müssen die EU-Mitgliedstaaten die Richtlinie 2024/2853, die neue Produkthaftungsrichtlinie, in nationales Recht umsetzen. Erste Modernisierung des EU-Produkthaftungsregimes seit vierzig Jahren. Für Unternehmen, die Software und KI-Systeme produzieren, integrieren oder vertreiben, sind die Folgen tiefgreifend.

Die Richtlinie definiert zunächst „Produkt“ neu. Die alte Richtlinie von 1985 war für eine Welt physischer Objekte konzipiert: Autos, Haushaltsgeräte, Spielzeug. Die neue schließt Software ausdrücklich ein, unabhängig von Bereitstellung oder Nutzung — embedded, standalone, Cloud, SaaS. Firmware, Betriebssysteme, Anwendungen sind erfasst. Die Erwägungsgründe stellen klar, dass auch KI-Systeme unter den Begriff fallen. Software ist kein Dienst mehr, der der Produkthaftung entgleitet. Sie ist Produkt. Damit objektive Haftung: Verschulden muss nicht nachgewiesen werden. Es genügt, Mangel und Schadenskausalität zu zeigen.

Dann die Frage der Haftungsausschlüsse. Artikel 10 verlangt, dass die Mitgliedstaaten sicherstellen, dass die Haftung eines Wirtschaftsakteurs gegenüber dem Geschädigten nicht durch Vertragsklausel oder nationales Recht begrenzt oder ausgeschlossen werden kann. Die Formulierung lässt keine Mehrdeutigkeit. Disclaimer in den ToU, Haftungsbegrenzungsklauseln, Formeln „as is“ und „for entertainment purposes only“ — sobald ein europäischer Verbraucher von einem mangelhaften Produkt geschädigt wird, sind sie wertlos.

Die transatlantische Tragweite muss verstanden werden. Die Klausel „Copilot is for entertainment purposes only“ wird in den USA weiter wirken, wo Walters v. OpenAI bestätigte, dass Gerichte Disclaimer ernst nehmen. In Europa wird sie nach Umsetzung unanwendbar. Erzeugt Copilot einen mangelhaften Output, der einer natürlichen Person Schaden verursacht (Tod, Verletzung, medizinisch anerkannte psychische Schäden, Zerstörung oder Beschädigung nicht-beruflicher Daten, private Sachschäden), haftet der Anbieter. Egal, was in den ToU steht.

Die Richtlinie schreibt auch die Beweislastregeln neu, und hier wird es brisant. Sie führt Vermutungen zugunsten des Geschädigten ein. Legt der Beklagte einschlägige Informationen nicht offen, wird der Mangel vermutet. Verstößt das Produkt gegen verbindliche nationale oder EU-Vorgaben, wird der Mangel vermutet. Bei offensichtlicher Fehlfunktion bei vernünftigerweise vorhersehbarem Gebrauch ebenso. Stößt der Geschädigte auf „übermäßige Schwierigkeiten“ beim Beweis des Mangels wegen technischer oder wissenschaftlicher Komplexität, können Gerichte sowohl den Mangel als auch die Kausalität vermuten. Bei KI-Systemen, deren interne Opazität strukturell ist, wird diese Vermutung zur Regel. Der Geschädigte muss nicht erklären, wie das Modell den Falschoutput erzeugte. Er muss nachweisen, dass der Output mangelhaft war und dass der Schaden daraus folgte.

Die PLD verflicht sich mit dem gesamten EU-Rechtsrahmen. Nichteinhaltung der Anforderungen des Cyber Resilience Act (Security-by-Design, Schwachstellenmanagement, Sicherheitsupdates) kann eine Mängelvermutung begründen. Dasselbe gilt bei Verletzung der NIS2-Pflichten. Und dasselbe gilt implizit für AI-Act-Anforderungen: ein KI-System, das Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit nicht erfüllt, verstößt gegen verbindliche EU-Vorgaben — also ein System, für das die PLD den Mangel vermuten kann.

Der Kurzschluss ist mit bloßem Auge sichtbar. Der AI Act verlangt von Anbietern die Erklärung der Grenzen, um sicheren Gebrauch zu ermöglichen. Die PLD sagt: verursacht das Produkt Schaden, haftet der Anbieter unabhängig von Disclaimern. Der Anbieter muss informieren, dass das System irren kann, kann diese Information aber nicht als Schutzschild verwenden, wenn das System tatsächlich irrt. Ein kohärentes, verbraucherschützendes Regime. Es erzeugt aber eine starke Spannung zwischen Transparenzpflicht und Unmöglichkeit, Transparenz als Schutzschild zu nutzen.

Für Microsoft handhabbar. Für die Mitte der Kette potenziell tödlich.

IV. Wer modifiziert, zahlt: der Integrator als struktureller Sündenbock

Die PLD sagt nicht nur, dass der Software-Hersteller haftet. Sie weitet die Kette potenziell haftender Wirtschaftsakteure mit Kaskadenlogik, damit der EU-Verbraucher stets einen erreichbaren Ansprechpartner in der Union hat. Sitzt der Manufacturer außerhalb der EU, haftet der Importeur. Fehlt ein klar identifizierbarer Importeur, haftet der bevollmächtigte Vertreter. Dann der Fulfilment Service Provider. Dann der Vertreiber, sofern er nicht binnen eines Monats ab Anfrage des Geschädigten den einschlägigen Akteur in der Kette nennt. Die Haftung ist gesamtschuldnerisch: Mehrere für denselben Schaden Verantwortliche haften gemeinsam, jeder für das Ganze.

So weit, so vernünftig. Aber eine Figur in der Kette behandelt die PLD besonders streng — und sie ist entscheidend, um die praktischen Folgen der „entertainment only“-Klausel zu verstehen: wer ein Produkt nach Inverkehrbringen wesentlich verändert, gilt als Manufacturer des veränderten Produkts und haftet, soweit der Mangel aus der Veränderung resultiert. Die Erwägungsgründe stellen klar: eine wesentliche Veränderung kann auch aus einem Software-Update, einem Upgrade oder dem kontinuierlichen Lernen eines KI-Systems stammen. Das so veränderte Produkt gilt als zu dem Zeitpunkt in den Verkehr gebracht, in dem die Veränderung tatsächlich erfolgt.

Stellen Sie sich die Praxis vor. Ein System Integrator, eine Softwarebude, ein IT-Berater nimmt Copilot und integriert ihn in einen Unternehmens-Workflow. Konfiguriert Prompts, schließt Kunden-Datenquellen an, personalisiert Antworten, automatisiert Flüsse. Verändert er das Produkt wesentlich? Nach PLD sehr wahrscheinlich ja. In dem Moment, in dem du ein generalistisches KI-Modell für einen spezifischen Kontext spezialisierst, schaffst du ein anderes Produkt. Erzeugt dieses veränderte Produkt einen mangelhaften Output mit Schaden, haftet der Integrator als Manufacturer.

Artikel 12 sieht spezifischen Schutz für Mikro- und Kleinunternehmen vor, die mangelhafte Software produzieren, die in das Produkt eines anderen integriert ist. Diese Unternehmen können vertraglich mit dem Endprodukt-Manufacturer vereinbaren, vor Regressforderungen geschützt zu sein. Doch dieser Schutz hat zwei Grenzen, die seinen Nutzen drastisch verringern. Erste: er schützt das Mikro/Kleinunternehmen in keinem Fall vor einer direkten Klage des Verbrauchers. Der Verbraucher kann den Integrator immer direkt verklagen, und der Integrator haftet. Zweite: Schutz vor Regressforderungen verlangt eine vertragliche Vereinbarung mit dem Manufacturer. Microsoft hat keine Pflicht und keinen Anreiz, solche Vereinbarungen zu gewähren. Ihre ToU sagen schon: das Produkt ist „for entertainment purposes only“ und der Nutzer ist „solely responsible“ für jede aufgrund der Outputs getroffene Handlung. In einer eventuellen Regressklage wird Microsoft sagen können: wir haben euch gewarnt. Ihr habt entschieden, es in ein professionelles Produkt einzubauen. Es ist nicht unsere Schuld, wenn ihr es einem Kunden als zuverlässig verkauft habt, obwohl wir selbst gesagt haben, es sei ein Spielzeug.

Die PLD verbietet, Verantwortung über Vertragsklauseln nach unten — zum Verbraucher — abzuwälzen. Aber sie verbietet nicht, dass Große sich weigern, vertragliche Schutzvorkehrungen nach oben — zwischen Integrator und Manufacturer — zu gewähren. Resultat: der Integrator ist dem Verbraucher ausgesetzt, ohne sich vertraglich schützen zu können, und hat keinerlei Garantie, sich wirksam an Microsoft zu halten. Microsoft hat die Anwaltsteams, die bevollmächtigten Vertreter in jedem Mitgliedstaat, die Finanzmasse, das Verfahren zu absorbieren. Der Integrator mit zehn Personen in Pescara, Brno, Lissabon nicht.

Naheliegender Einwand: der Integrator kann und muss die im AI Act vorgesehene menschliche Aufsicht implementieren. Verifikationsprozesse, Schulungen, Output-Aufsicht. Stimmt — der verantwortliche Integrator wird das tun und muss es auch wegen seiner eigenen Pflichten als Deployer im AI Act. Aber die PLD fragt nicht, ob du dein Bestes gegeben hast. Die PLD fragt, ob das Produkt mangelhaft war und ob der Mangel den Schaden verursacht hat. Ein falscher Output eines in einen professionellen Workflow integrierten KI-Systems, der einer Person schadet, ist ein mangelhaftes Produkt, unabhängig von der Anzahl implementierter Aufsichtsschichten. Du kannst alles richtig gemacht haben und trotzdem haften.

Denken Sie an ein KI-System, das in eine ERP-Software integriert ist und einen falschen Finanzbericht erzeugt, der zu einer falschen Investitionsentscheidung führt. Oder an einen KI-Assistenten in einem CRM, der eine diffamierende Mitteilung über einen Kunden erzeugt. Oder an ein in eine Gesundheitsplattform integriertes Analysesystem, das eine falsche Indikation gibt, die einen Diagnoseweg beeinflusst. In all diesen Fällen kann der Geschädigte unter PLD den Integrator verklagen. Der Integrator ist da, in der EU, erreichbar, mit Steuernummer und Bankkonto. Microsoft ist in Redmond. Und in seinen ToU steht, Copilot sei zur Unterhaltung.

V. Die Rechnung und wer sie zahlt

Es gibt einen Moment in der Tech-Regulierung, in dem klar wird, dass die Regeln für eine Welt geschrieben wurden, die nicht mehr existiert. Die alte Produkthaftungsrichtlinie von 1985 war für eine Welt physischer Produkte konzipiert, hergestellt von identifizierbaren Firmen, vertrieben über lineare Ketten, genutzt von Verbrauchern, die ihre Sicherheit vernünftigerweise beurteilen konnten. Die neue PLD ist ein notwendiges, in vielen Hinsichten bewundernswertes Update: sie weitet den Schutz auf Software, senkt die Hürden für Verbraucher, führt Vermutungen ein, die die Informationsasymmetrie ausgleichen. Aber die regulierte Welt besteht nicht aus linearen Ketten. Sie besteht aus überlagerten Schichten, aus APIs, die APIs aufrufen, aus probabilistischen Modellen, deren innere Funktionsweise nicht einmal die Erbauer ganz verstehen.

Die logische Architektur des EU-Rechtsrahmens ist die fortschrittlichste der Welt. Der AI Act setzt Pflichten zu Transparenz, menschlicher Aufsicht, Risikomanagement. Der Cyber Resilience Act fordert Security-by-Design und kontinuierliche Sicherheitsupdates. NIS2 weitet Cybersicherheit auf kritische Sektoren. Die PLD schließt den Kreis: wer diese Pflichten verletzt und Schaden verursacht, zahlt. Der Einwand richtet sich nicht gegen die Logik. Er richtet sich gegen die praktische Verteilung der Folgen.

Die Folgen folgen real einer ökonomischen Schwerkraft, die keine Richtlinie umkehrt: sie fallen nach unten. Zu denen mit weniger juristischen Mitteln, weniger Finanzmasse, weniger Aufnahmefähigkeit für Verfahren. Microsoft, Google, OpenAI haben jeweils Hunderte Anwälte, bevollmächtigte Vertreter in jeder Jurisdiktion, Rechtsbudgets, die den Umsatz ganzer KMU-Sektoren übersteigen. Sie haben ToU geschrieben, die — auch wenn unter PLD gegenüber Verbrauchern unwirksam — vollständig operativ als Argument in Regressforderungen zwischen Wirtschaftsakteuren bleiben. Sie haben ihre Produkte mit chirurgischer Präzision als „entertainment“, „probabilistic“, „not a source of truth“ eingestuft, im Wissen um die Funktion jedes einzelnen Wortes in einem künftigen Verfahren.

Die PLD legt die Rechnung vor — wer zahlt? Der zehnköpfige System Integrator, der Copilot in den Kunden-ERP integriert, Schulungen gemacht, menschliche Aufsicht implementiert hat — und feststellt, dass er der Erreichbare, Identifizierbare, Verklagbare ist, sobald der defekte Output Schaden anrichtet. Der Anbieter ist auf der anderen Seite des Ozeans, oder durch B2B-Vertragsklauseln, Schiedsverfahren in Dublin und Haftungsbegrenzungen zwischen Wirtschaftsakteuren geschützt, die die PLD nicht antastet, weil sie professionelle Beziehungen und nicht den direkten Verbraucherschutz betreffen.

Es wäre falsch zu sagen, die PLD sei ein Fehler. Die PLD ist unvollständig. Ihre Unvollständigkeit erzeugt einen regressiven Effekt, der jene belohnt, die das System navigieren können, und jene bestraft, die es nicht können. Artikel 12 erkennt das Problem für Mikro- und Kleinunternehmen, löst es aber zirkulär: wir schützen dich vor Regress, wenn du eine vertragliche Vereinbarung mit dem Manufacturer hast. Aber der Manufacturer ist nicht verpflichtet, sie zu gewähren. Und stehen in seinen ToU „entertainment only“, ist sein Anreiz, sie zu gewähren, sogar negativ: diese Vereinbarung würde implizit zugeben, dass das Produkt einen professionellen Gebrauch hat — im Widerspruch zum eigenen rechtlichen Schutzschild.

Weiteres Paradox. Firmen, die Compliance ernst nehmen, menschliche Aufsicht implementieren, Kunden informieren, Prozesse dokumentieren, hinterlassen die reichste Beweisspur für eine Haftungsklage. Wer Copilot leichtfertig integriert, ohne Prozesse, ohne Doku, ohne Aufsicht, ist paradoxerweise schwerer angreifbar — weniger Beweise eines strukturierten Verhältnisses zum Produkt. Die PLD, in ihrem Versuch des Verbraucherschutzes, riskiert einen Anreiz zur Oberflächlichkeit zu schaffen: wer es richtig macht, ist exponierter als wer es falsch macht.

Die zeitliche Dimension. Die PLD gilt für nach Umsetzung in Verkehr gebrachte oder in Betrieb genommene Produkte. Aber KI-Systeme sind keine statischen Produkte. Sie werden ständig aktualisiert. Modelle ändern sich. Outputs ändern sich. Ein KI-System, das heute auf eine Weise funktioniert, kann nach einem Modell-Update in sechs Monaten ganz anders funktionieren. Jedes wesentliche Update bringt das Produkt laut Erwägungsgründen erneut auf den Markt. Der Integrator, der 2025 einen Workflow auf Copilot aufgebaut hat, könnte 2027 nach einem Modell-Update mit einem substanziell anderen Produkt dastehen, das andere Outputs erzeugt, ohne Kontrolle über die Veränderung und mit voller Verantwortung für ihre Wirkungen.

Ich habe dafür keine fertige Lösung. Aber wer in diesem Sektor arbeitet, sollte beginnen, die ToU seiner KI-Anbieter nicht zu lesen, um sich zu empören, sondern um genau zu verstehen, was der Anbieter zu garantieren ablehnt — denn diese Liste ist die Karte des Restrisikos auf den Schultern des Integrators. Er sollte spezifische Vertragsvereinbarungen zur Produkthaftung vor PLD-Umsetzung verhandeln, weil die Verhandlungsmacht danach noch geringer wird. Er sollte jeden Aufsichtsprozess, jede Risikobewertung, jede Kundeninformation dokumentieren — nicht weil das die Haftung unter PLD beseitigt, sondern weil im Regress die Doku die einzige Waffe ist. Und er sollte ernsthaft fragen, ob die Integration von Drittanbieter-KI in professionelle Produkte versicherungstechnisch tragfähig ist — heute deckt die meiste Berufshaftpflicht KI-Output-Schäden nicht, morgen wird diese Deckung nötig sein.

Wenn Microsoft „for entertainment purposes only“ schreibt, stammelt sie nicht. Sie spricht klar und absichtlich. Sie sagt, dass die Verantwortung für jede professionelle Nutzung ihres Produkts nicht ihre ist. Sie sagt, wer dieses Produkt nimmt und als zuverlässiges Werkzeug verkauft, tut es ganz auf eigenes Risiko. Europa hat einen Rechtsrahmen gebaut, der theoretisch alle in Verantwortung hält. Praktisch hält er jene in Verantwortung, die es sich am wenigsten leisten können. Der Anbieter, der „for entertainment purposes only“ schrieb in dem Wissen, dass es niemand lesen würde, der 30 $ pro Sitz und Monat kassierte in dem Wissen, dass das Produkt nicht zuverlässig ist — der hat noch seine Anwälte, seine Klauseln, seine internationalen Schiedsverfahren. Beim nächsten Mal, wenn jemand Rechenschaft fordert, wird er erneut die Terms of Use zeigen. Dort steht alles. Es genügt zu lesen.

Der Autor

Andrea MargiovanniKI

Ich verfolge das Verhältnis zwischen KI und europäischer Regulierung als politisches Faktum, nicht als technisches Spektakel. Ich arbeite mit Teams, die KI mit AI Act, CRA, NIS2 vereinbar machen müssen, ohne Compliance auf eine Checkliste zu reduzieren.

Zum Weg →