KI-Chatbots sind in Deutschland rechtlich zulässig, und Unternehmen setzen sie längst breit im Kundenservice ein. Zulässig heißt aber nicht ohne Pflichten. Ein KI-Chatbot bewegt sich in keinem rechtsfreien Raum, und ein aktuelles Urteil hat gezeigt, wie weit die Verantwortung des Betreibers reicht. Wer die Rechtslage kennt, kann seinen Chatbot so aufsetzen, dass er entlastet, ohne ein Haftungsrisiko zu schaffen.
Drei Rechtsgebiete bestimmen den Rahmen: der Datenschutz, die Transparenzpflicht aus dem EU AI Act und die Haftung für die Aussagen des Chatbots. Das dritte ist seit Mai 2026 deutlich schärfer umrissen.
Kurz gesagt: zulässig, aber mit drei Pflichten
Ein KI-Chatbot ist erlaubt, solange er drei Anforderungen erfüllt. Er muss personenbezogene Daten nach der DSGVO verarbeiten. Er muss für den Nutzer als KI-System erkennbar sein, wie es der EU AI Act verlangt. Und seine Auskünfte müssen inhaltlich zutreffend und wettbewerbsrechtlich zulässig sein, denn der Betreiber haftet dafür wie für eigene Aussagen.
Die ersten beiden Punkte sind gut bekannt. Der dritte hat durch die Rechtsprechung an Gewicht gewonnen.
Das OLG-Hamm-Urteil: Betreiber haften für Chatbot-Aussagen
Das Oberlandesgericht Hamm hat mit Urteil vom 12. Mai 2026 (Az. 4 UKl 3/25) entschieden, dass ein Unternehmen für die falschen Aussagen seines KI-Chatbots in vollem Umfang haftet. Ein Chatbot gilt rechtlich als Werkzeug des Unternehmens, seine Ausgaben werden dem Betreiber unmittelbar als eigene geschäftliche Handlung zugerechnet.
Im entschiedenen Fall hatte ein Anbieter aus dem Bereich der ästhetischen Medizin einen Chatbot auf der Website, über den Interessenten Fragen stellen und Termine buchen konnten. Auf Nachfrage nannte der Chatbot für die behandelnden Ärzte Facharztbezeichnungen, die so nicht existierten oder nicht geführt wurden. Die Angaben waren frei erfunden. Die Verbraucherzentrale Nordrhein-Westfalen mahnte das Unternehmen wegen irreführender Werbung ab und bekam vor dem OLG Hamm recht.
Für Betreiber sind an dieser Entscheidung zwei Punkte wichtig. Die Haftung greift verschuldensunabhängig, es kommt also nicht darauf an, ob den Betreiber ein Verschulden bei Auswahl oder Überwachung trifft. Und die Verteidigung, der Chatbot sei mit korrekten Daten trainiert worden, genügt dem Gericht nicht. Auch bei sorgfältig aufbereiteten Trainingsdaten bleibt die Verantwortung für die konkrete Ausgabe im Einzelfall bestehen. Eine Halluzination des Modells entlastet den Betreiber nicht.
Das Urteil ist noch nicht rechtskräftig, der Senat hat die Revision zum Bundesgerichtshof zugelassen. An der Richtung ändert das für die Praxis wenig: Wer einen Chatbot betreibt, sollte dessen Aussagen so ernst nehmen wie jede andere Angabe auf der eigenen Website.
Wo das Risiko am größten ist
Die Gefahr wächst dort, wo eine falsche Aussage rechtlich besonders empfindlich ist. Drei Bereiche stechen hervor.
Werbeverbote und geschützte Aussagen. Bei Lebensmitteln sind gesundheitsbezogene Angaben streng reguliert, krankheitsbezogene Aussagen sind untersagt. Bestätigt der Chatbot auf Nachfrage eine solche Wirkung, ist das wettbewerbsrechtlich heikel.
Auskünfte zu Rechtsthemen. Antworten zu Gewährleistung, Widerruf oder Vertragsbedingungen sind riskant. Die generierte Auskunft kann rechtlich falsch sein oder den eigenen AGB widersprechen und damit irreführend werden.
Abmahnschlagworte. Aussagen zu Garantien, zu Prüfungen und Zertifizierungen wie einer CE-Kennzeichnung oder Formulierungen wie Testsieger sind bekannte Angriffsflächen. Ein Chatbot, der sie ungeprüft ausspricht, öffnet die Tür für eine Abmahnung.
Erschwerend kommt hinzu, dass sich das Antwortverhalten eines lernenden Systems schwer vollständig vorhersehen lässt. Gezielte Nachfragen können ein Modell zu einer Aussage verleiten, die im normalen Betrieb nicht auftritt.
Datenschutz und Transparenz: die anderen zwei Pflichten
Neben der Haftung bleiben die beiden bekannten Pflichten bestehen. Beim Datenschutz zählt, wo die Daten verarbeitet werden. Eine Verarbeitung in Deutschland ohne Übermittlung in Drittländer, gestützt durch einen Auftragsverarbeitungsvertrag, ist der belastbare Weg. Mehr dazu steht im Beitrag zum DSGVO- und EU-AI-Act-konformen KI-Chatbot.
Die Transparenzpflicht folgt aus dem EU AI Act. Nutzer müssen erkennen können, dass sie mit einem KI-System sprechen, sofern das nicht ohnehin offensichtlich ist. Ein klarer Hinweis zu Beginn des Dialogs erfüllt diese Anforderung.
Wie Betreiber das Haftungsrisiko senken
Aus der Rechtslage folgt eine klare Bauanweisung. Das Risiko sinkt, wenn der Chatbot nur sagt, was belegt ist, und schweigt, wo er es nicht ist.
Der wirksamste Hebel ist die Bindung an geprüfte Quellen. Wenn die Antworten aus den freigegebenen Inhalten des Unternehmens stammen und nicht frei formuliert werden, entfällt die häufigste Ursache falscher Aussagen. Der zweite Hebel sind klare Grenzen. Der Chatbot sollte definierte Themen gar nicht beantworten, insbesondere Auskünfte zu Rechtsfragen, und stattdessen an einen Menschen übergeben. Der dritte Hebel ist die Kontrolle. Gesprächsverläufe sollten protokolliert und stichprobenartig geprüft werden, gerade nach Updates am System.
Der Leitsatz dahinter ist einfach: lieber keine Antwort als eine falsche. Ein Chatbot, der bei fehlender Grundlage an das Serviceteam übergibt, schützt den Betreiber besser als einer, der auf jede Frage etwas antwortet.
Wie Mercury.ai hier ansetzt
Mercury.ai ist auf genau diese Anforderung ausgelegt. Ein Orchester spezialisierter Modelle erkennt das Anliegen, findet und prüft die passende Quelle und formuliert erst am Ende. Das Sprachmodell verbalisiert, die Fakten stammen aus dem geprüften Wissen des Unternehmens. Findet sich keine belastbare Quelle, gibt der Assistent keine Auskunft und übergibt an den Agent Desk. So sinkt das Risiko erfundener und damit potenziell abmahnfähiger Aussagen deutlich. Wie diese quellengebundene Architektur arbeitet, steht im Beitrag zu Halluzinationen bei KI-Chatbots.
Dazu kommt der rechtliche Rahmen: Die Daten werden in Deutschland verarbeitet, der KI-Hinweis für die Transparenzpflicht lässt sich zu Beginn des Dialogs setzen, und über die Wissensbasis behält der Fachbereich die Kontrolle über die freigegebenen Inhalte. Mehr zur Architektur unter Mercury Intelligence.
Häufige Fragen
Sind KI-Chatbots rechtlich zulässig?
Ja. In Deutschland ist der Einsatz von KI-Chatbots erlaubt, solange Datenschutz, die Transparenzpflicht aus dem EU AI Act und die inhaltliche Richtigkeit der Aussagen gewahrt bleiben.
Haftet ein Unternehmen für die Aussagen seines Chatbots?
Ja. Nach dem Urteil des OLG Hamm vom 12. Mai 2026 werden die Aussagen eines KI-Chatbots dem Betreiber als eigene geschäftliche Handlung zugerechnet. Die Haftung greift auch bei einer Halluzination des Modells.
Muss ein Chatbot als KI gekennzeichnet werden?
Ja. Der EU AI Act verlangt, dass Nutzer erkennen können, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Ein Hinweis zu Beginn des Dialogs genügt.
Wie senkt man das Haftungsrisiko eines KI-Chatbots?
Durch Bindung der Antworten an geprüfte Quellen, klare thematische Grenzen mit Übergabe an einen Menschen bei Rechtsfragen und eine laufende Kontrolle der Gesprächsverläufe.
Sind KI-Chatbots DSGVO-konform?
Sie können es sein. Voraussetzung sind die Verarbeitung in der EU, ein Auftragsverarbeitungsvertrag und die Bindung der Antworten an geprüfte Quellen. Bei Mercury.ai werden die Daten in Deutschland verarbeitet.
Kontrolle schlägt Vertrauen
KI-Chatbots sind zulässig und ein wirksames Werkzeug im Kundenservice. Die Rechtsprechung hat nur klargestellt, was für jede geschäftliche Aussage gilt: Der Betreiber steht dafür gerade. Wer seinen Chatbot an geprüftes Wissen bindet, ihm klare Grenzen setzt und seine Antworten kontrolliert, nutzt den Vorteil der Automatisierung, ohne ein Haftungsrisiko einzugehen.
Sie möchten einen Chatbot, der nur belegte Auskünfte gibt? Sprechen Sie mit uns oder sehen Sie sich Mercury Intelligence an.
Dieser Beitrag gibt die Rechtslage allgemein verständlich wieder und ersetzt keine Rechtsberatung. Für die Beurteilung des Einzelfalls ziehen Sie bitte fachkundigen Rechtsrat hinzu.
Über den Autor: Dr. Maximilian Panzner ist CTO und Mitbegründer von Mercury.ai. Er hat am CITEC-Institut der Universität Bielefeld in Informatik promoviert und dort zu multimodalem maschinellem Lernen und intelligenten Interaktionssystemen geforscht. Seit über 20 Jahren arbeitet er an Künstlicher Intelligenz, Mensch-Maschine-Interaktion und dialogorientierten KI-Plattformen für den Unternehmenseinsatz.
Quellen
OLG Hamm, Urteil vom 12.05.2026, Az. 4 UKl 3/25: Ein Unternehmen haftet für die falschen Aussagen seines KI-Chatbots, die Ausgaben werden ihm als eigene geschäftliche Handlung zugerechnet. Noch nicht rechtskräftig, Revision zum BGH zugelassen.
Verbraucherzentrale Nordrhein-Westfalen: Klägerin im Verfahren zur Zurechnung von Falschangaben eines KI-Chatbots.
Verordnung (EU) 2024/1689 (EU AI Act): Transparenzpflicht bei der Interaktion mit KI-Systemen.
