Wenn ein Kunde einem KI-Chatbot eine Frage stellt, durchlaufen seine Daten sechs Stationen: die Übertragung, eine Schutzschicht, die Umgebung des Unternehmens beim Anbieter, die Antwortbildung, die Speicherung und am Ende die Löschung. Kommt eine Anbindung an CRM oder Ticketsystem dazu, gehen Daten zusätzlich in diese Systeme. Ob ein Chatbot Kundendaten sicher verarbeitet, entscheidet sich an jeder dieser Stationen einzeln. Dieser Beitrag folgt einer Anfrage Schritt für Schritt und nennt die Fragen, die Datenschutz und IT an jeder Station stellen sollten.

Auf einen Blick

• Kundendaten fallen schon mit der ersten Nachricht an: Inhalt, technische Kennungen, oft Name, E-Mail oder Kundennummer.

• Die Übertragung muss verschlüsselt sein, die Speicherung ebenso, Backups eingeschlossen.

• Die Umgebung je Kunde entscheidet, ob Daten verschiedener Unternehmen zuverlässig getrennt bleiben.

• Die Antwortbildung ist die Station, an der Daten unbemerkt an externe KI-Anbieter gehen können.

• Die Löschfrist legt das Unternehmen selbst fest.

Welche Daten in einer Chatbot-Anfrage stecken

Eine Anfrage besteht aus mehr als dem Text, den der Kunde eintippt. Dazu kommen technische Kennungen wie eine anonyme Nutzer-ID, Sprach- und Regionseinstellungen, der Zeitpunkt und der Kanal. Sobald der Chatbot ein Anliegen erfasst, fragt er oft nach Name, E-Mail-Adresse, Telefonnummer oder Kundennummer. Im eingeloggten Kundenportal kennt er den Nutzer ohnehin.

All das sind personenbezogene Daten. Das Unternehmen ist dafür Verantwortlicher im Sinne der DSGVO, der Anbieter des Chatbots verarbeitet im Auftrag.

Der Weg einer Anfrage in sechs Stationen

1. Übertragung

Die Nachricht verlässt den Browser oder die App des Kunden und geht an die Plattform des Anbieters. Auf diesem Weg muss sie verschlüsselt sein, üblich ist TLS in einer aktuellen Version. Bei Messenger-Kanälen wie WhatsApp läuft die Nachricht zuerst über die Infrastruktur des Messenger-Betreibers. Das gehört in die Datenschutzinformation des Unternehmens.

Fragen an den Anbieter: Welche TLS-Version wird verwendet? Welche Kanäle laufen über Dritte?

2. Schutzschicht

Bevor die Anfrage die eigentliche Anwendung erreicht, passiert sie eine Schutzschicht aus Web Application Firewall und Load Balancer. Sie filtert Angriffe und verteilt die Last. Sie ist vor allem für die Sicherheit grundlegend.

Fragen an den Anbieter: Gibt es eine Web Application Firewall? Wie wird der Dienst gegen Überlastung geschützt?

3. Die Umgebung des Unternehmens

Jetzt kommt die Anfrage in der Umgebung an, in der der Chatbot des Unternehmens läuft. Hier entscheidet sich, wie gut die Daten verschiedener Kunden des Anbieters voneinander getrennt sind. Am belastbarsten sind eigene Umgebungen je Kunde, getrennt für Entwicklung, Test und Betrieb. Eine geteilte Instanz für alle Kunden ist einfacher zu betreiben, aber schwerer zu prüfen.

Fragen an den Anbieter: Hat jeder Kunde eine eigene Umgebung? Sind Test und Betrieb getrennt? Wo steht das Rechenzentrum?

4. Antwortbildung

Der Chatbot erkennt das Anliegen, sucht in den freigegebenen Quellen und formuliert die Antwort. An dieser Station liegt das größte Datenschutzrisiko, das viele erst spät bemerken: Ruft der Chatbot für die Antwort ein Sprachmodell über die Schnittstelle eines externen KI-Anbieters auf, gehen die Inhalte der Anfrage dorthin. Dann hängt der Datenschutz auch an dessen Bedingungen und Standorten.

Dazu kommt die Frage nach dem Training. Werden Anfragen genutzt, um Modelle zu verbessern, verlassen die Daten ihren ursprünglichen Zweck.

Fragen an den Anbieter: Laufen die Sprachmodelle beim Anbieter selbst oder bei einem Dritten? Werden Kundendaten zum Training verwendet, auch anonymisiert oder über Kunden hinweg?

5. Speicherung

Gesprächsverläufe werden gespeichert, damit das Team sie nachvollziehen und die Auswertung daraus lernen kann. Sie sollten im Ruhezustand verschlüsselt sein, Backups eingeschlossen. Wer die Schlüssel verwaltet, ist eine eigene Frage: Bei hohen Anforderungen kann der Schlüssel beim Unternehmen selbst liegen.

Zugriff auf gespeicherte Gespräche haben die Menschen, denen das Unternehmen Rollen gibt, etwa Live-Agenten oder Redakteure. Ein Audit-Log zeigt, wer wann zugegriffen oder etwas geändert hat.

Fragen an den Anbieter: Wie wird im Ruhezustand verschlüsselt? Können wir eigene Schlüssel verwenden? Wie sind Rollen und Zugriffe geregelt?

6. Löschung

Die DSGVO verlangt, Daten nicht länger zu speichern als nötig. Wie lange das ist, entscheidet das Unternehmen, abhängig vom Zweck. Ein Chatbot sollte deshalb Fristen erlauben, die das Unternehmen selbst einstellt, von der sofortigen Löschung nach der Eingabe bis zur Aufbewahrung über die Vertragslaufzeit. Bei Vertragsende gehört eine Löschbestätigung dazu.

Fragen an den Anbieter: Können wir die Löschfrist selbst einstellen? Was passiert mit den Daten bei Vertragsende?

Wenn Daten in andere Systeme gehen

Erledigt der Chatbot Vorgänge, legt er etwa ein Ticket an oder schreibt eine Adressänderung ins CRM, verlassen die Daten die Plattform in Richtung der eigenen Systeme des Unternehmens. Diese Weitergabe ist gewollt, aber sie gehört dokumentiert: welche Felder in welches System gehen und auf welcher Rechtsgrundlage. Wie solche Anbindungen technisch aussehen, beschreibt der Leitfaden zur Integration in CRM und ERP.

Dasselbe gilt für die Übergabe an Menschen. Übernimmt ein Live-Agent das Gespräch, sieht er den bisherigen Verlauf. Das ist der Zweck der Übergabe und sollte in der Datenschutzinformation stehen. Bei Telefonie kommen eigene Fragen zu Sprachausgabe und Aufzeichnung dazu, sie behandelt der Beitrag zum DSGVO-konformen KI-Telefonassistenten.

Wie Mercury.ai den Datenweg absichert

Bei Mercury.ai laufen alle Stationen auf AWS in Frankfurt, ohne Übermittlung in Drittländer. Die Übertragung ist mit TLS 1.3 verschlüsselt, die Speicherung mit AES-256, Backups eingeschlossen. Vor der Anwendung liegen Web Application Firewall und Load Balancer. Jeder Kunde hat eigene Umgebungen, getrennt nach Entwicklung, Test und Betrieb und nach Sprache.

Die Antworten entstehen mit lizenzierten Mistral-Modellen, die Mercury.ai selbst betreibt. Anfragen gehen an keinen externen KI-Anbieter, und Kundendaten werden nicht zum Training verwendet, auch nicht über Kunden hinweg. Die Schlüssel verwaltet AWS KMS mit HSM, auf Wunsch liegt der Schlüssel ausschließlich beim Kunden. Die Löschfristen stellt das Unternehmen im Projekt ein, von sofort nach der Eingabe bis zum Vertragsende. Einen Überblick über Datenverarbeitung und Schutzmaßnahmen gibt das Security-Paper zum EU AI Act. Warum ein Rechenzentrum in Deutschland allein noch keine vollständige Antwort ist, erklärt der Beitrag zum Chatbot-Hosting in Deutschland.

Fazit

Kundendaten in einem KI-Chatbot sind dann gut geschützt, wenn jede der sechs Stationen eine klare Antwort hat: verschlüsselte Übertragung, eine Schutzschicht, eine eigene Umgebung, Antwortbildung ohne externe KI-Anbieter, verschlüsselte Speicherung mit geregeltem Zugriff und eine Löschfrist, die das Unternehmen selbst festlegt. Wer diese sechs Fragen vor dem Start stellt, hat den größten Teil der Datenschutzprüfung schon erledigt. Die Nachweise dazu sortiert der Beitrag zur KI-Verordnung im Chatbot-Betrieb.

Sie möchten den Datenweg Ihres Chatbots prüfen lassen? Sprechen Sie mit uns.