Ein KI-Telefonassistent ist DSGVO-konform, wenn jeder Schritt des Telefonats in einem geprüften Rahmen läuft: Spracherkennung, Antwort und Sprachausgabe bei vertraglich gebundenen Auftragsverarbeitern, Aufnahmen nur mit Rechtsgrundlage, Speicherfristen, die der Betreiber selbst festlegt, und ein klarer Hinweis, dass eine KI spricht. Am Telefon fallen dabei mehr personenbezogene Daten an als im Chat, denn zur Nachricht kommen Stimme und Rufnummer. Dieser Beitrag geht ein Telefonat Schritt für Schritt durch und zeigt, welche Fragen Datenschutz und IT einem Anbieter stellen sollten.
Auf einen Blick
Ein Anruf erzeugt fünf Arten von Daten: Rufnummer, Stimme, Transkript, Zusammenfassung und auf Wunsch eine Aufnahme.
Jeder Verarbeitungsschritt braucht einen bekannten Ort und einen Auftragsverarbeiter, der im AVV steht.
Die Sprachausgabe ist der Schritt mit eigenem Anbieter. Entscheidend ist, was dieser Anbieter erhält.
Aufnahmen sind eine bewusste Entscheidung, mit Rechtsgrundlage und Hinweis an die Anrufenden.
Speicherfristen legt der Betreiber fest, für Transkripte und Aufnahmen ebenso wie für Chats.
Der Hinweis auf die KI gehört an den Anfang des Gesprächs, in jeder Sprache, in der die Hotline erreichbar ist.
Welche Daten in einem Telefonat anfallen
Ein Chat besteht aus Text. Ein Telefonat erzeugt mehr:
Rufnummer und Metadaten: anrufende Nummer, Zielnummer, Beginn und Dauer.
Stimme: das Audiosignal selbst, aus dem die Spracherkennung den Text gewinnt.
Transkript: das Gespräch als Text, mit Sprecherrolle und Zeitstempel.
Zusammenfassung: eine kurze Fassung des Anliegens für Auswertung und Weiterbearbeitung.
Aufnahme: die Audiodatei des ganzen Gesprächs, falls die Aufzeichnung eingeschaltet ist.
Dazu kommen die Angaben, die der Assistent im Gespräch erfasst, etwa Kundennummer, Zählerstand oder neue Adresse. All das sind personenbezogene Daten. Für die DSGVO zählt deshalb, wer sie an welcher Stelle verarbeitet und wie lange sie bleiben.
Wo die Daten verarbeitet werden
Technisch ist ein KI-Telefonassistent eine Kette aus vier Schritten. Jeder Schritt ist eine eigene Datenschutzfrage.
Spracheingang. Die Telefonanlage stellt den Anruf per SIP durch. Geräuschunterdrückung und Spracherkennung machen aus dem Audiosignal Text. Hier fällt die Stimme an, und hier liegt das größte Risiko, wenn die Erkennung über eine fremde Sprach-API läuft, deren Standort niemand kennt.
Antwort. Aus dem Text erarbeitet das System die Antwort, im besten Fall ausschließlich aus geprüften Quellen. Für den Datenschutz zählt, ob dabei Gesprächsinhalte an externe KI-Anbieter gehen.
Sprachausgabe. Die Antwort wird zur Stimme. Viele Anbieter nutzen dafür spezialisierte Sprachdienste. Die Frage lautet dann, welcher Dienst das ist, wo er verarbeitet und was er zu sehen bekommt.
Speicherung. Transkript, Zusammenfassung und gegebenenfalls Aufnahme werden abgelegt, damit das Team den Vorgang nachvollziehen kann. Hier entscheiden Speicherfrist, Zugriffsrechte und Schnittstellen.
Die Sprachausgabe: was der Anbieter sieht
Bei der Sprachausgabe arbeitet fast jeder Voicebot mit einem Anbieter von Stimmen. Das ist legitim, solange zwei Bedingungen erfüllt sind.
Erstens steht der Anbieter als Unterauftragsverarbeiter im Auftragsverarbeitungsvertrag, und der Betreiber hat ihn ausdrücklich zugelassen. Ein neuer Anbieter darf nicht still über ein Update dazukommen.
Zweitens erhält der Anbieter so wenig wie möglich. Für die Sprachausgabe reicht der Text, der gesprochen werden soll. Die Stimme des Anrufers braucht er nicht. Fragen Sie deshalb gezielt, welche Daten an den Sprachdienst gehen und welche nicht.
Aufzeichnung und Transkript
Eine Gesprächsaufnahme ist die sensibelste Datei eines Telefonats. Wer aufzeichnet, braucht eine Rechtsgrundlage und informiert die Anrufenden vorab. In Deutschland ist das Aufzeichnen eines Telefonats ohne Einwilligung zudem strafbar (§ 201 StGB). Für viele Hotlines genügt das Transkript, die Aufnahme bleibt dann aus.
Für beides gilt:
Speicherfrist: Der Betreiber legt fest, wie lange Transkripte und Aufnahmen bleiben, von sofort bis Vertragsende. Eine feste Frist des Anbieters ersetzt diese Entscheidung nicht.
Zugriff: Rufnummern erscheinen in der Oberfläche maskiert, Rechte laufen über das Rollenmodell, Schnittstellen nur serverseitig mit Schlüssel.
Archivierung: Wo Unterlagen revisionssicher aufbewahrt werden müssen, braucht es eine Archivierungsoption, die das leistet.
Hinweispflichten am Telefon
Der EU AI Act verlangt, dass Menschen erkennen, dass sie mit einem KI-System sprechen. Am Telefon gibt es kein Bot-Symbol, also übernimmt die Begrüßung diese Aufgabe. Ein Satz genügt, etwa: „Sie sprechen mit dem digitalen Assistenten von Musterwerke Energie.“
Dazu kommen die Informationspflichten der DSGVO: wer verantwortlich ist, wozu die Daten verarbeitet werden und wo Anrufende mehr erfahren. Ist die Aufzeichnung eingeschaltet, gehört der Hinweis darauf ebenfalls an den Anfang.
Ist die Hotline mehrsprachig, gilt jeder Hinweis in jeder Sprache. Praktisch heißt das: eigene Begrüßungstexte je Sprache und je Kanal, damit die Störungshotline anders ansagen kann als der Kundenservice.
Checkliste für die Anbieterwahl
Diese sechs Fragen klären die meisten Punkte, bevor ein Pilot startet:
Wo laufen Spracherkennung, Antwort und Sprachausgabe, und welcher Auftragsverarbeiter steht jeweils im AVV?
Welche Sprachanbieter sind im Standard enthalten, und wie wird ein weiterer zugelassen und dokumentiert?
Welche Daten erhält der Sprachanbieter?
Ist die Aufzeichnung je Hotline schaltbar, und wie ist sie voreingestellt?
Wer legt die Speicherfristen für Transkripte und Aufnahmen fest?
Lässt sich der Hinweis auf die KI je Sprache und je Kanal in der Begrüßung hinterlegen?
Wie Mercury Voice das umsetzt
Mercury Voice ist ein Kanal der Plattform von Mercury.ai und läuft im selben Datenschutzrahmen wie der Chat: Betrieb auf AWS in Frankfurt, getrennte Umgebungen je Kunde, keine Übermittlung in Drittländer. Die Antworten entstehen mit derselben Recherche und Faktenprüfung wie im Chat, aus den freigegebenen Quellen des Unternehmens.
Für die Sprachausgabe ist Amazon Polly im Standard-AVV enthalten. Weitere Anbieter wie Cartesia kommen nur nach einer Erweiterung des AVV dazu, und im Projekt bestätigt eine berechtigte Person die Freigabe, die mit Person und Zeitpunkt gespeichert wird. Der Sprachanbieter erhält nur den Text, der gesprochen werden soll, nie die Stimme des Anrufers.
Leitet Mercury Voice an einen Menschen weiter, erhält die annehmende Person vorab ein Kurzbriefing mit Name, erkanntem Anliegen und Zusammenfassung. Diese Weitergabe innerhalb des Unternehmens ist der Zweck der Übergabe und gehört in die Datenschutzinformation, so wie im Chat die Übergabe an das Team.
Die Aufzeichnung ist je Voice-Kanal schaltbar und standardmäßig aus. Transkripte und Aufnahmen folgen der Aufbewahrungsfrist, die das Unternehmen im Projekt einstellt, genau wie Chat-Nachrichten. Rufnummern werden maskiert angezeigt. Begrüßungstext und Stimme legt das Team je Kanal fest, und damit auch den Hinweis auf die KI. Mehr zur Funktionsweise steht im Leitfaden zum Voicebot für den Kundenservice, die Plattform im Überblick auf der Seite zu Mercury Voice.
Häufige Fragen
Ist ein KI-Telefonassistent DSGVO-konform?
Ein KI-Telefonassistent verarbeitet personenbezogene Daten und unterliegt damit der DSGVO. Konform betreiben lässt er sich, wenn alle Verarbeitungsschritte bei Auftragsverarbeitern im AVV liegen, keine Daten in Drittländer gehen, der Betreiber die Speicherfristen festlegt und die Anrufenden zu Beginn informiert werden.
Was erhält der Anbieter der Sprachausgabe?
Für die Sprachausgabe genügt der Text, der gesprochen werden soll. Bei Mercury Voice erhält der Sprachanbieter genau diesen Text, die Stimme des Anrufers wird nicht übertragen.
Muss ich Anrufende darauf hinweisen, dass eine KI spricht?
Ja. Der EU AI Act verlangt, dass erkennbar ist, dass ein KI-System spricht. Am Telefon übernimmt das die Begrüßung, bei mehrsprachigen Hotlines in jeder Sprache.
Darf ein Voicebot Gespräche aufzeichnen?
Nur mit Rechtsgrundlage und Hinweis an die Anrufenden, in Deutschland ist eine Aufnahme ohne Einwilligung strafbar. Bei Mercury Voice ist die Aufzeichnung je Kanal schaltbar und standardmäßig aus.
Wie lange werden Transkripte und Aufnahmen gespeichert?
So lange, wie das Unternehmen es im Projekt festlegt, von sofort nach dem Gespräch bis zum Vertragsende. Bei Mercury Voice gilt dieselbe Frist wie für Chat-Nachrichten.
Fazit
Ob ein KI-Telefonassistent DSGVO-konform läuft, entscheiden die Antworten auf vier Fragen: wo jeder Schritt läuft, was der Sprachanbieter sieht, wer die Speicherfrist festlegt und wie die Anrufenden informiert werden. Wer diese Fragen vor dem Pilot klärt, spart die Schleife mit dem Datenschutz danach. Die Sicherheitsunterlagen von Mercury.ai stehen im Security-Paper zum EU AI Act.
Sie möchten Ihre Hotline datenschutzkonform automatisieren? Sprechen Sie mit uns.
Über den Autor
Dr. Maximilian Panzner
Chief Technology Officer @Mercury.ai
Dr. Maximilian Panzner ist CTO und Mitbegründer von Mercury.ai. Er hat am CITEC-Institut der Universität Bielefeld in Informatik promoviert und dort zu multimodalem maschinellem Lernen und intelligenten Interaktionssystemen geforscht. Seit über 20 Jahren arbeitet er an Künstlicher Intelligenz, Mensch-Maschine-Interaktion und dialogorientierten KI-Plattformen für den Unternehmenseinsatz.
