Bevor ein Unternehmen einen Chatbot-Anbieter beauftragt, prüfen Einkauf, IT und Datenschutz in der Regel sechs Bereiche: Vertrag und DSGVO, Hosting und Datenstandort, Zertifizierungen, KI-spezifische Fragen, die Einbindung in bestehende Systeme und den laufenden Betrieb. Jeder Bereich lässt sich mit wenigen gezielten Fragen klären. Schwierig wird es meist an anderer Stelle: bei Zusagen, die gut klingen, aber nicht belegt sind. Diese Checkliste ordnet die Fragen und zeigt, woran Sie eine belastbare Antwort erkennen.

Auf einen Blick

• Vertrag und DSGVO: AVV mit vollständiger Liste der Unterauftragsverarbeiter, Meldepflichten, Prüfrechte.

• Hosting: Standort, Drittlandübermittlung, Verschlüsselung, Schlüsselverwaltung, Löschung.

• Zertifizierungen: Wer genau ist zertifiziert, der Anbieter oder sein Rechenzentrum?

• KI-spezifisch: externe Sprachmodelle, Training mit Kundendaten, Quellenbindung, Kennzeichnung.

• Einbindung: Single Sign-on, Nutzerverwaltung, Rollen und Protokollierung.

• Betrieb: Verfügbarkeit, Support, Penetrationstests, Export bei Vertragsende.

Was mit „Bot-Management“ gemeint ist

Der Begriff wird in zwei Bedeutungen verwendet. In der IT-Sicherheit meint Bot-Management die Abwehr automatisierter Zugriffe auf Websites, also Scraper, Credential Stuffing oder Lastangriffe. Im Kundenservice meint er die Verwaltung eigener Chatbots: wer Inhalte pflegt, wer Änderungen freigibt und wie der Betrieb überwacht wird. Diese Checkliste behandelt die zweite Bedeutung, also die Compliance des Chatbot-Anbieters und seiner Plattform.

Die Checkliste in sechs Bereichen

1. Vertrag und DSGVO

• Liegt ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO vor, mit Anhang zu Datenkategorien, Betroffenen und Unterauftragsverarbeitern?

• Ist die Liste der Unterauftragsverarbeiter vollständig, mit Sitz und Zweck?

• Wie schnell meldet der Anbieter eine Datenschutzverletzung, und wie geht er mit Anfragen von Behörden um?

• Gibt es die technischen und organisatorischen Maßnahmen als Dokument?

• Sind Audits beim Anbieter möglich, und unter welchen Bedingungen?

Woran Sie eine gute Antwort erkennen: Der AVV kommt ohne Nachfrage, die Liste der Unterauftragsverarbeiter ist kurz und konkret, Meldefristen stehen im Vertrag.

2. Hosting und Datenstandort

• Wo werden die Daten verarbeitet und gespeichert, Backups eingeschlossen?

• Werden Daten in Drittländer übermittelt?

• Wie wird bei der Übertragung und im Ruhezustand verschlüsselt?

• Wer verwaltet die Schlüssel, und kann das Unternehmen eigene verwenden?

• Kann das Unternehmen die Löschfristen selbst festlegen?

Woran Sie eine gute Antwort erkennen: Ein konkreter Standort, eine klare Aussage zur Drittlandübermittlung und Fristen, die das Unternehmen im System einstellt.

3. Zertifizierungen richtig lesen

Zertifikate sind der Bereich, in dem Formulierungen am häufigsten mehr versprechen, als dahintersteht. Drei Fragen helfen beim Lesen.

Wer ist zertifiziert? Ein ISO-27001-zertifiziertes Rechenzentrum heißt, dass der Betreiber des Rechenzentrums ein geprüftes Managementsystem für Informationssicherheit hat. Über die Anwendung, die darauf läuft, sagt das wenig. Fragen Sie, ob der Anbieter selbst zertifiziert ist oder sich an der Norm orientiert.

Was ist der Geltungsbereich? Ein Zertifikat gilt für einen festgelegten Bereich. Lassen Sie sich zeigen, ob die Plattform, die Sie nutzen, darin enthalten ist.

Welche Nachweise gibt es statt eines Zertifikats? Penetrationstests, Sicherheitskonzepte, Verfügbarkeitsberichte und die Testate des Infrastrukturbetreibers können eine Prüfung ebenfalls tragen, wenn sie als das gekennzeichnet sind, was sie sind.

Woran Sie eine gute Antwort erkennen: Der Anbieter sagt klar, was zertifiziert ist und was nicht, und legt die Nachweise des Rechenzentrums als solche bei.

4. KI-spezifische Fragen

• Laufen die Sprachmodelle beim Anbieter selbst, oder gehen Anfragen an einen externen KI-Anbieter?

• Werden Kundendaten zum Training von Modellen verwendet, auch über Kunden hinweg?

• Antwortet der Chatbot nur aus freigegebenen Quellen, und lässt sich jede Antwort bis zur Quelle zurückverfolgen?

• Ist die Kennzeichnung als KI nach Art. 50 EU AI Act umgesetzt?

• Wie ordnet der Anbieter sein System nach dem EU AI Act ein, und welche Dokumentation erhält der Betreiber?

Woran Sie eine gute Antwort erkennen: Eine eindeutige Aussage zu externen KI-Anbietern und zum Training, vertraglich festgehalten.

5. Einbindung in bestehende Systeme

Ein Chatbot greift auf Systeme und Daten des Unternehmens zu. Damit gelten für ihn dieselben Anforderungen wie für jede andere Anwendung in der Landschaft.

• Unterstützt die Plattform Single Sign-on über SAML oder OAuth?

• Lässt sich die Nutzerverwaltung über SCIM an das bestehende Verzeichnis anbinden?

• Gibt es Rollen für Administration, Redaktion, Live-Agenten und Auswertung?

• Werden alle Änderungen in einem Audit-Log protokolliert?

• Ist dokumentiert, welche Daten an CRM, ERP oder Ticketsystem gehen?

Woran Sie eine gute Antwort erkennen: Die Anbindung an Identitätsanbieter ist Standard, und das Audit-Log ist vollständig, ohne Sonderzugänge außerhalb der Protokollierung.

6. Betrieb und Ausstieg

• Welche Verfügbarkeit sichert das SLA zu, und was passiert bei Unterschreitung?

• Wann ist der Support erreichbar, und wie schnell reagiert er?

• Werden regelmäßig Penetrationstests durchgeführt?

• Wie werden Updates eingespielt, und gibt es getrennte Umgebungen für Test und Betrieb?

• Was erhält das Unternehmen bei Vertragsende, und wie wird die Löschung bestätigt?

Woran Sie eine gute Antwort erkennen: Ein SLA mit Gutschriften, ein beschriebener Ausstieg mit Export und Löschbestätigung.

Wie Mercury.ai die Checkliste beantwortet

Die Details stehen im Security-Paper zum EU AI Act. Welche Nachweise der Betreiber selbst führen muss, beschreibt der Beitrag zur KI-Verordnung im Chatbot-Betrieb. Wie die Daten einer Anfrage durch die Plattform laufen, zeigt der Beitrag Wohin die Kundendaten eines KI-Chatbots fließen.

Fazit

Die Compliance-Prüfung eines Chatbot-Anbieters folgt sechs Bereichen, und in jedem genügen wenige Fragen. Am meisten Zeit spart, wer bei Zertifikaten und Zusagen nachfragt, wofür genau sie gelten. Ein Anbieter, der offen sagt, was er hat und was nicht, ist in der Prüfung schneller durch als einer, dessen Formulierungen erst entschlüsselt werden müssen.

Sie bereiten die Prüfung eines Chatbot-Anbieters vor? Sprechen Sie mit uns.