Datenschutz bei Chatbots in Deutschland: Was 2026 gilt

Ein Chatbot auf deiner Website ist in Deutschland datenschutzkonform, wenn vier Dinge erfüllt sind. Jede Datenverarbeitung hat eine dokumentierte Rechtsgrundlage. Besucher werden transparent informiert. Mit jedem Dienstleister, der Chatdaten verarbeitet, besteht ein Auftragsverarbeitungsvertrag. Und seit August 2026 erfahren Nutzer klar, dass sie mit einer KI sprechen. Ein Server in Frankfurt ist dabei hilfreich, aber er ersetzt keinen dieser Punkte. Hier steht, was die Aufsichtsbehörden konkret verlangen, wo Unternehmen in der Praxis scheitern und wie du einen KI-Chat so aufsetzt, dass du ihn vor deinem Datenschutzbeauftragten gut vertreten kannst.

Kurz gesagt

• Der Standort allein macht nichts konform: Die Aufsicht verlangt Rechtsgrundlage nach Art. 6 DSGVO, Datenschutzhinweise und einen AVV nach Art. 28 DSGVO, egal wo der Server steht.
• KI-Chatbots sind kein Selbstläufer: LLM-Antworten entstehen nach Wahrscheinlichkeiten. Du musst die Ausgaben überwachen, nicht nur einmal einrichten.
• Kennzeichnungspflicht: Nach Art. 50 des EU AI Act müssen Nutzer erfahren, dass sie mit einem KI-System sprechen.
• Bußgelder sind real: Die italienische Aufsicht hat den Anbieter des Chatbots Replika mit 5 Mio. € belegt.
• Hosting in Deutschland hilft, vor allem wenn auch der Weg zum Sprachmodell und die Speicherung der Verläufe geklärt sind.

Inhaltsverzeichnis

• Warum ein deutscher Server nicht reicht
• Die rechtlichen Bausteine im Überblick
• Die Kennzeichnungspflicht nach dem AI Act
• Regelbasiert oder KI: Warum LLM-Chatbots mehr Pflege brauchen
• Chatbot-Hosting in Deutschland: Was es bringt und was nicht
• Der Seiteneingang, den viele übersehen: Mitarbeiterkonten
• Schritt für Schritt zum datenschutzkonformen Chatbot
• Besondere Fälle: Praxen, Kanzleien, Gutachter und Onlineshops
• Was ein Bußgeld von 5 Mio. € lehrt
• Ist ChatGPT selbst DSGVO-konform?
• Unsere Sicht: Datenschutz ist ein Vertrauensfaktor, kein Bremsklotz
• Ein KI-Chat, der in Deutschland entwickelt und betrieben wird
• Häufige Fragen
• Quellen

Warum ein deutscher Server nicht reicht

Die häufigste Annahme lautet: “Der Anbieter hostet in Deutschland, also ist der Chatbot DSGVO-konform.” Die Aufsichtsbehörden sehen das anders. Der Bayerische Landesbeauftragte für den Datenschutz beschreibt in seinem Leitfaden zum Einsatz LLM-gestützter Chatbots, dass jede einzelne Verarbeitung eine Rechtsgrundlage braucht, Nutzer transparent informiert werden müssen und mit dem Anbieter ein Auftragsverarbeitungsvertrag zu schließen ist. Die Datenschutzstelle Liechtenstein betont ebenso, dass der Verantwortliche die passende Rechtsgrundlage nach Art. 6 Abs. 1 und gegebenenfalls Art. 9 DSGVO sicherstellen muss.

Verantwortlich bist du als Betreiber der Website, nicht der Chatbot-Anbieter. Der Anbieter ist in der Regel dein Auftragsverarbeiter. Das heißt: Wenn ein Besucher fragt, welche Daten der Chat speichert, wie lange und an wen sie gehen, musst du die Antwort kennen und dokumentiert haben.

Der Serverstandort beeinflusst vor allem eine Frage: ob personenbezogene Daten in ein Drittland übermittelt werden. Das ist wichtig, aber nur ein Baustein von mehreren.

Die rechtlichen Bausteine im Überblick

Die Tabelle ist eine Orientierung, keine Rechtsberatung. Welche Rechtsgrundlage bei dir trägt, hängt vom Zweck ab. Wenn dein Chat Leads qualifiziert und die Daten später ins CRM wandern, solltest du das mit deinem Datenschutzbeauftragten oder einer auf IT-Recht spezialisierten Kanzlei durchgehen, bevor der Chat live geht.

Die Kennzeichnungspflicht nach dem AI Act

Neu ist nicht die DSGVO, sondern die KI-Verordnung. Art. 50 Abs. 1 der Verordnung (EU) 2024/1689 verlangt, dass Menschen, die mit einem KI-System direkt kommunizieren, darüber informiert werden, dass sie mit einer Maschine sprechen. Das gilt nicht, wenn es aus Sicht eines verständigen Nutzers ohnehin offensichtlich ist. Darauf solltest du dich bei einem Chat, der freundlich und menschlich formuliert, aber nicht verlassen.

In der Praxis reicht ein klarer Satz beim Öffnen des Chats, etwa: “Hier antwortet unser KI-Assistent. Bei verbindlichen Fragen übernimmt ein Mensch aus unserem Team.” Wer tiefer einsteigen will, findet eine Übersicht, wie man KI-Inhalte richtig kennzeichnen sollte und was seit August 2026 gilt.

Der Hinweis hat einen Nebeneffekt, der oft übersehen wird: Er senkt die Erwartung an perfekte Antworten und macht die Übergabe an einen Menschen selbstverständlich. Gerade bei Kanzleien und Praxen ist das auch ein Vertrauensargument.

Regelbasiert oder KI: Warum LLM-Chatbots mehr Pflege brauchen

Ein klassischer Chatbot folgt einem Entscheidungsbaum. Du weißt vorher, welche Antworten er geben kann. Ein LLM-Chatbot formuliert jede Antwort neu, auf Basis von Wahrscheinlichkeiten. Der Bayerische Landesbeauftragte leitet daraus ab, dass solche Systeme laufend überwacht werden müssen: auf sachliche Richtigkeit, auf Verzerrungen und darauf, dass keine personenbezogenen Daten in Antworten auftauchen, die dort nicht hingehören.

Für dich bedeutet das drei konkrete Pflichten im Alltag:

1. Wissensbasis sauber halten: Was der Bot wissen soll, stammt aus deinen Inhalten. Kundendaten, interne Notizen oder Mandantenakten gehören nicht in die Wissensbasis.
2. Stichproben lesen: Schau dir regelmäßig echte Gesprächsverläufe an. Erfindet der Bot Öffnungszeiten, Preise oder Rechtsauskünfte, ist das zunächst ein Qualitätsproblem, kann aber schnell ein Haftungsproblem werden.
3. Grenzen definieren: Lege fest, bei welchen Themen der Bot nicht antwortet, sondern an einen Menschen übergibt. Bei Steuerfragen, Diagnosen oder Gutachten ist das Pflicht, nicht Kür.

Betrachte den Chatbot deshalb als laufendes Betriebsmittel, nicht als Widget, das man einmal einbaut und vergisst.

Chatbot-Hosting in Deutschland: Was es bringt und was nicht

Wer nach Chatbot-Hosting in Deutschland sucht, will meist eines: keine Daten in die USA. Das ist ein berechtigtes Ziel. Damit es erreicht wird, musst du aber den gesamten Datenweg anschauen, nicht nur den Ort des Widgets.

Ein KI-Chat besteht typischerweise aus drei Schichten:

• Das Widget auf deiner Website: Es lädt Skripte und speichert eventuell eine Sitzungskennung im Browser.
• Die Chat-Plattform: Sie verwaltet Wissensbasis, Verläufe, Übergaben an Mitarbeiter und Statistiken.
• Das Sprachmodell: Es erzeugt die eigentliche Antwort. Hier landen die Fragen deiner Besucher als Prompt.

Eine Plattform in Deutschland kann trotzdem ein Sprachmodell eines US-Anbieters ansprechen. Dann fließen Prompts unter Umständen in ein Drittland, und du brauchst dafür eine tragfähige Grundlage. Umgekehrt gibt es Setups, bei denen das Modell in einem europäischen Rechenzentrum oder sogar auf eigenen Servern läuft. Der BayLfD-Leitfaden nennt die Kontrolle über Training und Löschung als zentrale Punkte: Wer verhindern kann, dass Eingaben zum Nachtrainieren genutzt werden, und Verläufe gezielt löscht, reduziert das Risiko deutlich.

Für die meisten kleinen und mittleren Unternehmen ist die mittlere Variante der realistische Weg: eine in Deutschland betriebene Plattform, ein klar geregelter Zugang zum Sprachmodell und dokumentierte Einstellungen zur Datenspeicherung. Ein eigener Server klingt nach Goldstandard, ist aber nur so sicher wie die Person, die ihn wartet.

Der Seiteneingang, den viele übersehen: Mitarbeiterkonten

Datenschutz beim Chatbot betrifft nicht nur deine Besucher. Wenn du für den Bot ein Konto beim Modellanbieter anlegst, hinterlegst du dort oft Name, E-Mail-Adresse und Zahlungsdaten einer Person aus deinem Team. Im Forum des Bundesbeauftragten für den Datenschutz wird deshalb diskutiert, für KI-Dienste nicht personalisierte Funktionskonten zu nutzen, etwa ki@deinefirma.de statt der privaten Adresse einer Mitarbeiterin. So landen keine unnötigen personenbezogenen Daten beim Drittanbieter, und wenn jemand das Unternehmen verlässt, hängt der Zugang nicht an seiner Person.

Schritt für Schritt zum datenschutzkonformen Chatbot

So gehst du vor, wenn du einen KI-Chat einführen oder einen bestehenden prüfen willst:

1. Zweck festlegen: Soll der Bot Fragen beantworten, Termine vorbereiten, Leads qualifizieren oder Bestellungen begleiten? Jeder Zweck kann eine andere Rechtsgrundlage brauchen.
2. Datenfluss aufzeichnen: Skizziere, wo Eingaben landen: Widget, Plattform, Sprachmodell, CRM, E-Mail-Postfach. Notiere zu jedem Punkt den Standort.
3. Verträge einsammeln: AVV mit dem Chat-Anbieter. Wenn du eigene Schlüssel für ein Sprachmodell nutzt, prüfe auch dessen Auftragsverarbeitungsbedingungen.
4. Training ausschließen: Stelle sicher, dass Chatverläufe nicht zum Training fremder Modelle verwendet werden, und dokumentiere die Einstellung.
5. Speicherdauer bestimmen: Lege fest, wie lange Verläufe aufbewahrt werden, und lösche sie danach automatisch.
6. Datenschutzerklärung ergänzen: Ein eigener Abschnitt zum Chat, verlinkt direkt im Chatfenster. Als Beispiel für den Aufbau einer solchen Seite dient unsere eigene Datenschutzerklärung.
7. Consent prüfen: Klär, ob das Widget vor der ersten Interaktion Cookies oder Local Storage nutzt und ob es deshalb erst nach Einwilligung laden darf.
8. KI-Hinweis einbauen: Sichtbar beim Start des Gesprächs, in klarer Sprache.
9. Übergabe an Menschen definieren: Bei welchen Themen und ab welchem Punkt übernimmt ein Mitarbeiter?
10. Verzeichnis aktualisieren: Nimm den Chatbot in dein Verzeichnis von Verarbeitungstätigkeiten auf und prüfe mit deinem Datenschutzbeauftragten, ob eine Datenschutz-Folgenabschätzung nötig ist.

Besondere Fälle: Praxen, Kanzleien, Gutachter und Onlineshops

Arztpraxen und Therapeuten: Sobald ein Patient im Chat Symptome beschreibt, verarbeitest du Gesundheitsdaten nach Art. 9 DSGVO. Der sicherste Weg ist ein Bot, der organisatorische Fragen beantwortet (Sprechzeiten, Anfahrt, Rezeptbestellung per Telefon) und bei medizinischen Fragen ausdrücklich an die Praxis verweist. Ein Satz wie “Bitte schreib hier keine Beschwerden oder Befunde” im Begrüßungstext ist sinnvoll, ersetzt aber keine technische Absicherung.

Kanzleien und Steuerberater: Hier kommt zum Datenschutz die berufliche Schweigepflicht hinzu. Kläre mit deiner Kammer oder deinem Datenschutzbeauftragten, welche Dienstleister in welchem Umfang Zugriff auf Mandantenanfragen haben dürfen. Ein Chat, der allgemeine Fragen zu Leistungen, Honorar und Ablauf beantwortet und für alles Mandatsbezogene einen Termin anbietet, ist meist gut vertretbar.

KFZ-Gutachter und Werkstätten: Kennzeichen, Fahrgestellnummern und Unfallschilderungen sind personenbeziehbar. Lass den Bot den Ablauf eines Gutachtens erklären und Rückrufe vorbereiten, aber keine Schadensfotos oder Versicherungsdaten im Chat sammeln, wenn du dafür keinen sauberen Prozess hast.

Onlineshops: Bestellnummern, Adressen und Retourengründe sind Alltag. Entscheidend ist, dass der Bot nur die Daten abruft, die für die konkrete Anfrage nötig sind, und dass klar ist, wer die Verläufe sehen kann. Welche Lösung für kleinere Budgets wirtschaftlich sinnvoll ist, zeigt unser Vergleich zum KI-Chatbot für kleine Firmen.

Was ein Bußgeld von 5 Mio. € lehrt

Dass Aufsichtsbehörden bei Chatbots ernst machen, zeigt der Fall Replika. Die italienische Aufsichtsbehörde verhängte gegen den US-Anbieter Luka Inc. ein Bußgeld von 5 Mio. €. Bemängelt wurden eine fehlende Rechtsgrundlage für die Verarbeitung, eine unzureichende Datenschutzerklärung und fehlende wirksame Altersprüfung. Die endgültige Entscheidung datiert auf den 10. April 2025.

Der Fall betrifft einen Anbieter eines Companion-Chatbots, nicht einen Website-Chat eines Mittelständlers. Die Mängelliste ist aber genau die, die auch kleine Unternehmen prüfen sollten: Rechtsgrundlage, Transparenz und der Umgang mit Nutzergruppen, die besonders schutzbedürftig sind.

Ist ChatGPT selbst DSGVO-konform?

Die Frage wird oft gestellt, lässt sich aber so nicht beantworten. Konform oder nicht ist immer der konkrete Einsatz. Ein Team, das ein Sprachmodell für Textentwürfe ohne Personenbezug nutzt, ist in einer anderen Lage als eine Praxis, die Patientenanfragen durch ein Modell laufen lässt. Im BfDI-Forum vertritt ein Diskussionsteilnehmer die Auffassung, dass die Nutzung datenschutzrechtlich vertretbar sein kann, wenn weder personenbezogene noch personenbeziehbare Daten eingegeben oder ausgegeben werden. Bei einem öffentlichen Website-Chat kannst du genau das nicht garantieren, denn Besucher tippen, was sie wollen. Deshalb brauchst du dort die volle Kette aus Rechtsgrundlage, AVV, Hinweis und Löschkonzept.

Unsere Sicht: Datenschutz ist ein Vertrauensfaktor, kein Bremsklotz

Wir arbeiten seit 13 Jahren mit Onlineshops, Kanzleien, Praxen und Dienstleistern an ihrer Sichtbarkeit bei Google und inzwischen auch in KI-Systemen wie ChatGPT, Perplexity und Gemini. Dabei sehen wir immer wieder dasselbe Muster: Unternehmen bauen einen Chatbot ein, weil er modern wirkt, und merken erst später, dass niemand weiß, wohin die Daten fließen.

Unsere Haltung ist einfach. Du solltest jederzeit die Kontrolle über deine Daten und Konten behalten. Deshalb arbeiten wir grundsätzlich ohne Fremdzugriff auf Kundenkonten, und deshalb haben wir Pulse Chat so gebaut, dass du mit deinem eigenen KI-Schlüssel arbeitest. Das hat einen Kostenvorteil, weil keine Gebühr pro Antwort anfällt. Es hat aber auch einen Transparenzvorteil: Du weißt, mit welchem Modellanbieter du einen Vertrag hast, und kannst dessen Bedingungen selbst prüfen und dokumentieren.

Der zweite Punkt ist der Mensch. Ein KI-Chat soll beraten und vorqualifizieren. Sobald es verbindlich wird, also bei Angeboten, Terminen, Rechts- oder Gesundheitsfragen, gehört das Gespräch in menschliche Hände. Das ist gut für den Datenschutz, gut für die Haftung und am Ende auch gut für die Conversion. Besucher vertrauen einem Unternehmen, das offen sagt, wann eine Maschine antwortet und wann ein Mensch.

— Dominic

Ein KI-Chat, der in Deutschland entwickelt und betrieben wird

Wenn du einen Chat suchst, der zu den oben beschriebenen Anforderungen passt, schau dir Hyped Pulse an. Pulse Chat wird in Deutschland entwickelt und betrieben, per Snippet eingebunden und beantwortet Fragen rund um die Uhr aus deiner eigenen Wissensbasis. Er qualifiziert Anfragen und übergibt per Klick an einen Menschen, sobald es verbindlich wird. Du nutzt deinen eigenen KI-Schlüssel, also ohne Kosten pro Antwort. Der KI Chat kostet 49 € im Monat, die Variante für Onlineshops 149 € im Monat, beide monatlich kündbar. Mit Pulse Convert lassen sich zusätzlich regelgesteuerte Elemente wie Ticker, Tooltips und Lightboxen mit dem Chat verbinden.

Häufige Fragen

Ist ein Chatbot auf der Website automatisch DSGVO-konform, wenn der Anbieter in Deutschland sitzt?

Nein. Der Standort hilft bei der Frage der Drittlandübermittlung, ersetzt aber weder Rechtsgrundlage noch Datenschutzhinweise noch den Auftragsverarbeitungsvertrag. Prüfe außerdem, welches Sprachmodell im Hintergrund arbeitet und wo es betrieben wird.

Brauche ich eine Einwilligung für den Chatbot?

Das hängt vom Zweck und von der Technik ab. Für die Beantwortung einer Anfrage, die der Besucher selbst startet, kommen oft andere Rechtsgrundlagen in Betracht. Setzt das Widget aber schon beim Laden Cookies oder Local Storage für nicht notwendige Zwecke oder nutzt du die Daten für Marketing, ist meist eine Einwilligung nötig. Kläre das im Einzelfall mit deinem Datenschutzbeauftragten.

Muss ich kennzeichnen, dass eine KI antwortet?

Ja, nach Art. 50 des AI Act müssen Nutzer erfahren, dass sie mit einem KI-System interagieren, sofern das nicht ohnehin offensichtlich ist. Ein kurzer, gut sichtbarer Hinweis beim Start des Chats ist die einfachste Lösung.

Welche Daten sollte ein Chatbot gar nicht erst abfragen?

Alles, was für den Zweck nicht nötig ist. Gesundheitsdaten, Mandatsdetails, Ausweis- oder Kontodaten gehören in der Regel nicht in einen öffentlichen Website-Chat. Lass den Bot in solchen Fällen an einen Menschen oder einen sicheren Kanal übergeben.

Wie lange darf ich Chatverläufe speichern?

So lange, wie du sie für den Zweck brauchst, für den du sie erhoben hast. Lege eine feste Löschfrist fest, setze sie technisch um und nenne sie in deiner Datenschutzerklärung.

Quellen

• BayLfD: AI in a Nutshell 3, Einsatz eines LLM-gestützten Chatbots
• Datenschutzstelle Liechtenstein: Chatbots
• EUR-Lex: Verordnung (EU) 2024/1689 (AI Act)
• EDPB: Italienische Aufsicht verhängt Bußgeld gegen Replika-Anbieter
• EDPB: Fallübersicht Replika, Entscheidung vom 10. April 2025
• BfDI-Forum: KI-Einsatz, Info an die Mitarbeiter
• computery.de: KI-Inhalte kennzeichnen seit August 2026

Empfehlungen

• Chat-Handover an einen Menschen: So gelingt die Übergabe
• Datenschutz