KI und Datenschutz: Was darf ich in einen KI-Chat eingeben?

In einen KI-Chat gehört nur, was auch ein Fremder lesen dürfte. Passwörter, Kontodaten, Ausweisnummern, Gesundheitsdaten und Fotos von Kindern gibst du nicht ein, und auch keine Daten anderer Menschen. Alles andere kannst du so umschreiben, dass die KI dir trotzdem helfen kann.

Dieser Artikel erklärt, was mit deinen Eingaben passiert, zeigt eine Ampel für typische Daten und eine Anleitung zum Anonymisieren. Er stützt sich auf Empfehlungen des Bundesamts für Sicherheit in der Informationstechnik (BSI), der Bundesbeauftragten für den Datenschutz (BfDI), der Verbraucherzentrale und der Polizei. Stand: Oktober 2026. Das ist eine allgemeine Information und keine Rechtsberatung.

Was mit deinen Eingaben passiert

Wenn du einem KI-Chat etwas schreibst, bleibt der Text nicht auf deinem Gerät. Er geht an den Anbieter und wird dort verarbeitet. Das BSI erklärt, dass der Betreiber auf deine Eingaben und auf die erzeugten Antworten zugreifen kann. Ob und wie er sie nutzt, etwa ob er sie an Dritte weitergibt, ist von Anbieter zu Anbieter verschieden geregelt. Auskunft geben die Nutzungsbedingungen und die Datenschutzerklärung.

Laut BSI können deine Daten und Eingaben unter anderem

• an Dritte weitergegeben werden,
• zur Weiterentwicklung der KI verwendet und analysiert werden,
• für eine Analyse deines Nutzungsverhaltens dienen.

Die Verbraucherzentrale ergänzt: Gespeichert wird nicht nur, was du schreibst, sondern auch, wie du formulierst, was du fragst und welche Funktionen du nutzt. Diese Eingaben werden in der Regel zum Training und zur Verbesserung der Dienste verwendet.

Warum das mehr ist als ein theoretisches Risiko

Das BSI beschreibt ein einfaches Beispiel: Jemand gibt seine private E-Mail-Adresse in ein KI-Sprachmodell ein, und das Modell wird mit diesen Eingaben trainiert. So kann die Adresse in die Trainingsdaten gelangen und bei gezielten Angriffen an Unbefugte abfließen.

Die BfDI bestätigt diesen Mechanismus aus Sicht des Datenschutzes: Sprachmodelle können Fakten und damit auch personenbezogene Daten aus ihren Trainingsdaten wiedergeben. Studien zeigen laut BfDI, dass vor allem sehr große Modelle bei bestimmten Eingaben oft konkrete Textstellen samt persönlicher Daten aus dem Training ausgeben. Dazu kommt, was für jeden Online-Dienst gilt: Unbefugte können versuchen, sich Zugang zu Ein- und Ausgaben zu verschaffen.

Die Daten-Ampel

Die Verbraucherzentralen empfehlen grundsätzlich, keine persönlichen und sensiblen Daten in KI-Programme einzugeben. Das BSI nennt ausdrücklich Postadresse, Passwörter und Kreditkarteninformationen. Daraus ergibt sich diese Einteilung:

Ein weiterer Punkt betrifft fremde Texte. Die Verbraucherzentrale rät, keine urheberrechtlich geschützten Werke wie ganze Buchinhalte in einen Chatbot einzugeben, weil die Eingaben dort nicht nur vorübergehend gespeichert werden.

Daten anderer Menschen: die häufigste Falle

Viele Menschen sind bei ihren eigenen Daten vorsichtig, aber nicht bei denen anderer. „Meine Schwester hat Diabetes, was soll sie essen?“ oder „Mein Nachbar Herr Krause beschwert sich ständig, schreib ihm eine Antwort“ sind typische Beispiele. Die Betroffenen wurden nicht gefragt und können nichts dagegen tun.

Die Lösung ist einfach: Rollen statt Namen. „Eine Angehörige mit Diabetes“ oder „ein Nachbar, der sich über Lärm beschwert“ genügt der KI völlig.

Kinderfotos gehören nicht in die KI

Die Polizeiliche Kriminalprävention warnt, dass sich mit KI-Programmen aus einem einzigen, völlig harmlosen Bild täuschend echte Fälschungen erzeugen lassen, bis hin zu Nacktbildern. Solche Inhalte verbreiten sich schnell und lassen sich kaum vollständig aus dem Netz entfernen. Wer ein Bild weitergibt, verliert die Kontrolle darüber, was damit geschieht. Die Polizei bittet ausdrücklich auch Großeltern, Tagesmütter und Babysitter, verantwortungsvoll mit Kinderfotos umzugehen. Für KI-Programme heißt das: Lade keine Fotos von Kindern hoch, auch nicht, um einen Hintergrund zu verschönern oder ein lustiges Bild daraus zu machen.

Anonymisieren: so geht's

Oft willst du der KI einen echten Text zeigen, weil du ihn nicht verstehst oder eine Antwort brauchst. Das klappt, wenn du vorher alles entfernst, was auf dich oder andere hinweist.

1. Namen durch Rollen ersetzen: „Frau Yilmaz“ wird „die Sachbearbeiterin“.
2. Adressen weglassen oder verallgemeinern: „meine Mietwohnung“.
3. Alle Nummern streichen: Aktenzeichen, Vertrags-, Kunden-, Versicherungsnummer, IBAN.
4. Genaue Beträge und Daten runden, wenn sie für die Frage nicht entscheidend sind: „etwa 450 Euro“, „Mitte November“.
5. Den Briefkopf und die Unterschrift nicht mitkopieren.
6. Den Text zum Schluss einmal ganz lesen: Steht noch etwas Persönliches drin?

Ein Beispiel. Aus dem Original

„Sehr geehrter Herr Klaus Brenner, Vertragsnummer 4471-889, Am Mühlbach 7, 95444 Bayreuth. Ihr Tarif erhöht sich zum 01.01. um 6,20 Euro monatlich. Sie haben ein Sonderkündigungsrecht bis zum 31.12.“

wird für die KI:

„Mein Stromanbieter schreibt mir, dass sich mein Tarif ab Januar um einige Euro im Monat erhöht und ich ein Sonderkündigungsrecht bis Jahresende habe. Erkläre mir in einfachen Worten, was ein Sonderkündigungsrecht ist und welche Fragen ich mir vor einer Entscheidung stellen sollte.“

Die KI kann genauso gut helfen. Die genaue Frist liest du ohnehin im Original nach. Name und Beispieldaten oben sind ausgedacht. Wie du solche Bitten noch klarer formulierst, zeigt unsere Anleitung zum Prompt schreiben.

Vorsicht bei Fotos und Dokumenten

Viele KI-Programme können Fotos und PDF-Dateien lesen. Das ist bequem, aber auf einem Foto von einem Brief steht mehr, als man denkt: Briefkopf, Adresse, Barcode, manchmal ein Aktenzeichen am Rand. Tippe lieber den wichtigen Teil ab. Wenn es unbedingt ein Foto sein soll, decke vorher alles Persönliche ab. Fotos können zudem Standortdaten enthalten. Die Polizei rät, diese Angaben beim Hochladen zu deaktivieren.

Einstellungen, die du prüfen solltest

Das BSI rät, auf der Seite des Anbieters oder in den Nutzungsbedingungen nachzulesen, was mit den Eingaben passiert, und vorhandene Privatsphäre-Einstellungen anzupassen. Die Menüs heißen bei jedem Programm anders. Diese Punkte lohnen sich:

• Training: Manche Anwendungen erlauben laut BSI, in den Einstellungen abzulehnen, dass deine Daten gespeichert oder weiterverwendet werden. Gibt es so eine Einstellung nicht, musst du laut Verbraucherzentrale dem Anbieter aktiv widersprechen, wenn deine personenbezogenen Daten nicht für das Training verwendet werden sollen.
• Verlauf: Prüfe, ob du alte Gespräche löschen kannst, und räume regelmäßig auf.
• Gedächtnis: Das BSI nennt als Beispiel, dass eine Anwendung nach einer Aktualisierung plötzlich frühere Eingaben behält. Schau nach Updates nach, ob neue Funktionen dazugekommen sind.
• Zugriffsrechte: Postfach, Kalender, Kamera, Kontakte, Standort: Gib laut BSI nur Zugriff auf das, was für die Aufgabe nötig ist. Jede zusätzliche Berechtigung ist eine mögliche Angriffsfläche.
• Kostenlos oder bezahlt: Kostenlose Versionen bieten laut BSI oft weniger Funktionen, das kann auch die Privatsphäre-Einstellungen betreffen. Vergleiche, bevor du dich entscheidest.
• Wer steckt dahinter? Nicht jede Anwendung hat eine eigene KI. Das BSI beschreibt den Fall, dass ein Übersetzungsdienst Vertraulichkeit verspricht, die Texte aber an das Sprachmodell eines anderen Unternehmens schickt. Informiere dich über den Anbieter, bevor du loslegst.

Ein Warnsignal nennt das BSI ausdrücklich: Fragt eine Anwendung nach sensiblen Daten, die sie normalerweise nicht braucht, schöpfe Verdacht. Gib nichts ein und wende dich an den Hersteller.

Deine Rechte nach der DSGVO

In der EU gilt seit Mai 2018 die Datenschutz-Grundverordnung (DSGVO). Laut Verbraucherzentrale müssen sich auch Anbieter von KI-Chats daran halten, wenn sie in der EU sitzen oder ihre Dienste hier anbieten. Du hast unter anderem das Recht,

• Auskunft zu verlangen, welche Daten über dich verarbeitet werden, wofür und an wen sie gehen,
• deine Daten löschen oder berichtigen zu lassen,
• die Verarbeitung einschränken zu lassen.

Das gilt laut Verbraucherzentrale auch, wenn das Unternehmen etwa in den USA sitzt. Die Verbraucherzentrale bietet dafür einen Musterbrief für die Auskunft an. Wenn du ein Programm nicht mehr nutzt, lösche dein Konto, damit keine alten Gespräche liegen bleiben.

Eine Einschränkung solltest du kennen: Die BfDI weist darauf hin, dass persönliche Daten in einem Sprachmodell nicht im Klartext gespeichert sind, sondern als statistische Muster. Das macht es zu einer Herausforderung, Rechte wie Auskunft oder Löschung umzusetzen. Vorsicht beim Eingeben ist deshalb wirksamer als späteres Löschen.

Mehr zu sicheren Gewohnheiten im Umgang mit KI findest du in unserem Überblick KI im Alltag nutzen. Wer das Thema Schritt für Schritt mit Übungen und einer Druckfassung lernen möchte, findet im Privatkurs KI im Alltag eine eigene Lektion zum Datenschutz.

Häufige Fragen

Darf ich meinen Namen in einen KI-Chat schreiben?

Verboten ist es nicht. Aber die KI braucht deinen Namen fast nie. Das BSI rät, so wenig sensible Daten wie möglich zu teilen. Lass ihn weg und setz ihn erst in den fertigen Text ein.

Ist ein KI-Chat sicher, wenn er „DSGVO-konform“ wirbt?

Die DSGVO legt Regeln für den Anbieter fest und gibt dir Rechte. Sie ändert aber nichts daran, dass deine Eingaben beim Anbieter landen. Lies nach, wofür er sie verwendet, und gib trotzdem nur ein, was unbedenklich ist.

Kann ich einen Arztbrief von der KI erklären lassen?

Nur ohne persönliche Angaben. Tippe einzelne Fachbegriffe ab, nicht den ganzen Brief mit Namen, Geburtsdatum und Diagnose. Was die Befunde für dich bedeuten, besprichst du mit deiner Ärztin oder deinem Arzt.

Was mache ich, wenn ich schon zu viel eingegeben habe?

Lösche das Gespräch im Verlauf und prüfe die Einstellungen zum Training. Bei Passwörtern oder PINs: sofort ändern. Bei Kontodaten: deine Bank informieren und im Zweifel über den Sperr-Notruf 116 116 sperren lassen. Zusätzlich kannst du beim Anbieter Auskunft und Löschung nach der DSGVO verlangen.

Gilt das auch für KI-Funktionen in Messengern und sozialen Netzwerken?

Ja. Laut Verbraucherzentrale möchten große Plattformen auch Profildaten, Beiträge, Fotos und Kommentare ihrer Nutzer für das Training ihrer KI-Dienste nutzen. Wer das nicht will, muss beim jeweiligen Anbieter widersprechen.

Quellen

1. Texte & Co. mit Künstlicher Intelligenz erstellen – Generative KI und ihre Risiken, Bundesamt für Sicherheit in der Informationstechnik
2. Anwendungen mit Künstlicher Intelligenz sicher nutzen – Transparenz-Checkliste, Bundesamt für Sicherheit in der Informationstechnik
3. Künstliche Intelligenz sicher nutzen (Wegweiser für den digitalen Alltag), Bundesamt für Sicherheit in der Informationstechnik
4. Chat-Bots – Reden mit dem Computer, Verbraucherzentrale
5. KI in Behörden – Datenschutz von Anfang an mitdenken (Handreichung, 22.12.2025), Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit
6. Kinder sind kein Content: Darum gehören Kinderfotos nicht ins Netz, Polizeiliche Kriminalprävention der Länder und des Bundes
7. Onlinebanking – Was tun im Ernstfall?, Bundesamt für Sicherheit in der Informationstechnik