Fehler erkennen

KI-Antworten klingen fast immer überzeugend. Trotzdem sind manche falsch. In dieser Lektion lernst du die typischen Fehler kennen und bekommst eine einfache Checkliste, mit der du jede Antwort in wenigen Minuten prüfen kannst.

Warum KI sich irrt

In Lektion 1 hast du gelernt: Ein Sprachmodell berechnet, welches Wort am wahrscheinlichsten als Nächstes passt ^[6]. Es schlägt nicht in einem Lexikon nach. Es prüft nicht, ob etwas stimmt.

Das BSI sagt es ganz deutlich: „Eine KI-Anwendung kann sich irren.“ ^[5] Und die Verbraucherzentrale ergänzt: Die Antworten eines Chat-Programms können ungenau, unvollständig oder unangemessen sein ^[9].

Das Tückische daran: Falsche Antworten sehen genauso aus wie richtige. Sie sind gut formuliert, freundlich und klingen sicher. Es gibt kein rotes Lämpchen, das bei einem Fehler aufleuchtet.

Deshalb ist Prüfen keine Misstrauensfrage. Es ist ganz normales Handwerk, so wie du beim Einkaufen auf das Haltbarkeitsdatum schaust.

Fehler 1: Erfundene Fakten

Manchmal erfindet ein KI-Assistent Dinge, die es gar nicht gibt. Fachleute nennen das „Halluzinieren“ ^{[5] [6]}. Das klingt harmlos, kann aber Folgen haben.

Typische Beispiele:

• ein Buch, das nie geschrieben wurde, mit Titel und Verlag,
• ein Gesetz oder ein Paragraf, der so nicht existiert,
• ein Zitat, das die genannte Person nie gesagt hat,
• eine Telefonnummer oder Adresse, die nicht stimmt,
• eine Studie mit genauen Zahlen, die niemand je gemacht hat.

Besonders heimtückisch sind erfundene Quellenangaben. Das BSI weist ausdrücklich darauf hin: Eine KI kann auf wissenschaftliche Veröffentlichungen oder andere Belege verweisen, die selbst frei erfunden sind ^[6]. Eine Antwort mit Quellenangabe ist also nicht automatisch sicherer.

So erkennst du es: Werde hellhörig, wenn eine Antwort sehr genaue Details nennt, etwa Jahreszahlen, Prozentzahlen, Namen oder Paragrafen. Genau diese Details musst du nachprüfen.

Diese Bitte hilft, ersetzt aber nicht deine eigene Prüfung. Auch die Markierungen können falsch sein.

Fehler 2: Veraltetes Wissen

Eine KI lernt aus Texten, die bis zu einem bestimmten Zeitpunkt gesammelt wurden ^[5]. Was danach passiert ist, kennt sie oft nicht. Das BSI erklärt: Hat ein Programm keinen Zugriff auf aktuelle Daten, liegen ihm keine Informationen über aktuelle Ereignisse vor ^[6].

Das betrifft zum Beispiel:

• Preise, Gebühren und Tarife,
• Öffnungszeiten und Fahrpläne,
• Gesetze und Regeln, die sich geändert haben,
• Nachrichten und politische Ämter,
• Rentenwerte, Freibeträge oder Fördergelder.

Manche KI-Assistenten können im Internet nachschauen. Aber auch dann kannst du dich nicht blind darauf verlassen. Die gefundene Seite kann selbst veraltet oder unseriös sein.

So erkennst du es: Frag dich bei jeder Antwort: Kann sich das in den letzten Monaten geändert haben? Wenn ja, prüfe es bei der zuständigen Stelle. Das BSI rät außerdem: Schau nach, bis zu welchem Datum das Wissen der KI reicht. Das steht oft in der Anwendung oder auf der Seite des Anbieters ^[7].

Fehler 3: Rechenfehler

Viele Menschen denken: Ein Computer kann doch rechnen. Das stimmt für einen Taschenrechner. Ein Sprachmodell ist aber kein Taschenrechner. Es erzeugt Text. Das BSI beschreibt, dass solche Modelle in der Mathematik nur eingeschränkt einsetzbar sind ^[6].

Typische Fehler:

• Summen, die nicht stimmen, besonders bei vielen Posten,
• falsche Prozentrechnungen,
• vertauschte oder verdrehte Zahlen,
• Datumsrechnungen, etwa „Wie viele Tage bis zum …“.

So erkennst du es: Rechne alles, was mit Geld oder Fristen zu tun hat, selbst nach. Mit einem Taschenrechner, auf dem Handy oder auf einem Zettel. Lass die KI ruhig den Rechenweg aufschreiben. Dann siehst du schneller, wo es hakt.

Zum Vergleich: Die richtige Summe ist 84 + 29,99 + 8 = 121,99 Euro im Monat. Prüfe, ob die KI auf dasselbe Ergebnis kommt.

Fehler 4: Halbwahrheiten und Lücken

Nicht jede falsche Antwort ist komplett erfunden. Oft ist sie einfach unvollständig ^[9]. Ein wichtiger Ausnahmefall fehlt. Oder die Antwort passt für ein anderes Land, aber nicht für Deutschland.

Ein Beispiel: Du fragst nach einer Frist für einen Widerspruch. Die KI nennt eine Frist, die in vielen Fällen gilt. Aber in deinem Brief steht vielleicht etwas anderes. Und nur dein Brief zählt.

So erkennst du es: Frag nach: „Gibt es Ausnahmen?“ und „Gilt das auch in Deutschland?“ Und vergleiche immer mit dem Original, also mit deinem Brief, deinem Vertrag oder deinem Beipackzettel.

Fehler 5: Die KI gibt dir einfach recht

Ein KI-Assistent ist darauf ausgelegt, hilfreich und freundlich zu sein. Das hat eine Kehrseite: Wenn du eine Frage schon mit einer Meinung stellst, bestätigt die KI sie oft.

Fragst du „Das ist doch richtig so, oder?“, bekommst du leicht ein „Ja“. Auch wenn es nicht stimmt.

So vermeidest du es: Stell deine Frage neutral. Statt „Ist es nicht besser, das Geld aufs Sparbuch zu legen?“ fragst du: „Welche Vor- und Nachteile hat ein Sparbuch?“ Oder bitte ausdrücklich um Widerspruch.

Wie du Quellen gegenprüfst

Gegenprüfen heißt: Du schaust an einer zweiten, unabhängigen Stelle nach. Das BSI empfiehlt, Antworten bei Bedarf mit zuverlässigen, unabhängigen Quellen abzugleichen ^[5]. Auch die Verbraucherzentrale rät: Prüfe die Informationen und bewerte sie, bevor du sie verwendest oder weitergibst ^[9].

Gute Stellen zum Gegenprüfen sind:

• Offizielle Stellen: Ämter, Ministerien, Krankenkassen, Rentenversicherung. Ihre Webseiten erkennst du oft an Endungen wie „.bund.de“ oder an den Namen von Ländern und Städten.
• Verbraucherzentrale: für Verträge, Geld, Einkaufen und Datenschutz.
• Fachleute: Ärztin, Apotheker, Steuerberaterin, Bankberater, Anwalt.
• Das Original: Brief, Vertrag, Rechnung, Beipackzettel, Bedienungsanleitung.

Und so gehst du vor, wenn eine KI eine Quelle nennt:

1. Gibt es die Quelle wirklich? Such den Titel oder die Webseite selbst. Klick nicht blind auf einen Link aus der Antwort. Das BSI rät, Links aus KI-Antworten vor dem Öffnen genau zu prüfen ^[5].
2. Steht dort, was die KI behauptet? Lies die Stelle selbst nach. Oft steht dort etwas anderes oder weniger.
3. Ist die Quelle aktuell? Achte auf das Datum.
4. Wer steht dahinter? Ein Amt ist verlässlicher als ein unbekannter Blog.

Wann du ganz besonders vorsichtig sein solltest

Manche Themen sind zu wichtig für einen schnellen Blick. Hier gilt: KI darf dir helfen, Fragen vorzubereiten. Die Antwort holst du dir bei einer verlässlichen Stelle.

• Gesundheit: Medikamente, Dosierungen, Wechselwirkungen, Beschwerden. Immer Ärztin, Arzt oder Apotheke fragen.
• Geld: Verträge, Geldanlage, Kredite, Versicherungen.
• Recht und Behörden: Fristen, Widersprüche, Anträge, Erbschaft.
• Sicherheit: alles, wo jemand Geld, Daten oder schnelles Handeln von dir will. Dazu mehr in Lektion 7.

Die Prüf-Checkliste

Diese sieben Fragen kannst du bei jeder wichtigen KI-Antwort durchgehen. Du kannst sie ausdrucken und neben den Computer legen.

1. Wie wichtig ist das? Geht es um Gesundheit, Geld, Recht oder Sicherheit, prüfst du immer.
2. Gibt es genaue Details? Namen, Zahlen, Daten, Paragrafen, Zitate: Diese einzeln nachprüfen.
3. Kann es veraltet sein? Preise, Regeln, Termine: an der offiziellen Quelle prüfen.
4. Stimmt die Rechnung? Selbst nachrechnen, mit Taschenrechner.
5. Gibt es die Quelle wirklich? Selbst suchen, nicht blind auf Links klicken.
6. Passt es zu meinem Fall? Mit dem Original vergleichen: Brief, Vertrag, Beipackzettel.
7. Habe ich neutral gefragt? Wenn nicht, die Frage noch einmal anders stellen.

Und wenn du einen Fehler findest?

Dann hast du alles richtig gemacht. Du kannst die KI im selben Gespräch darauf hinweisen: „Das stimmt nicht. Laut [Quelle] ist es so: …“ Oft korrigiert sie sich. Aber auch die Korrektur prüfst du.

Und noch ein Tipp: Ein KI-Assistent ist kein Gegner. Er ist ein Werkzeug mit bekannten Schwächen. Wer diese Schwächen kennt, kann das Werkzeug sicher und mit Gewinn nutzen. Genau darum geht es in diesem Kurs.