KI-Antworten prüfen: Woran man erfundene Inhalte erkennt

Ein Chatbot antwortet in Sekunden, flüssig, höflich und mit einer Sicherheit, die mancher Fachmann nicht hätte. Genau das ist das Problem. Falsche Angaben klingen bei ChatGPT, Gemini, Copilot und Co. genauso überzeugend wie richtige, und ein Teil davon ist frei erfunden. Wer eine KI-Antwort für etwas Wichtiges nutzen will, etwa für eine Frage zur Miete, zur Krankenkasse oder zu einem Medikament, braucht deshalb ein paar feste Prüfschritte. Die kosten wenige Minuten und keine Fachkenntnisse.

Warum Chatbots Dinge erfinden

Erfundene Angaben einer KI heißen Halluzinationen. Das Bundesamt für Sicherheit in der Informationstechnik beschreibt es nüchtern: Sprachmodelle können zufällig falsche Informationen ausgeben oder sie erst erzeugen. Der Grund liegt in der Funktionsweise. Ein Sprachmodell berechnet, welches Wort am wahrscheinlichsten als Nächstes passt. Ob die Aussage stimmt, prüft es dabei nicht. Die Verbraucherzentrale ergänzt, dass die Trainingsdaten nicht auf Richtigkeit geprüft werden und ein Chatbot nicht immer erkennen kann, ob eine Information verlässlich ist.

Forscher von OpenAI, dem Unternehmen hinter ChatGPT, haben 2025 einen weiteren Grund benannt. Beim Training und in den üblichen Leistungstests wird Raten belohnt, Zugeben von Unwissen dagegen bestraft. Das funktioniert wie ein Multiple-Choice-Test, bei dem eine leere Antwort null Punkte bringt und ein Tipp vielleicht einen. Die Modelle lernen also, lieber selbstbewusst zu antworten als „Das weiß ich nicht“ zu sagen.

Wie oft Antworten daneben liegen

Wie häufig das passiert, hat 2025 eine Untersuchung von 22 öffentlich-rechtlichen Sendern aus 18 Ländern gezeigt, darunter ARD und ZDF, koordiniert von der Europäischen Rundfunkunion und der BBC. Die Redaktionen bewerteten über 3.000 Antworten von ChatGPT, Copilot, Gemini und Perplexity auf Fragen zu aktuellen Nachrichten. Das Ergebnis: 45 Prozent der Antworten hatten mindestens ein gravierendes Problem. Bei 31 Prozent stimmten die Quellenangaben nicht, weil Belege fehlten, falsch zugeordnet waren oder die angebliche Quelle die Aussage gar nicht stützte. 20 Prozent enthielten sachliche Fehler, darunter erfundene Details und veraltete Angaben.

Die Beispiele aus der Studie sind lehrreich. Ein Assistent nannte Olaf Scholz noch als Bundeskanzler, ein anderer führte Papst Franziskus im Mai 2025 als amtierenden Papst, obwohl er im April gestorben war. Mehrere Systeme lieferten Links, die ins Leere führten. Dass selbst Fachleute darauf hereinfallen, zeigen mehrere deutsche Gerichte, die Anwälte wegen erfundener Urteilszitate aus der KI gerügt haben.

Warnzeichen in der Antwort

Einige Muster deuten auf erfundene Inhalte hin, noch bevor eine Suche nötig ist. Das erste sind sehr genaue Angaben zu einer Nischenfrage: ein exaktes Datum, eine Prozentzahl mit Nachkommastelle, ein Paragraph, ein Aktenzeichen. Je spezieller die Frage und je präziser die Antwort, desto eher hat das Modell geraten. Das zweite Warnzeichen sind Quellenangaben, die tadellos aussehen: Autor, Jahr, Titel, manchmal ein Link. Universitätsbibliotheken warnen ihre Studenten ausdrücklich, dass solche Literaturangaben oft erfunden sind und jede einzelne geprüft werden muss.

Das dritte Warnzeichen ist die Zeit. Jedes Modell hat laut BSI einen Wissensstand bis zu einem bestimmten Datum. Was danach passiert ist, kennt es nur, wenn es im Internet nachschlägt, sonst rät es. Das vierte Warnzeichen ist der Zweck. Das BSI nennt als Beispiel ein Sprachmodell, das einen privaten Kaufvertrag aufsetzen soll und dabei Fehler macht, weil es dafür nicht gebaut ist. Und das fünfte ist die völlige Abwesenheit von Zweifel. Ein Chatbot, der zu jeder Frage sofort eine sichere Antwort hat, verhält sich genau so, wie ihn sein Training belohnt.

KI-Antworten prüfen: vier Schritte

Der erste Schritt ist, die Quelle zu verlangen und zu öffnen. Ein Link, der nicht funktioniert, oder eine Seite, auf der die Behauptung nicht steht, entlarvt die Antwort sofort. Genau das war in der Senderstudie mit 31 Prozent der häufigste Fehler. Der zweite Schritt gilt für Zitate, Studien und Titel: in Anführungszeichen in eine Suchmaschine eingeben. Kein einziger Treffer bedeutet fast immer, dass es die Quelle nicht gibt.

Der dritte Schritt ist eine zweite, unabhängige Quelle: die Webseite einer Behörde, der Verbraucherzentrale, der Krankenkasse oder der Gesetzestext selbst. Die Verbraucherzentrale empfiehlt für Nachrichten zusätzlich Faktencheck-Portale. Der vierte Schritt ist die Gegenprobe: dieselbe Frage neu formuliert stellen oder einem zweiten Chatbot vorlegen. Weichen die Antworten voneinander ab, ist mindestens eine falsch, und man weiß nicht welche.

Checkliste für den Alltag

• Wichtigkeit: Geht es um Geld, Gesundheit, Verträge oder Fristen, wird immer geprüft. Für einen Kuchenrezept-Tipp reicht der gesunde Menschenverstand.
• Quelle: Gibt es einen Link, und steht die Aussage dort wirklich?
• Existenz: Findet eine Suchmaschine den zitierten Titel, das Urteil oder die Studie?
• Aktualität: Betrifft die Frage etwas, das sich kürzlich geändert haben kann, etwa Gesetze, Preise oder Amtsinhaber?
• Zweiter Blick: Sagt eine Behörde, eine Verbraucherzentrale oder ein Faktencheck dasselbe?
• Gegenprobe: Bleibt die Antwort gleich, wenn die Frage anders gestellt wird?

Wer bei wichtigen Fragen zusätzlich am Ende der Eingabe bittet, Unsicherheiten offen zu nennen, bekommt häufiger ehrliche Antworten. Das ersetzt keine Prüfung, es macht sie aber leichter, weil das Modell dann eher sagt, wo es rät. Und wer nach dem Prüfen feststellt, dass die Hälfte stimmt und die andere Hälfte erfunden war, hat die Untersuchung der Sender nur im Kleinen wiederholt.