So prüfen Sie eine KI-Antwort auf Halluzinationen
- Fügen Sie die Antwort von ChatGPT, Gemini, Claude, Copilot oder einem anderen Assistenten ein, samt Links und Literaturliste. Sie können auch auf Datei hochladen klicken, um ein .txt-, .pdf- oder .docx-Dokument zu laden.
- Klicken Sie auf Auf Halluzinationen prüfen. Das Tool findet jede Quelle im Text und prüft sie jeweils drei gleichzeitig; jede wird grün, rot oder gelb, sobald ihr Ergebnis vorliegt.
- Lesen Sie die Zusammenfassung oben: wie viele Quellen bestätigt wurden, wie viele nicht gefunden wurden und wie viele nicht geprüft werden konnten.
- Arbeiten Sie die Behauptungen zum Faktencheck durch, die Liste der Sätze, die am ehesten erfundene Fakten enthalten.
Was wohin gesendet wird
Ihr Text bleibt in Ihrem Browser. Nur die Elemente, die das Tool findet, werden abgefragt: Links und arXiv-IDs über unseren Link-Checker, DOIs und Literaturzeilen bei Crossref (der öffentlichen Datenbank wissenschaftlicher Veröffentlichungen) und ISBNs bei Open Library. Die Sätze um sie herum und der Rest Ihres Textes werden nirgendwohin gesendet.
Was geprüft wird
| Im Text gefunden | So wird geprüft |
|---|---|
DOIs, zum Beispiel 10.1038/nature14539 | Wird bei Crossref abgefragt, das den echten Titel, die Zeitschrift und das Jahr zurückgibt. Hat Crossref sie nicht, prüft das Tool, ob doi.org sie auflösen kann; eine DOI, die nirgends registriert ist, wird als nicht gefunden markiert. |
| Links (URLs) | Unser Server ruft die Seite ab. HTTP 404 oder 410 bedeutet, dass die Seite nicht existiert. HTTP 401, 403, 429 oder ein 5xx-Fehler bedeutet, dass die Website die Anfrage verweigert oder nicht geantwortet hat; der Link wird dann als nicht prüfbar markiert. |
arXiv-IDs, zum Beispiel arXiv:1706.03762 | Die zugehörige arXiv-Seite wird abgerufen, um zu sehen, ob die Arbeit existiert. |
| ISBNs | Zuerst wird die Prüfziffer validiert: Eine ISBN mit falscher Prüfziffer kann zu keinem Buch gehören. Gültige Nummern werden dann bei Open Library abgefragt. |
Zeilen einer Literaturliste, zum Beispiel Autor, A. (2019). Titel. Zeitschrift | Wird bei Crossref gesucht. Als Treffer gilt sie, wenn etwa 70 % der Wörter des gefundenen Titels in Ihrer Literaturzeile vorkommen. |
Die Ergebnisse lesen
Jede Quelle erhält eines von drei Ergebnissen:
- Bestätigt: Die Quelle existiert. Bei DOIs und Literaturangaben wird der echte Titel angezeigt, sodass Sie ihn mit der Quellenangabe vergleichen können.
- Nicht gefunden: Die Seite hat 404 oder 410 zurückgegeben, die DOI ist nicht registriert, die arXiv-ID existiert nicht oder die ISBN ist ungültig. Erfundene DOIs und Links auf Seiten, die es nie gab, sind klassische Halluzinationen, und jeder rote Eintrag verdient Misstrauen.
- Nicht prüfbar: Die Website hat unsere Anfrage blockiert, die Literaturangabe wurde bei Crossref nicht gefunden oder eine gültige ISBN fehlt bei Open Library. Das ist kein Beweis für eine Halluzination. Suchen Sie die Quelle selbst.
Behauptungen zum Faktencheck
Sprachmodelle halluzinieren am häufigsten bei konkreten Details, deshalb listet das Tool Sätze auf, die solche enthalten: Statistiken und Prozentangaben, Geldbeträge, Datumsangaben, Formulierungen wie „laut“, Superlative wie „der erste“, „der größte“, „immer“ und „nie“ sowie Zitate, die einer Person zugeschrieben werden. Es kann nicht beurteilen, ob sie stimmen; es zeigt Ihnen, wo Sie nachsehen sollten. Das Tool markiert auch Hinweise auf den Wissensstand wie „Stand meines letzten Trainings-Updates“, eine Erinnerung daran, dass die Antwort veraltet sein kann.
Die wichtigste Einschränkung
Dieses Tool bestätigt, dass eine Quelle existiert, nicht dass sie die Behauptung stützt. Eine häufige Halluzination zitiert eine echte Studie für eine Zahl, die darin nirgends vorkommt. Ein grüner Haken bedeutet „diese Studie ist echt“, nicht mehr. Öffnen Sie die Quelle und suchen Sie die Passage, die die Behauptung stützt, bevor Sie sich darauf verlassen.
Crossref deckt die meisten Zeitschriftenartikel ab, erfasst aber viele Bücher, Berichte, Abschlussarbeiten und Konferenzbeiträge nicht. Eine als nicht prüfbar markierte Literaturangabe kann durchaus echt sein. Finden Sie sie auch nicht in einem Bibliothekskatalog, bei Google Scholar oder auf der Website des Verlags, behandeln Sie sie als erfunden.
Tipps
- Bitten Sie den Chatbot, zu jeder Behauptung eine DOI oder einen Link anzugeben. Konkrete Kennungen lassen sich prüfen; vage Verweise auf „eine Studie von 2023“ nicht.
- Öffnen Sie einen als nicht prüfbar markierten Link in Ihrem Browser. Der Redirect-Checker zeigt, wohin ein Link wirklich führt.
- Um die Literaturangaben in einer PDF-Arbeit oder einem Bericht zu prüfen, wandeln Sie das Dokument mit PDF in Text um und fügen Sie die Literaturliste ein.
Häufig gestellte Fragen
Was ist eine KI-Halluzination?
Eine Halluzination ist eine Aussage, die ein Sprachmodell als Tatsache darstellt, die aber falsch oder nicht belegt ist: eine erfundene Studie, ein gefälschtes Zitat, ein falsches Datum oder ein Link auf eine Seite, die es nie gab.
Prüft das Tool, ob die Fakten stimmen?
Nein. Es prüft, ob zitierte Quellen existieren, und listet die Sätze auf, die Sie überprüfen sollten. Ob eine Behauptung stimmt, muss weiterhin ein Mensch beurteilen, der die Quelle liest.
Wird mein Text an einen Server gesendet?
Nur die gefundenen Links, DOIs, arXiv-IDs, ISBNs und Literaturzeilen werden abgefragt, über unseren Link-Checker, Crossref und Open Library. Der Rest Ihres Textes bleibt in Ihrem Browser.
Warum zeigt eine echte Website „nicht prüfbar“ an?
Viele Websites blockieren automatisierte Anfragen oder begrenzen, wie oft sie antworten, und liefern dann Codes wie 403 oder 429. Das sagt nichts darüber aus, ob die Seite existiert, öffnen Sie sie also selbst.
Aktualisiert