KI-Zitathalluzinationen
und wie man sie erkennt

Eine halluzinierte Quellenangabe ist eine von einem KI-System erzeugte Referenz, die keiner realen, überprüfbaren Veröffentlichung entspricht. Es kann ein völlig erfundener Aufsatz sein, ein echter Titel mit einer erfundenen DOI oder ein realer Artikel, der Autoren zugeschrieben wird, die ihn nie geschrieben haben. Das Ergebnis wirkt glaubwürdig — echte Zeitschriftennamen, plausible Titel, korrekt formatierte DOIs — und genau deshalb entgeht es einer raschen Sichtprüfung.

Große Sprachmodelle wie ChatGPT, Claude und Gemini erzeugen dies, weil sie darauf ausgelegt sind, statistisch plausiblen Text zu generieren, nicht Datenbankabfragen durchzuführen. Bittet man um „drei Aufsätze zu einem Thema“, setzt das Modell Referenzen zusammen, die so aussehen, wie solche Aufsätze aussehen würden. Es vervollständigt Text, es ruft keine Information ab.

Das Risiko beschränkt sich nicht auf Fälle, in denen Sie eine KI um das Finden von Quellen gebeten haben. Ein Modell kann auch eine Quellenangabe einfügen, während es etwas ganz anderes tut — eine Zusammenfassung glätten, einen Methodenteil umformulieren — weil eine hinzugefügte Referenz den Text autoritativer wirken lässt. Sie haben nicht darum gebeten, und sofern Sie die Bibliografie nicht erneut mit dem Fließtext abgleichen, bemerken Sie womöglich nicht, dass sie hinzugefügt wurde.

Dies ist gemessenes Verhalten, keine Anekdote. Mehrere peer-reviewte Studien quantifizieren es inzwischen:

• Walters und Wilder (2023) stellten in Scientific Reports fest, dass ein erheblicher Anteil der von ChatGPT erzeugten bibliografischen Angaben erfunden war oder Fehler enthielt, die schwerwiegend genug waren, um eine Leserin oder einen Leser ohne Prüfung in die Irre zu führen (doi.org/10.1038/s41598-023-41032-5).
• Topaz und Kolleg:innen (2026) berichteten in The Lancet über ein Referenz-Integritätsaudit von 2,5 Millionen biomedizinischen Aufsätzen und wiesen erfundene Quellenangaben über die gesamte Literatur hinweg sowie einen steigenden Trend im Zeitverlauf nach (doi.org/10.1016/S0140-6736(26)00603-3).
• Resnik und Hosseini (2026) argumentieren in Accountability in Research, dass halluzinierte Quellenangaben wissenschaftliches Fehlverhalten darstellen können, wenn sie als Daten fungieren — etwa in systematischen Übersichtsarbeiten — und der Autor die KI-Ausgabe nicht überprüft (doi.org/10.1080/08989621.2026.2645390). Ob ein solches Versäumnis als Fehlverhalten gilt, hängt vom rechtlichen Maßstab der Rücksichtslosigkeit (recklessness) ab — abzugrenzen von bloßer Fahrlässigkeit —, den Caron et al. (2025) eingehend untersuchen (doi.org/10.1080/08989621.2023.2256650).

Über die Wissenschaft hinaus zeigt sich dasselbe Fehlermuster vor Gericht: Eine öffentliche Datenbank des Rechtsforschers Damien Charlotin dokumentiert mehr als 1.500 Gerichtsentscheidungen, in denen generative KI erfundene Quellenangaben hervorbrachte (Charlotin, 2026). Es handelt sich um Schriftsätze — ein Bereich außerhalb der hier genutzten wissenschaftlichen Datenbanken — doch das Muster ist identisch.

Jede oben zitierte peer-reviewte Studie wurde vor Veröffentlichung dieser Seite mit AiCitationChecker geprüft — passend für einen Beitrag über ungeprüfte Quellenangaben.

Wissenschaftliche Plattformen behandeln den nachlässigen Einsatz von KI inzwischen als handfestes Problem. 2026 kündigte der Preprint-Server arXiv eine strengere Durchsetzung an, die Autoren für ungeprüfte KI-Ausgaben verantwortlich macht — einschließlich halluzinierter Quellenangaben — eine Wende, über die in der Wissenschafts- und Technologiepresse breit berichtet wurde. Die Regelung ist nicht KI-feindlich; sie kodifiziert ein stets implizites Prinzip: Autoren sind für alles in ihrem Aufsatz verantwortlich, wie auch immer es entstanden ist.

Die praktische Folge ist, dass eine einzige erfundene Quellenangabe kein harmloser Ausrutscher mehr ist. Sie kann eine Ablehnung ohne Begutachtung, eine Integritätsprüfung oder eine Korrektur auslösen — und da sich Zitate fortpflanzen, kann eine einmal zitierte erfundene Referenz in spätere Aufsätze und Übersichtsarbeiten einsickern. Die Bibliografie vor der Einreichung zu prüfen, ist von guter Hygiene zu grundlegendem Risikomanagement geworden.

Kein Prüfwerkzeug kann jede Disziplin gleich gut abdecken. Eine Quellenangabe zu prüfen heißt, sie mit wissenschaftlichen Datenbanken wie CrossRef und OpenAlex abzugleichen, und deren Abdeckung variiert je nach Fach — stark bei Zeitschriftenaufsätzen mit DOI, dünner bei manchen Büchern, Kapiteln und Nischenpublikationen. Die Ergebnisse können daher je nach Ihrem Arbeitsgebiet unterschiedlich ausfallen.

Genau deshalb enthält jedes AiCitationChecker-Konto kostenlose tägliche Prüfungen: Lassen Sie Ihre eigenen Quellen, in Ihrem eigenen Fach, durchlaufen und sehen Sie, wie das Werkzeug abschneidet, bevor Sie sich darauf verlassen — oder für irgendetwas bezahlen. Uns ist lieber, Sie überzeugen sich selbst, dass es zu Ihrer Arbeit passt, als dass Sie uns aufs Wort glauben.

• Behandeln Sie jede von der KI gelieferte Quellenangabe als ungeprüft, bis das Gegenteil belegt ist — eine vorläufige Annahme, kein Faktum.
• Prüfen Sie jede DOI: Vergewissern Sie sich, dass sie auf einen Aufsatz verweist, dessen Titel, Autoren und Jahr tatsächlich mit der Angabe übereinstimmen.
• Gleichen Sie mit maßgeblichen Datenbanken ab — ein echter Aufsatz erscheint in mindestens einer von CrossRef, OpenAlex oder PubMed.
• Prüfen Sie die gesamte Literaturliste vor der Einreichung, nicht nur die Angaben, die Sie wissentlich von einer KI haben suchen lassen.
• Automatisieren Sie den ersten Durchgang, damit die Prüfung so schnell geht, dass Sie sie nie auslassen.

Vollständige Angaben zu den in diesem Beitrag zitierten Quellen:

1. Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13(1), 14045. https://doi.org/10.1038/s41598-023-41032-5
2. Topaz, M., Roguin, N., Gupta, P., Zhang, Z., & Peltonen, L.-M. (2026). Fabricated citations: an audit across 2.5 million biomedical papers. The Lancet, 407(10541), 1779–1781. https://doi.org/10.1016/S0140-6736(26)00603-3
3. Resnik, D. B., & Hosseini, M. (2026). Hallucinated citations produced by generative artificial intelligence may constitute research misconduct when citations function as data in scholarly papers. Accountability in Research. https://doi.org/10.1080/08989621.2026.2645390
4. Caron, M. M., Dohan, S. B., Barnes, M., & Bierer, B. E. (2025). Defining “recklessness” in research misconduct proceedings. Accountability in Research, 32(2), 120–142. https://doi.org/10.1080/08989621.2023.2256650
5. Charlotin, D. (2026). AI Hallucination Cases [Datenbank]. https://www.damiencharlotin.com/hallucinations/