LLM-Zitationen: Kennzeichnen, prüfen, dokumentieren

LLMs liefern Texte und Zitiervorschläge, doch beides gehört gekennzeichnet und vor der Übernahme verifiziert. Ein Sprachmodell ist keine Autorin und kein Autor, die Verantwortung bleibt bei Ihnen. Audits zu erfundenen Referenzen zeigen, warum die Prüfung nötig ist, und der AI Act macht Transparenz zur Pflicht.

Kurz gesagt:

• Eine belastbare Angabe zu Inhalten aus KI-Systemen nennt Textteil, Anbieter, Modellversion, Nutzungsdatum und Eingabe; prüfen Sie außerdem die Vorgaben Ihrer Hochschule oder Ihres Verlags.
• Lösen Sie jeden DOI bei CrossRef oder OpenAlex auf, gleichen Sie Titel, Autorenschaft und Jahr ab und öffnen Sie die Quelle, bevor Sie sie zitieren.
• Automatische Prüfer können Fehlalarme auslösen oder echte Fehler übersehen; gleichen Sie deshalb alle Einträge maschinell ab und prüfen Sie zentrale Belege selbst.
• Sichern Sie vollständige Gesprächsverläufe mit Folgefragen, Modellversion, Datum und übernommenen Passagen lokal als PDF oder ZIP, denn Freigabelinks können später verfallen.
• Seit dem 2. August 2026 verlangt Artikel 50 des AI Act, Inhalte aus KI-Systemen sichtbar und maschinenlesbar zu kennzeichnen.

Inhaltsverzeichnis

• Was in eine KI-Zitation gehört: die Checkliste
• Warum LLM-Zitationen so fehleranfällig sind
• Verifikations-Workflow: So prüfen Sie, welche Zitate echt sind
• Prompts und Chatverläufe dauerhaft archivieren
• Was Art. 50 des AI Act für Kennzeichnung verlangt
• Meine Einschätzung: Prüfen ist keine Option
• Wie wir Sie bei Sichtbarkeit und Kontrolle unterstützen
• FAQ
• Quellen

Was in eine KI-Zitation gehört: die Checkliste

Die Berlin University Alliance empfiehlt in ihrer Handreichung zur Zitation von KI-Tools vier Fragen, die jede Angabe beantworten sollte: Was, womit, wann, wie. Wer diese Felder sauber füllt, hat eine strukturierte Grundlage für die Zitation. Die konkreten Vorgaben unterscheiden sich je nach Zitationsstil.

• Was: Welcher Textteil stammt vom Modell? Ein Absatz, eine Gliederung, eine Zusammenfassung, ein Codeschnipsel? Benennen Sie den Umfang so genau, dass Dritte die Stelle im Dokument finden.
• Womit: Anbieter, Modellname, Modellversion und die URL des Tools. „ChatGPT“ allein reicht nicht, weil sich Modelle hinter demselben Namen ändern.
• Wann: Datum der Nutzung. Dieselbe Frage kann eine Woche später anders beantwortet werden.
• Wie: Der verwendete Prompt, relevante Einstellungen und die Frage, ob Sie die Antwort wörtlich übernommen, umformuliert oder nur als Ideengeber genutzt haben.

Für die Stilvorgaben gilt: Listen Sie die Felder in der Reihenfolge Ihres Stils auf, statt Musterzeilen aus dem Netz zu kopieren. Prüfen Sie, ob Ihre Hochschule oder Ihr Verlag eigene Vorgaben hat, und richten Sie sich danach.

Zur Platzierung: Die Handreichung empfiehlt, KI-generierte Inhalte im Methodenteil oder Anhang zu kennzeichnen. Prüfen Sie für weitere Vorgaben die Richtlinien Ihrer Hochschule oder Ihres Verlags. Wer das Modell nur zur Sprachglättung verwendet hat, sollte das trotzdem knapp erwähnen, denn Transparenz ist billiger als eine spätere Rückfrage.

Profi-Tipp: Legen Sie sich eine feste Vorlage mit den vier Feldern an und füllen Sie sie direkt nach jeder KI-Sitzung aus. Rückwirkend rekonstruiert man Datum und Prompt nur ungenau.

Warum LLM-Zitationen so fehleranfällig sind

Sprachmodelle erzeugen Text, der plausibel klingt. Ob eine genannte Quelle existiert, ist dabei eine zweite Frage, und sie wird häufig falsch beantwortet. Eine PMC-Studie zur Zuverlässigkeit von Zitaten und Referenzen hat die von ChatGPT erzeugten Quellenangaben in mehreren Fachgebieten empirisch geprüft und findet Fehlerquoten, die vom Modell und vom Fach abhängen. Es gibt also keine Faustregel, die ein Fach pauschal als „sicher“ ausweist.

Noch deutlicher wird das Bild bei einem arXiv-Audit zur Erfindung von Referenzen. Die Autoren vergleichen mehrere Modelle und finden eine weite Streuung der Halluzinationsraten über Modelle und Domänen hinweg. Als mögliche Filter nennen die Autoren den Konsens mehrerer Modelle und wiederholte Anfragen.

Kernbefund: Die Halluzinationsraten bei Zitaten streuen laut arXiv-Audit stark zwischen Modellen und Fachgebieten, eine Übernahme ohne Prüfung ist deshalb nie risikofrei.

Dazu kommt ein systematischer Verzerrungseffekt. Eine Untersuchung auf ResearchGate zeigt, dass LLMs menschliche Zitationsmuster spiegeln und den Matthew-Effekt verstärken: Bereits prominente Quellen werden bevorzugt vorgeschlagen, wer weniger bekannt ist, taucht seltener auf. Auch die Formulierung des Prompts verschiebt, welche Quellen genannt werden.

Für die Forschungspraxis heißt das:

• Ein Literaturverzeichnis aus dem Chat bildet das Feld verzerrt ab, nicht neutral.
• Erfundene Referenzen sehen formal korrekt aus, deshalb fallen sie im Peer-Review leicht durch das Raster.
• Wer eine Quelle nicht selbst geöffnet hat, sollte sie nicht zitieren. Das gilt unabhängig davon, ob ein Tool sie vorgeschlagen hat.

Neuere Modellgenerationen lösen das Problem nicht von selbst. Eine weitere arXiv-Arbeit hält fest, dass zuverlässige Zitation erst durch die Kopplung mit Retrieval-gestützten Prüfsystemen entsteht.

Verifikations-Workflow: So prüfen Sie, welche Zitate echt sind

Verlassen Sie sich nie auf eine einzelne Prüfinstanz. Das mehrstufige Framework von CiteAudit zerlegt die Aufgabe in Schritte von der Extraktion der Aussage über Retrieval und Abgleich bis zur Bewertung, weil robuste Entscheidungen mehrere Stufen brauchen. Für Ihre eigene Arbeit lässt sich das auf einen schlanken Ablauf herunterbrechen:

1. Referenzen exportieren. Ziehen Sie alle Angaben in eine Literaturverwaltung oder eine BibTeX-Datei, damit jeder Eintrag einzeln prüfbar ist.
2. Identifikator auflösen. Schlagen Sie jeden DOI bei CrossRef oder OpenAlex nach. Existiert er nicht, oder gehört er zu einer anderen Publikation, ist der Eintrag verdächtig.
3. Metadaten abgleichen. Stimmen Titel, Autorenschaft, Jahr und Zeitschrift mit dem Treffer überein? Ein Abgleich mit der BibTeX-Datei fängt vertauschte Details ab.
4. Konsensus bilden. Taucht die Quelle in mehr als einem unabhängigen Verzeichnis auf, steigt die Verlässlichkeit. Ein einzelner Treffer genügt nicht.
5. Bei Zweifel eskalieren. Suchen Sie die Quelle über Google Scholar oder den Webindex der Bibliothek.
6. Inhalt prüfen. Öffnen Sie den Text und kontrollieren Sie, ob er die Aussage wirklich stützt, für die Sie ihn zitieren.

Warum ist die False-Positive-Rate so wichtig? HALLMARK zeigt, dass sie für den Praxiseinsatz entscheidend ist, weil echte Fehler bei realistischen Basisraten selten sind. Ein Prüftool, das zu oft Alarm schlägt, begräbt die wenigen echten Treffer unter Fehlalarmen. Die Arbeit beobachtet außerdem, dass agentische Lookups die False-Positive-Rate sogar erhöhen können und dass Modelle Quellen nach ihrem Trainings-Cutoff häufig zu Unrecht markieren. Senken lässt sich die Rate durch Konsensus über mehrere Quellen und durch gestufte Eskalation, bei der nur unklare Fälle an Menschen gehen.

Ein ergänzender arXiv-Beitrag empfiehlt DOI-Lookup und BibTeX-Abgleich, bleibt aber bei manuellen Stichproben als Sicherung. Planen Sie also vor jeder Abgabe einen automatischen Durchlauf über alle Referenzen und zusätzlich eine händische Kontrolle einer Stichprobe, bei kurzen Arbeiten am besten aller Einträge.

Profi-Tipp: Prüfen Sie zuerst die Quellen, die eine zentrale Aussage tragen. Ein erfundener Beleg an dieser Stelle ist folgenreicher als ein Tippfehler im Randbereich.

Prompts und Chatverläufe dauerhaft archivieren

Nachvollziehbarkeit endet nicht mit der Fußnote. Wer die Entstehung eines Textes belegen muss, braucht die Originalsitzung. Die Universitätsbibliothek Passau rät dazu, Chatverläufe und Prompts konsequent zu sichern, und weist darauf hin, dass lokale Exporte verlässlicher sind als Share-Links, die verfallen können. Ein Link, der später ins Leere führt, kann als Beleg unbrauchbar werden.

Archivieren Sie mindestens diese Inhalte:

• den vollständigen Prompt samt Folgefragen,
• Modellname und Version sowie den Anbieter,
• Datum und Uhrzeit der Sitzung,
• die Antwortpassagen, die Sie übernommen oder verarbeitet haben,
• Einstellungen, soweit das Tool sie anzeigt.

Speichern Sie die Sitzung als PDF oder als ZIP-Export und legen Sie sie zusammen mit Ihren Rohdaten ab. Ein Screenshot kann als Ergänzung dienen. Verknüpfen Sie die Datei über eine kurze Kennung mit der Stelle im Manuskript, dann finden Sie später jede Passage wieder.

In der Publikation selbst genügen minimale Metadaten im Text, die Volltexte gehören ins Supplement oder in den Anhang. So bleibt die Arbeit lesbar und trotzdem überprüfbar. Beachten Sie bei sensiblen Daten die Vorgaben Ihrer Einrichtung: Was nicht in ein externes Tool gehört, gehört auch nicht in dessen Archiv.

Profi-Tipp: Benennen Sie Exportdateien eindeutig, damit Sie sie später wiederfinden. Ein Dateiname wie „chat_final_neu2.pdf“ ist wenig aussagekräftig.

Was Art. 50 des AI Act für Kennzeichnung verlangt

Seit dem 2. August 2026 gelten die Transparenzpflichten des AI Act. Artikel 50 verlangt, KI-generierte Inhalte zu kennzeichnen und maschinenlesbar zu markieren. Wo ein Text unter redaktioneller Verantwortung steht, sollten Sie die menschliche Überprüfung dokumentieren. Die Europäische Kommission begleitet das mit einem freiwilligen Code of Practice zur Transparenz KI-generierter Inhalte.

Praktisch folgt daraus für Autorinnen und Plattformbetreiber: Kennzeichnen Sie KI-Anteile erkennbar, halten Sie fest, wer den Text geprüft hat, und bewahren Sie diesen Nachweis auf. Der Code of Practice ist kein Gesetz, eignet sich aber als Orientierung, um die Einhaltung nachvollziehbar zu belegen. Im Zweifel klärt Ihre Rechtsabteilung, welche Pflichten konkret für Sie gelten.

Meine Einschätzung: Prüfen ist keine Option

Ich arbeite daran, dass Inhalte in KI-Antworten auftauchen, und genau deshalb sehe ich die andere Seite sehr klar. Ein Modell zitiert, was statistisch plausibel klingt, nicht was wahr ist. Wer Sichtbarkeit in KI-Systemen anstrebt, sollte im Blick behalten, dass Sprachmodelle Quellen fehlerhaft wiedergeben oder erfinden können.

Mein Rat ist unspektakulär: Automatisieren Sie, was sich automatisieren lässt, also den DOI-Abgleich, den Metadatenvergleich und die Dublettenkontrolle, wie es etwa Vereinsmanager empfiehlt. Lassen Sie aber nie weg, dass ein Mensch die tragenden Belege selbst liest. Die Zahlen aus den Audits sind für mich kein Grund zur Panik, sondern ein Argument für Routine. Wer Prüfschritte fest in den Arbeitsablauf einbaut, braucht keine Angst vor erfundenen Quellen zu haben.

— Dominic

Wie wir Sie bei Sichtbarkeit und Kontrolle unterstützen

Wissenschaftliche Prüfung können und wollen wir nicht ersetzen. Wo es um Sichtbarkeit in Google und KI-Antworten geht, begleiten wir Sie dagegen gern, als Copilot, nicht als Agentur, die Ihnen die Konten aus der Hand nimmt. Im Organic Growth System verbinden wir SEO und GEO mit einem Monitoring, das zeigt, wo und wie Ihre Inhalte in KI-Antworten erscheinen. Für Einrichtungen, die Quellen sauber auszeichnen und kontrolliert ausspielen wollen, ergibt das einen verlässlichen Rahmen. Wie Sie dafür sorgen, dass Antwortsysteme Ihre Inhalte zitieren, zeigen wir in unseren Anleitungen zu Perplexity und zum Ranking in ChatGPT.

Konkret bieten wir an:

• Sichtbarkeits-Monitoring für Google und KI-Systeme,
• GEO-Analysen mit priorisierten Handlungsempfehlungen,
• Pulse Chat als Wissensbasis für Ihre Inhalte.

Das Organic Growth System kostet 379 € im Monat. Möchten Sie erst einmal wissen, wo Sie stehen? Starten Sie mit unserem kostenlosen Sichtbarkeits-Check oder buchen Sie einen Beratungstermin.

FAQ

Muss ich ChatGPT in meiner Arbeit zitieren?

Ja, wenn Sie Inhalte des Modells übernehmen oder verarbeiten, sollten Sie das kenntlich machen. Dokumentieren Sie Tool, Version, Datum und Prompt. Maßgeblich ist immer die Regel Ihrer Hochschule oder Ihres Verlags.

Kann ein LLM als Autor genannt werden?

Nein, nach der Einschätzung deutscher Universitätsbibliotheken gelten KI-Tools nicht als Autor:innen. Die inhaltliche Verantwortung liegt vollständig bei der forschenden Person, wie die Universitätsbibliothek Passau festhält.

Wie erkenne ich eine erfundene Quelle?

Lösen Sie den DOI bei CrossRef oder OpenAlex auf und gleichen Sie Titel, Autorenschaft und Jahr ab. Findet sich die Quelle in keinem unabhängigen Verzeichnis, behandeln Sie sie als unbelegt und öffnen Sie sie notfalls selbst.

Reicht ein automatisches Prüftool aus?

Nein, automatische Prüfer können Fehlalarme erzeugen oder Treffer übersehen. Kombinieren Sie sie mit einer menschlichen Stichprobe, vor allem bei den Quellen, die Ihre Kernaussagen tragen.

Warum sollte ich Chatverläufe lokal speichern?

Share-Links können verfallen oder gelöscht werden. Ein lokaler Export als PDF oder ZIP kann nachvollziehbar dokumentieren, wie ein Text entstanden ist.

Empfehlungen

• In 90 Tagen LLM‑SEO‑Sichtbarkeit für Marketing und SEO‑Teams
• Sichtbarkeit für Anwälte steigern: 7 praxisnahe Tipps
• Lokale Sichtbarkeit für Anwälte: Der Praxisleitfaden 2026
• SEO best practices für Kanzleien: 80% mehr Sichtbarkeit