Citation Hallucination

Was ist eine Citation Hallucination?

Manchmal erfindet die KI URLs, die echten URLs ähneln, aber zu nicht existierenden Seiten führen — oder sie ordnet Informationen aus verschiedenen Quellen fälschlicherweise einer einzigen zu. Für betroffene Unternehmen kann das bedeuten, dass ihnen falsche Preise, erfundene Produkte oder nie getätigte Aussagen zugeschrieben werden. Schützen Sie sich, indem Sie regelmäßig KI-Modelle nach Ihrem Unternehmen befragen und eine Grounding Page mit allen korrekten Fakten bereitstellen.

Citation Hallucination ist ein ernstes Problem in der Welt der KI-Suchsysteme. Es tritt auf, wenn ein KI-Modell eine Quelle zitiert, die entweder gar nicht existiert oder den angeblich zitierten Inhalt nicht enthält. Die KI „erfindet” also eine Quellenangabe, die plausibel klingt, aber nicht verifizierbar ist. Für betroffene Unternehmen kann das bedeuten, dass ihnen Aussagen zugeschrieben werden, die sie nie getätigt haben.

Das Phänomen hat verschiedene Ursachen. Manchmal kombiniert die KI Informationen aus verschiedenen Quellen und ordnet sie fälschlicherweise einer einzigen zu. In anderen Fällen generiert sie URLs, die dem Muster echter URLs ähneln, aber zu nicht existierenden Seiten führen. Besonders problematisch wird es, wenn die halluzinierte Zitation falsche Fakten enthält — etwa falsche Preise, falsche Produkteigenschaften oder erfundene Studienergebnisse.

Schützen Sie sich vor Citation Hallucinations, indem Sie Ihre KI-Sichtbarkeit regelmäßig monitoren. Fragen Sie verschiedene KI-Modelle nach Ihrem Unternehmen und prüfen Sie, ob die genannten Quellen und Fakten stimmen. Stärken Sie Ihr Source Grounding durch eindeutige, leicht verifizierbare Informationen auf Ihrer Website. Eine Grounding Page mit allen korrekten Fakten reduziert das Risiko, dass KI-Systeme falsche Informationen über Sie generieren.