Konfabulation (KI)

Was ist Konfabulation in der KI?

Konfabulation ist besonders tückisch, weil die falschen Informationen so überzeugend klingen, dass sie schwer zu erkennen sind. Für Ihre Marke kann das bedeuten, dass KI-Systeme plausibel wirkende, aber falsche Details über Ihr Unternehmen verbreiten — etwa erfundene Geschäftszahlen oder nicht existierende Produkte. Wer verständliche, faktenbasierte Inhalte bereitstellt und seine Entitätsdaten sorgfältig pflegt, reduziert dieses Risiko und gibt KI-Systemen weniger Anlass, Wissenslücken selbst zu füllen.

Konfabulation ist ein spezifischer Typ der KI-Halluzination, der sich durch eine besondere Eigenschaft auszeichnet: Das Modell erfindet nicht willkürlich, sondern füllt Wissenslücken mit plausibel klingenden Informationen. Der Begriff stammt aus der Neuropsychologie, wo er das gleiche Phänomen bei Menschen mit bestimmten Hirnschädigungen beschreibt — sie erzählen überzeugende Geschichten über Ereignisse, die nie stattgefunden haben.

Bei LLMs entsteht Konfabulation, weil die Modelle darauf trainiert sind, immer eine Antwort zu liefern — auch wenn sie die korrekte nicht kennen. Ein LLM, das nach einem obskuren historischen Datum gefragt wird, kann eine plausible Jahreszahl „erfinden”, die in den historischen Kontext passt. Besonders gefährlich ist Konfabulation bei Quellenangaben: LLMs generieren häufig Zitate mit korrekten Autorennamen und plausiblen Titeln, die jedoch nicht existieren.

Für Unternehmen ist die Unterscheidung zwischen Konfabulation und allgemeiner Halluzination praxisrelevant. Konfabulationen sind schwerer zu erkennen, weil sie oberflächlich korrekt wirken. Guardrails und Faktenprüfungen sind daher unverzichtbar. Der FACTS Grounding Benchmark von Google misst gezielt, wie gut Modelle bei faktengebundenen Aufgaben bleiben. Pontifikation verschärft das Problem zusätzlich, wenn die KI ihre falschen Antworten auch noch übermäßig selbstbewusst formuliert.