Halluzination (KI)

KI-Halluzinationen entstehen, wenn Sprachmodelle Texte generieren, die plausibel klingen, aber sachlich falsch sind. Das Modell erfindet Zitate, die nie geschrieben wurden, Studien, die nicht existieren, oder historische Ereignisse, die nie stattgefunden haben. Das Problem ist grundlegend: LLMs modellieren statistische Wahrscheinlichkeiten von Wortfolgen, sie haben kein Konzept von Wahrheit.

Berühmte Fälle gibt es viele. Ein Anwalt in New York reichte 2023 einen Schriftsatz mit von ChatGPT erfundenen Gerichtsentscheidungen ein. Modelle erfinden regelmäßig wissenschaftliche Paper mit korrekt formatierten, aber fiktiven DOI-Nummern. Je spezifischer und nischiger eine Frage ist, desto größer die Gefahr einer Halluzination.

In der Science-Fiction hat die Idee einer KI, die ihre eigene Realität konstruiert, eine lange Tradition. HAL 9000 lügt bewusst, aber KI-Halluzinationen sind etwas anderes: Das System glaubt gewissermaßen an seine eigenen Erfindungen, weil es keinen Unterschied zwischen Fakten und plausiblen Mustern kennt. Dieses Phänomen hat kein SciFi-Autor so vorhergesagt. Die meisten fiktiven KI-Systeme sind entweder ehrlich oder sie lügen absichtlich. Eine Maschine, die sich irrt, ohne es zu merken, ist ein unerwartet menschlicher Defekt.

Gerade die KI-Halluzination zeigt, wie fremd diese neue Form von Intelligenz im Vergleich zu menschlichem Denken ist. Das Modell unterscheidet nicht zwischen einer belegten Tatsache und einer bloß plausibel klingenden Erfindung, weil beide für die Statistik gleich aussehen. Daraus folgt eine praktische Konsequenz, die für ein kuratiertes Lexikon zentral ist: Aussagen einer KI müssen überprüft werden, bevor man ihnen vertraut. Genau in dieser Notwendigkeit liegt der Grund, warum bei sorgfältiger Redaktionsarbeit jede Fakteninformation gegengeprüft wird, statt sie ungeprüft aus einem Modell zu übernehmen.