Archiv für den Monat: Januar 2026

abenbrot

Vom Fabulieren und Halluzinieren

In der letzten Zeit wird sehr oft vom Halluzinieren gesprochen. Allerdings nicht in Bezug auf Menschen, die ja auch selten von Halluzinationen heimgesucht werden, als vielmehr in Bezug auf Sprachmodelle, die komische Antworten liefern, die keinen Sinn ergeben oder sich angebliche Fakten zusammenfabulieren, für die es keine Belege gibt. Dass es problematisch ist, dieses nicht gewünschte Verhalten von Sprachmodellen als “Halluzination” zu bezeichnen, wird in einigen Arbeiten betont. So weisen Bender und Hanna (2025) darauf hin, dass der Begriff “Halluzination” den Sprachmodellen menschliche Charakteristika unterstelle, die diese jedoch nicht aufweisen. Da Sprachmodelle aber keine Wahrnehmung haben, können sie auch nicht halluzinieren.

It matters what words we use when we talk about these technologies. For instance, in our writing, we don’t use the term “hallucination” to discuss the errors of LLMs, for two reasons. First, if it’s used tongue-in-cheek, it is making light of what can be symptoms of serious mental illness. Second, “hallucination” refers to the experience of perceiving things that aren’t there. But LLMs actually don’t have perceptions, and suggesting that they do is yet more unhelpful anthropomorphization. That means we also avoid assigning thought processes to these systems, or saying that they can “think”. (Bender und Hanna 2025: 167)

Zweig (2025) argumentiert, dass der Begriff “Halluzination” nicht präzise genug ist, da Menschen, die halluzinieren, nicht zwangsläufig komische Sätze äußern, sondern Dinge wahrnehmen, die nicht der Realität entsprechen. Daher schlägt Zweig, basierend auf einem Vorschlag von McGowan et al. (2023) vor, stattdessen von Konfabulation zu sprechen.

Tatsächlich hat es sich eingebürgert, bei solchen Fehlern von Sprachmodellen von Halluzinationen zu sprechen, obwohl es sich dabei um einen ungeeigneten Begriff handelt. Die Psychologin Alessia McGowan und ihre Co-Autoren weisen darauf hin, dass es bei Halluzinationen um eine Wahrnehmungsstörung geht: Halluzinationen sind als real wahrgenommene Sinneseindrücke, für die es keinen erkennbaren äußeren Reiz gibt. Die Psychologen schlagen daher den Begriff der Konfabulation vor, dem Erfinden von Inhalten, die ein Patient in diesem Moment für wahr hält. (Zweig 2025: § 2)

Während ich prinzipiell beiden Argumenten zustimme, scheint mir, dass beide das Problem des Konzepts der Halluzination nicht korrekt erfassen. Denn egal ob man nun von Halluzionationen, Irrtümern (Bender und Hanna 2025) oder Konfabulationen (Zweig 2025 und McGowan et al. 2023) spricht, in allen Fällen ignoriert man das ursprüngliche Problem, welches darin besteht, dass Sprachmodelle fälschlicherweise als eine Art von “Wahrheitsmaschinen” im Sinne von Simanowski (2025) angesehen werden, die sie aber streng genommen gar nicht sein können.

Die Sprachmaschine lässt sich als “Wahrheitsmaschine” freilich nur unter verschiedenen Voraussetzungen denken, die alle nicht erfüllt sind. Denn es ist eben nur idealtypisch so, dass diese Maschine alle Daten der Welt mathematisch miteinander ins Verhältnis setzt. In der Praxis sind es bloß bestimmte Daten mit unklaren Gewichtungen. (Simanowski 2025: 92)

Trotz der riesigen Datenmenge, an denen große Sprachmodelle trainiert worden sind, beruhen sie auf einem begrenzten Datensatz, in dem, was “wahr” ist oder “wahr” sein kann, nur mittelbar, durch die versprachlichten Ansichten von Menschen digital verfügbar gemacht worden ist. Menschen selbst können ja in Bezug auf das, was sie für wahr und das, was sie für falsch halten, maximal unterschiedlicher Meinung sein. Auch die Wissenschaft selbst verwehrt sich ja zumindest in ihren theoretischen Grundlagen dagegen, einen Anspruch auf absolute Wahrheit oder zweifelsfreie Fakten zu erheben (Popper 1935). Es sollte daher klar sein, dass auch Chatbots – die ja nicht mehr erreichen, als menschliches Sprechverhalten geschickt zu simulieren – in Bezug auf die Inhalte, die sie produzieren, mit ziemlich schmutzigem Wasser kochen. Genauso, wie man sich die Textblasen, die einem die eigene Wohlfühlbubble in die Timeline spült, nicht ohne kritische Prüfung als vollwertige Inhalte mit plausiblen Fakten zu eigen machen sollte, sollte man auch nicht erwarten, dass ein Chatprogramm, nur weil es von einer angeblichen künstlichen Intelligenz angetrieben wird, stets unwiderlegbare Fakten produziert.

Wenn wir die prinzipielle Subjektivität von Fakten, oder die prinzipielle Unmöglichkeit, das Wahre vollkommen zuverlässig vom Falschen zu unterscheiden, jedoch grundsätzlich anerkennen, dann hat das Konzept der Halluzination oder Konfabulation in Bezug auf die Bewertung von Chatprogrammen wenig praktischen Nutzen. Je nachdem, welche Perspektive man bei der Bewertung von generierten Texten einnimmt, könnte man nämlich entweder nahezu alles, was diese produzieren, als Halluzination bezeichnen, oder gar nichts.

Man könnte das Konzept der Halluzination in Bezug auf Sprachmodelle natürlich weiter verengen, und betonen, dass es sich lediglich auf diejenigen Fälle beziehen sollte, in denen diese bestimmte Daten fabrizieren, wie Personen oder literarische Werke die es nachweislich nicht gibt. Dies steht jedoch nicht nur im Widerspruch zum allgemeinen Gebrauch des Wortes in vielen Sprachen, es steht auch im Widerspruch zur Technik, mit der Sprachsimulatoren betrieben werden. Denn diese Technik ist nicht auf Wahrheit und Unwahrheit oder belegbare und unbelegbare Daten ausgerichtet, sie zielt lediglich darauf ab, Sprache überzeugend zu simulieren. Aus dieser ontologischen Perspektive, die sich an der Technik orientiert, mit der Chatbots betrieben werden, weist die Sprache, die diese produzieren, weder Halluzinationen, noch Konfabulationen, noch Fehler auf, da ihre Architektur Texte nicht mit der Intention produziert, dass deren Inhalte in irgendwelchen unabhängigen Daten verankert sein müssten. Sprachmodelle – zumindest diejenigen, die den populärsten Chatbots zugrunde liegen – simulieren einfach menschliche Sprache. Irgendeine Form der Alinierung der generierten Sprache mit irgendwelchen wie auch immer definierten Fakten ist zumindest in der derzeit am weitesten verbreiteten Architektur nicht vorgesehen.

Es scheint mir daher wenig sinnvoll, bei Sprachmodellen, die Text generieren, der mit Wahrheit oder mit Fakten, wie immer man diese definieren mag, erst mal gar nichts zu tun hat, plötzlich von “Halluzinationen” zu reden, oder diesen zu unterstellen, dass sie “konfabulieren”, wenn sie Text produzieren, der sich in den Trainingsdaten so nicht finden lässt. Immerhin ist das Generieren von Text ja das Argument, das die Techkonzerne nutzen, um wahllos geistiges Eigentum von verschiedensten Urheberinnen und Urhebern stehlen zu können, ohne direkt dafür belangt zu werden.

Es ist klar, dass die Konzerne, die sich an fremdem geistigen Eigentum mit ihren Chatbots bereichern wollen, ein Interesse daran haben, ihre “Sprachmaschinen” (wie Simanowski 2025 LLM-basierte Chatbots nennt) als nichtmenschliche Intelligenzen darzustellen, die ihr Wissen in digitalen Daten verankert haben. Dies ist jedoch tatsächlich nichts weiter als eine Marketinglüge. Chatprogramme fabulieren immer, in vielen Fällen scheint das, was sie zusammenfabulieren, den menschlichen Kommunikationspartnern als Informationsquelle oder Quelle, die ihnen eigene Fabulierungsarbeit erspart, zu genügen. Wenn es aber einmal nicht genügt, dann scheint es mir komplett falsch zu sein, von einer Halluzination oder einem Irren aufseiten der artifiziellen Antilligenz zu sprechen. Das Framing spielt eigentlich nur wieder der Marketinglüge von der rationalen, denkenden Maschine in die Hände.

Ich lehne es also generell ab, bei LLM-basierten Chatprogrammen und anderen KI-Tools, wie Bildgeneratoren von Halluzinationen oder Irrtümern auf Seiten der Modelle zu sprechen. Halluzinieren zu können setzt voraus, die Welt ohne Halluzinationen wahrzunehmen. Sich in seinen Äußerungen irren zu können setzt voraus, dass man die Absicht hat, sich korrekt zu äußern. Beides trifft auf große Sprachmodelle in ihrer klassischen Architektur nicht zu.

 

Das heißt jedoch nicht, dass ich die Möglichkeit prinzipiell ausschließe, dass man Chatbots erschaffen könnte, die halluzinieren, konfabulieren und sich irren können. Wenn es gelingen sollte, Computermodelle auf ähnliche Art in der Welt zu verankern, wie Menschen das mit ihren Sinnen tun, und wenn es gelingen sollte, Modelle zu schaffen, die tatsächliche kommunikative Absichten verfolgen, dann müsste man die Situation eventuell neu überdenken. In so einem Fall kann ich es mir aber schwer vorstellen, dass man bei Modellen, die Irrtümer begehen, überhaupt auf die Idee kommen würde, von Halluzinationen zu sprechen. Man würde vielleicht einfach sagen, dass sie nicht so gut funktionieren, wie erwartet.

Literatur

Bender, Emily M., and Alex Hanna. 2025. The AI Con. How to Fight Big Tech’s Hype and Create the Future We Want. New York: Harper-Collins.

McGowan, Alessia, Yunlai Gui, Matthew Dobbs, Sophia Shuster, Matthew Cotter, Alexandria Selloni, Marianne Goodman, Agrima Srivastava, Guillermo A. Cecchi, and Cheryl M. Corcoran. 2023. “ChatGPT and Bard Exhibit Spontaneous Citation Fabrication During Psychiatry Literature Search.” Psychiatry Research 326: 1–6. https://doi.org/10.1016/j.psychres.2023.115334.

Popper, Karl. 1935. Logik Der Forschung. Zur Erkenntnistheorie der modernen Naturwissenschaft. Wien: Springer.

Simanowski, Roberto. 2025. Sprachmaschinen. Eine Philosophie der künstlichen Intelligenz. München: C. H. Beck.

Zweig, Katharina. 2025. Weiß die KI, dass Sie nichts weiß? Wofür wir Chatbots und KI-Agenten nutzen sollten, wo sie sich irren und wo wir aufpassen müssen. München: Heyne.