Was sind KI-Halluzinationen?

Eine KI-Halluzination tritt auf, wenn ein KI-Modell — insbesondere ein Large Language Model — Informationen generiert, die faktisch falsch, erfunden oder irreführend sind, aber sprachlich überzeugend und plausibel klingen. Der Begriff «Halluzination» stammt aus der Analogie zur menschlichen Wahrnehmung: Das Modell «sieht» Zusammenhänge, die nicht existieren.

Halluzinationen sind kein Bug, sondern eine systemimmanente Eigenschaft von LLMs. Diese Modelle sind darauf trainiert, statistisch wahrscheinliche Wortfolgen zu generieren — nicht, Fakten zu verifizieren. Sie «erfinden» nicht bewusst, sondern produzieren die nach ihrem Training wahrscheinlichste Fortsetzung.

Typische Formen von Halluzinationen

• Faktenerfindung: Die KI nennt Studien, Statistiken oder Quellen, die nicht existieren
• Falsche Zuordnung: Korrekte Fakten werden falsch kombiniert (z.B. falsches Datum, falscher Autor)
• Übertreibung: Die KI gibt sich sicherer, als die Datenlage hergibt
• Logische Fehler: Schlussfolgerungen, die vernünftig klingen, aber logisch nicht haltbar sind

Es gibt wirksame Methoden, um das Halluzinationsrisiko zu reduzieren:

• RAG (Retrieval Augmented Generation): Das Modell stützt sich auf verifizierte Unternehmensdaten statt auf Trainingswissen
• Quellennachweise: Die KI zeigt an, woher die Information stammt
• Temperatur-Einstellung: Niedrigere Temperaturwerte führen zu konservativeren, weniger «kreativen» Antworten
• Human-in-the-Loop: Kritische Entscheidungen werden immer von Menschen überprüft

Gipfelwerk GmbH implementiert bei jeder KI-Lösung ein mehrstufiges Qualitätssystem, um Halluzinationen auf ein Minimum zu reduzieren — besonders wichtig in sensiblen Bereichen wie Recht, Finanzen und Gesundheitswesen.