Halluzination
KI-Grundlagen
Halluzination — Wenn die KI etwas erfindet und überzeugend als Fakt präsentiert.
Beispiel
Goethe schrieb 1842 ein Gedicht über Bitcoin — Halluzination. Das passiert besonders bei Fakten, die das Modell nicht kennt.
Verwandt: LLM (Large Language Model) · RAG (Retrieval-Augmented Generation)
Mehr im Glossar
Eine Halluzination ist eine plausible, aber faktisch falsche Antwort eines KI-Modells – das System erfindet Informationen, ohne dies zu kennzeichnen.
In einfachen Worten
Stellen Sie sich einen Auskunftsautomaten vor, der auf jede Frage eine Antwort gibt, aber nie „Weiß ich nicht“ sagt. Wenn Sie ihn nach dem Geburtsjahr von Albert Einstein fragen, nennt er 1879 – das ist richtig. Fragen Sie ihn aber nach dem Geburtsjahr des fiktiven Autors „Karl Mustermann“, erfindet er ein Jahr, zum Beispiel 1947. Der Automat tut so, als sei die Antwort gesichertes Wissen, obwohl es die Person gar nicht gibt. Genau das passiert bei KI-Halluzinationen: Das Modell produziert eine Antwort, die sich gut anhört, aber nicht der Realität entspricht.
Was bedeutet das technisch
Große Sprachmodelle (LLMs) arbeiten statistisch. Sie berechnen Wort für Wort, welches Token (Wortteil) am wahrscheinlichsten als Nächstes kommt. Das Modell hat kein Verständnis von Wahrheit oder Faktentreue. Es hat während des Trainings Milliarden von Textbeispielen gesehen und daraus Muster gelernt. Wenn eine Frage in den Trainingsdaten selten oder gar nicht vorkommt, versucht das Modell trotzdem, ein Muster zu finden – und erzeugt dabei eine plausible Kette von Token, die aber falsch ist.
Halluzinationen treten besonders häufig auf bei:
- Fragen zu sehr spezifischen, aktuellen oder obskuren Fakten (z. B. „Welche Bilanzsumme hatte die Firma XYZ im Jahr 2023?“).
- Aufgaben, die logisches Schlussfolgern erfordern (z. B. „Wenn A größer als B und B größer als C ist, ist dann C größer als A?“).
- Mehrdeutigen oder unvollständigen Anfragen (z. B. „Erklären Sie die Vorteile von Produkt X“ ohne Kontext).
Die Ursache liegt in der Architektur: Transformer-Modelle haben kein Gedächtnis für Fakten, sondern nur eine Wahrscheinlichkeitsverteilung über Token. Sie optimieren auf sprachliche Kohärenz, nicht auf faktische Korrektheit. Neuere Verfahren wie Retrieval-Augmented Generation (RAG) oder Fine-Tuning mit verifizierten Daten reduzieren Halluzinationen, beseitigen sie aber nicht vollständig.
Warum es für KMU relevant ist
Ein KMU, das eine KI für Kundenanfragen einsetzt, riskiert ohne Gegenmaßnahmen ernsthafte Probleme. Beispiel: Ein Online-Händler nutzt einen Chatbot für Produktberatung. Ein Kunde fragt: „Hat der Drucker XYZ einen USB-C-Anschluss?“ Der Bot halluziniert „Ja“ – der Kunde bestellt, der Drucker hat keinen USB-C, der Kunde ist verärgert, es drohen Retoure und schlechte Bewertungen.
Noch kritischer wird es bei rechtlichen oder finanziellen Inhalten. Ein Steuerberater, der eine KI für Mandantenfragen einsetzt, darf sich nicht auf halluzinierte Paragraphen verlassen. Ein falscher Verweis auf eine nicht existierende Steuerregelung kann zu Haftungsfällen führen.
Für KMU bedeutet das: Sie müssen Halluzinationen aktiv managen. Konkrete Maßnahmen sind:
- Einsatz von RAG: Die KI greift nur auf geprüfte, unternehmenseigene Datenbanken zu, statt frei zu generieren.
- Implementierung von Quellenangaben: Die KI muss belegbare Zitate liefern, die ein Mensch prüfen kann.
- Klare Kommunikation: Weisen Sie Nutzer darauf hin, dass die KI Fehler machen kann. Bieten Sie einen einfachen Weg zur Korrektur (z. B. „Bei Zweifeln fragen Sie unseren Kundendienst“).
- Regelmäßige Tests: Lassen Sie die KI mit typischen Kundenfragen laufen und prüfen Sie die Antworten manuell auf Halluzinationen.
Die Kosten für unentdeckte Halluzinationen sind oft höher als die Investition in Absicherung. Ein einziger schwerer Fehler kann Kundenvertrauen und Reputation kosten. KMU sollten daher nie eine KI ohne menschliche Überprüfung in kritischen Prozessen einsetzen.
Kommentare ()