KI-Agenten und Technik
Was ist eine KI-Halluzination? Definition und Praxisbeispiel
Auch: Konfabulation
Kurz erklärt
Eine Halluzination ist eine Aussage einer KI, die überzeugend klingt, aber falsch oder nicht belegt ist. Sprachmodelle erzeugen wahrscheinliche Sätze, keine geprüften Fakten. Fehlt der richtige Kontext, füllen sie die Lücke mit Erfundenem.
Warum es zählt: Halluzinationen zeigen, wo eurer KI der Kontext fehlt.
Warum ist Halluzination wichtig für dein Unternehmen?
Ein Sprachmodell schreibt Wort für Wort, was am wahrscheinlichsten folgt. Meist stimmt das, manchmal entsteht eine Quelle, ein Paragraf oder eine Zahl, die es nicht gibt. Gefährlich ist der Ton: Falsches klingt genauso sicher wie Richtiges.
Im Unternehmen entsteht ein Teil der Fehler nicht aus Erfundenem, sondern aus Veraltetem: Die KI zitiert korrekt ein Dokument, das nicht mehr gilt. Beides senkt ihr mit demselben Mittel, nämlich mit gültigem Kontext und Quellen. Wo Fehler teuer sind, prüft zusätzlich eine Person.
Praxisbeispiel: Die erfundene Kundenzusage
Ein Account Manager bittet einen KI-Assistenten um eine Zusammenfassung der Vereinbarungen mit einem Grosskunden. Der Assistent nennt eine Rabattzusage für 2027, die nie gemacht wurde. Sie klingt plausibel, weil es ähnliche Zusagen bei anderen Kunden gibt.
Das Team ändert zwei Dinge. Der Assistent darf Zusagen nur mit Quelle nennen und schreibt sonst «nicht belegt». Und jede Zusammenfassung, die an Kunden geht, prüft eine Person vor dem Versand.
3 häufige Fehler, die du vermeiden solltest
Auf ein besseres Modell warten
Neuere Modelle halluzinieren seltener, aber nicht nie. Ohne euren Kontext raten auch die besten.
Keine Quellen verlangen
Eine Antwort ohne Quelle lässt sich nicht prüfen. Verlangt Belege, gerade bei Zahlen, Zusagen und Rechtsfragen.
Alles gleich streng prüfen
Ein Brainstorming braucht keine Freigabe, ein Kundenangebot schon. Prüft nach Folgen, nicht nach Gefühl.
Schritt für Schritt
- 1
Gültigen Kontext mitgeben
Je mehr eure KI aus gepflegten Quellen liest, desto weniger muss sie raten.
- 2
Quellen verlangen
Aussagen zu Fakten kommen mit Quelle oder mit dem Hinweis «nicht belegt».
- 3
Nach Folgen prüfen
Was nach aussen geht oder Geld kostet, prüft eine Person.
- 4
Fehler zurückmelden
Haltet fest, wo die KI falsch lag, und schliesst die Lücke im Kontext.
Bring einen wichtigen Entscheid mit.
In 30 Minuten mit Marc oder Simon zeigen wir, wo eure Arbeit heute vom Entscheid abweicht.
Company Brain kennenlernenWeiterlesen im PM Lab
Artikel, die das Thema vertiefen.
Verwandte Begriffe
- RAG →RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem ein KI-Modell vor der Antwort passende Stellen aus euren Dokumenten sucht und mitliest.
- Kontextfenster →Das Kontextfenster ist die Menge an Text, die ein KI-Modell bei einer Antwort gleichzeitig lesen kann.
- Human in the Loop →Human in the Loop heisst, dass ein Mensch einen KI-Prozess an festgelegten Stellen prüft und freigibt, bevor er weiterläuft.
- KI-Governance →KI-Governance ist das Regelwerk, mit dem eine Firma steuert, wer KI wofür einsetzen darf, mit welchen Daten und unter wessen Verantwortung.