Kurz erklärt
Eine Halluzination liegt vor, wenn eine KI überzeugend klingende, aber falsche Aussagen erzeugt – erfundene Fakten, Quellen oder Zahlen, die echt wirken. Das ist kein Fehler im Einzelfall, sondern eine grundsätzliche Eigenschaft generativer Modelle.
Etwas tiefer
Sprachmodelle erzeugen das sprachlich Wahrscheinliche, nicht das nachweislich Wahre. Techniken wie das Anbinden an geprüfte Quellen (RAG) reduzieren Halluzinationen, beseitigen sie aber nicht vollständig.
Was bedeutet das für Organisationen?
KI-Ergebnisse brauchen eine menschliche Prüfschleife – besonders dort, wo Entscheidungen, Außenkommunikation oder Recht betroffen sind. Wer ungeprüfte KI-Inhalte weitergibt, übernimmt deren Fehler (Workslop). Verantwortung heißt hier auch, das richtige Werkzeug zu wählen: Für exakte, regelbasierte und wiederholbare Aufgaben ist ein deterministisches Skript zuverlässiger als eine KI – KI spielt ihre Stärke dort aus, wo Sprache, Urteil und Kontext gefragt sind. Die kluge Frage ist also nicht nur „Wie prüfe ich KI?“, sondern „Braucht es hier überhaupt KI – oder genügt ein Skript?“.
Häufiges Missverständnis
„Moderne KI macht das nicht mehr.“ Auch starke Modelle halluzinieren – nur seltener und dadurch schwerer erkennbar.
Zuletzt aktualisiert: · Redaktion: Lukas Starke, starke-ki.de
← → Pfeiltasten zum Blättern · Esc zur Übersicht← Wischen zum Blättern →