noun
Eine KI-Halluzination tritt auf, wenn ein Modell inkorrekte, erfundene oder sinnlose Inhalte erzeugt, die es als Fakten präsentiert. Das passiert, weil KI-Systeme Antworten auf Basis von Mustern in ihren Trainingsdaten generieren, ohne diese zu überprüfen.
Halluzinationen entstehen oft, wenn der KI Kontext fehlt, sie Datenlücken füllen muss oder über ihre Trainingsgrenzen hinaus gefordert wird. Zum Beispiel könnte ein Sprachmodell eine fiktive wissenschaftliche Studie zitieren oder ein Bildgenerator eine Person mit unmöglicher Anatomie erzeugen.
Für Nutzer bedeutet das, dass KI-Ergebnisse immer überprüft werden müssen, besonders in sensiblen Bereichen wie Medizin oder Recht. Entwickler sollten Systeme einbauen, die Halluzinationen erkennen, etwa durch menschliche Überwachung oder zusätzliche Prüftools. Eine Studie aus dem Jahr 2023 zeigte, dass 15 % der von KI erstellten juristischen Gutachten auf erfundene Fälle verweisen.
Ein Chatbot behauptet, ein Prominenter sei 1980 geboren, obwohl die Akten 1978 ausweisen.
In anderen Sprachen
Siehe auch: AI bias · prompt engineering · Model training