KI-Halluzination

noun

Eine KI-Halluzination tritt auf, wenn ein Sprachmodell oder ein künstliches System falsche, erfundene oder sinnlose Informationen generiert, sie aber als Fakten präsentiert. Das passiert, weil die KI das wahrscheinlichste nächste Wort oder Bild basierend auf Mustern in ihren Trainingsdaten vorhersagt, ohne die Realität zu prüfen.

Halluzinationen entstehen oft, wenn die KI Fragen außerhalb ihres Wissensbereichs beantwortet, zu wenig Daten hat oder kreativen Inhalt erzeugen soll. Zum Beispiel könnte ein Modell einen fiktiven Forschungsartikel mit erfundenen Autoren zitieren.

Für Nutzer bedeutet das, dass KI-Antworten immer überprüft werden müssen, besonders in professionellen oder sicherheitsrelevanten Situationen. 2023 nutzte ein Anwalt von einer KI generierte Fallzitate, die nicht existierten, und wurde dafür bestraft. Halluzinationen zwingen Entwickler, Modelle mit besseren Daten und menschlicher Kontrolle zu verbessern.

Ein Sprachassistent behauptet, ein Buch sei 2020 erschienen, obwohl es 2018 herauskam, ohne Belege.

Siehe auch: AI bias · AI training data

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.