KI-Voreingenommenheit

noun

KI-Voreingenommenheit bezeichnet systematische Fehler in KI-Systemen, die bestimmte Ergebnisse gegenüber anderen bevorzugen, oft aufgrund von verzerrten Trainingsdaten oder algorithmischen Designfehlern.

Sie entsteht, wenn KI-Modelle mit Daten trainiert werden, die historische Vorurteile, Unterrepräsentation oder unvollständige Datensätze widerspiegeln. Beispielsweise kann ein Gesichtserkennungssystem bei dunklen Hauttönen schlecht funktionieren, wenn es hauptsächlich mit helleren Gesichtern trainiert wurde.

Für Entwickler und Nutzer kann Voreingenommenheit zu diskriminierenden Ergebnissen, rechtlichen Risiken und Reputationsschäden führen. Unternehmen müssen ihre KI-Modelle auditieren und diverse Datensätze verwenden, um Voreingenommenheit zu verringern. Eine Studie aus dem Jahr 2020 zeigte, dass einige Einstellungsalgorithmen männliche Bewerber gegenüber gleich qualifizierten Frauen bevorzugten, aufgrund verzerrter Trainingsdaten.

Ein Kreditvergabe-Algorithmus könnte mehr Anträge aus bestimmten Stadtteilen ablehnen, weil seine Trainingsdaten keine Beispiele erfolgreicher Kreditnehmer aus diesen Gebieten enthielten.

In anderen Sprachen

Siehe auch: Model drift

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.