noun
Die Verzerrung in KI-Modellen bezieht sich auf systematische Fehler in künstlichen Intelligenzsystemen, die zu ungerechten oder voreingenommenen Ergebnissen führen. Diese Verzerrungen entstehen oft durch unausgewogene Trainingsdaten, fehlerhafte Algorithmen oder Designentscheidungen, die bestimmte Gruppen bevorzugen.
Beispielsweise kann ein Gesichtserkennungssystem, das hauptsächlich mit hellhäutigen Gesichtern trainiert wurde, bei dunklerhäutigen Gesichtern höhere Fehlerraten aufweisen. Ebenso kann ein Einstellungsalgorithmus, der auf historischen Einstellungsdaten basiert, bestimmte Bevölkerungsgruppen diskriminieren, wenn die früheren Einstellungspraktiken voreingenommen waren.
Für Entwickler und Nutzer kann die Verzerrung in KI-Modellen rechtliche Risiken, Reputationsschäden und ethische Bedenken mit sich bringen. Unternehmen müssen ihre Modelle auditieren, ihre Trainingsdaten diversifizieren und Fairness-Checks implementieren, um diese Verzerrungen abzumildern. Eine Studie aus dem Jahr 2020 ergab, dass einige kommerzielle KI-Einstellungstools qualifizierte weibliche Bewerber 2,5-mal häufiger ablehnten als männliche Bewerber.
Ein Sprachmodell, das hauptsächlich mit englischen Texten trainiert wurde, kann Schwierigkeiten haben, genaue Übersetzungen in weniger verbreiteten Sprachen zu generieren.
In anderen Sprachen
Siehe auch: Ethical AI