noun
Le biais de l’IA désigne les erreurs récurrentes dans les systèmes d’IA qui favorisent certains résultats au détriment d’autres, souvent à cause de données biaisées ou d’une conception défectueuse.
Il apparaît lorsque les modèles d’IA sont formés à partir de données reflétant des préjugés historiques ou des lacunes de représentation. Par exemple, un système de reconnaissance faciale peut mal fonctionner sur les peaux foncées s’il a été entraîné principalement sur des visages clairs.
Pour les développeurs et les utilisateurs, le biais peut entraîner des décisions discriminatoires, des risques juridiques et des dommages à la réputation. Les entreprises doivent auditer leurs modèles d’IA et utiliser des jeux de données diversifiés pour réduire les biais. Une étude de 2020 a révélé que certains algorithmes de recrutement privilégiaient les candidats masculins par rapport aux femmes tout aussi qualifiées.
Un algorithme de prêt bancaire pourrait rejeter plus de demandes dans certains quartiers parce que ses données d'entraînement ne contenaient pas d'exemples de bons emprunteurs de ces zones.
Dans les autres langues
Voir aussi : Model drift