noun
Le biais des modèles d’IA désigne les erreurs systématiques dans les systèmes d’intelligence artificielle qui produisent des résultats injustes ou discriminatoires. Ces biais proviennent généralement de données d’entraînement déséquilibrées, d’algorithmes imparfaits ou de choix de conception qui favorisent certains groupes.
Par exemple, un système de reconnaissance faciale formé principalement sur des visages clairs peut avoir des taux d’erreur plus élevés avec des visages foncés. De même, un algorithme de recrutement basé sur des données historiques peut reproduire des biais si les pratiques passées étaient discriminatoires.
Pour les développeurs et les utilisateurs, le biais des modèles d’IA peut entraîner des risques juridiques, des dommages à la réputation et des préoccupations éthiques. Les entreprises doivent auditer leurs modèles, diversifier leurs données d’entraînement et mettre en place des vérifications d’équité pour atténuer ces biais. Une étude de 2020 a révélé que certains outils de recrutement IA rejetaient 2,5 fois plus souvent des candidates qualifiées que des candidats masculins.
Un modèle de langage formé principalement sur des textes en anglais peut avoir du mal à générer des traductions précises dans des langues moins courantes.
Dans les autres langues
Voir aussi : Ethical AI