noun
Le biais dans l’IA désigne la tendance des systèmes d’intelligence artificielle à produire des résultats injustes ou discriminatoires, généralement en raison de données d’entraînement déséquilibrées ou non représentatives. Cela peut se produire lorsque les données utilisées pour former les modèles reflètent des inégalités historiques, des stéréotypes culturels ou une sous-représentation de certains groupes.
Par exemple, les systèmes de reconnaissance faciale ont montré des performances inférieures pour les personnes à la peau foncée, avec des taux d’erreur jusqu’à 34 % plus élevés pour les femmes noires par rapport aux hommes blancs, selon des études comme celle du MIT Media Lab en 2018. De même, les algorithmes de recrutement peuvent favoriser les candidats masculins si ils sont entraînés sur des CV majoritairement masculins.
Le biais dans l’IA peut entraîner des préjudices concrets, comme des prêts discriminatoires, des embauches biaisées ou des pratiques policières inéquitables. Les entreprises doivent auditer leurs modèles d’IA et utiliser des jeux de données diversifiés pour atténuer ces risques. En Europe, le Règlement sur l’IA impose des exigences strictes pour les systèmes à haut risque afin de prévenir les biais.
Un modèle de langage pourrait suggérer des titres de poste plus prestigieux pour les candidats masculins que pour les candidates féminines lors de la génération de résumés de CV.