noun
Les risques d’alignement des modèles d’IA désignent la possibilité pour les systèmes d’intelligence artificielle de se comporter de manière non conforme à leur objectif initial, souvent à cause de données de formation biaisées ou incomplètes.
Ces risques surviennent lorsque les modèles sont entraînés sur des données partiales, entraînant des résultats inattendus. Par exemple, un modèle de langage pourrait générer des stéréotypes nocifs, ou un générateur d’images pourrait produire du contenu dangereux sans contraintes appropriées.
Pour les développeurs et les utilisateurs, ces risques impliquent des coûts supplémentaires en surveillance, en audit et en amélioration des modèles. Une étude de 2023 a révélé que les entreprises dépensent typiquement 20 à 30 % de leur budget IA pour atténuer les échecs d’alignement, y compris les responsabilités légales et les dommages à la réputation.
Par exemple, un chatbot conçu pour aider les clients pourrait accidentellement donner des conseils financiers trompeurs, entraînant des amendes réglementaires ou une perte de confiance.
Une entreprise a dû retirer son outil de recrutement basé sur l'IA après avoir découvert qu'il discriminait certains groupes démographiques en raison de données d'entraînement mal alignées.
Dans les autres langues
Voir aussi : AI bias · Ethical AI