noun
La gouvernance de l’alignement des modèles d’IA est l’ensemble des politiques, outils et contrôles qui assurent que les systèmes d’IA fonctionnent comme prévu, sans nuire aux utilisateurs et en respectant les normes éthiques.
Elle repose sur des objectifs clairs (comme éviter les biais ou garantir la transparence) et des méthodes comme l’ajustement des modèles, les retours humains et la surveillance automatisée. Par exemple, une entreprise peut limiter les réponses d’un chatbot à des sujets neutres et vérifiés.
Pour les développeurs, cela implique des tests supplémentaires, mais cela réduit les risques juridiques ou de réputation. Pour les utilisateurs, cela renforce la confiance. Exemple concret : les systèmes de modération de Meta, qui bloquent typiquement 95% des contenus nuisibles avant signalement.
Une entreprise met en place une gouvernance de l’alignement pour empêcher son IA de service client de donner des conseils médicaux.
Dans les autres langues
Voir aussi : AI safety · Ethical AI · model fine-tuning