noun
L’alignement des modèles d’IA est une méthode pour ajuster les réponses des intelligences artificielles afin qu’elles correspondent aux attentes et aux normes éthiques humaines. Cela implique d’utiliser des techniques comme l’apprentissage par renforcement ou les retours humains pour corriger les comportements indésirables.
Par exemple, un modèle de langage peut être entraîné à éviter les réponses discriminatoires en analysant des milliers d’exemples annotés par des experts. Cette étape est essentielle pour les assistants vocaux ou les chatbots utilisés dans des contextes sensibles.
Pour les développeurs, l’alignement réduit les risques juridiques et éthiques, mais il augmente les coûts et la complexité. Un modèle comme Mistral AI peut nécessiter des mois de tests et des millions d’euros pour être correctement aligné.
Un assistant médical en ligne est formé pour ne jamais donner de diagnostics sans consultation humaine.
Dans les autres langues
Voir aussi : AI safety · reinforcement learning