noun
Les normes d’alignement des modèles d’IA sont des directives ou réglementations visant à s’assurer que les systèmes d’intelligence artificielle, notamment les modèles de langage, les générateurs d’images et les agents IA, fonctionnent de manière conforme aux valeurs humaines, à la sécurité et aux principes éthiques.
Ces normes incluent généralement des cadres de test, des techniques de réduction des biais et des exigences de transparence. Par exemple, un modèle peut devoir passer des évaluations de sécurité avant sa mise en service, pour éviter de produire des contenus dangereux ou trompeurs. Certaines normes imposent aussi des divulgations sur les données d’entraînement ou les limites du modèle.
Pour les développeurs, ces normes imposent des obligations comme des audits réguliers et des vérifications de conformité, ce qui peut augmenter les coûts mais réduire les risques juridiques et réputationnels. Pour les utilisateurs, elles offrent des garanties que les outils IA sont moins susceptibles de produire des résultats dangereux ou biaisés. Un exemple concret est le règlement européen sur l’IA, qui classe certaines utilisations comme à haut risque et exige des contrôles stricts d’alignement.
Une entreprise développant un chatbot doit respecter les normes d’alignement pour éviter qu’il ne donne des conseils médicaux erronés.
Dans les autres langues
Voir aussi : AI safety · Bias mitigation