noun
Les limites d’alignement des modèles d’IA désignent les écarts entre ce qu’un système d’IA est censé faire et son comportement réel, pouvant entraîner des résultats indésirables. Ces limites apparaissent car les modèles apprennent à partir de données massives, souvent biaisées, ambiguës ou contradictoires, ce qui rend un alignement parfait avec les valeurs humaines difficile.
Par exemple, un modèle de langage peut générer du contenu offensant malgré un entraînement pour l’éviter, ou un générateur d’images peut produire des résultats irréalistes ou culturellement inappropriés. Ces problèmes obligent les développeurs à affiner constamment les modèles, à les tester rigoureusement et parfois à limiter leurs fonctionnalités pour éviter les abus.
En pratique, ces limites imposent une supervision humaine, des directives éthiques claires et des améliorations continues. Un cas réel est celui d’un chatbot ajusté pour éviter les réponses toxiques, réduisant les sorties nocives de 80 % mais le rendant trop prudent et moins utile dans certains contextes.
Un utilisateur demande à un générateur d'images de créer un ‘chevalier médiéval,’ mais le modèle inclut des éléments anachroniques comme une armure moderne à cause de données d'entraînement incomplètes.
Dans les autres langues
Voir aussi : AI safety · prompt engineering