noun
Les spécifications d’alignement des modèles d’IA sont des directives qui garantissent que les systèmes d’IA, comme les assistants conversationnels ou les générateurs d’images, respectent des limites éthiques et pratiques. Elles définissent ce que l’IA peut ou ne peut pas faire, souvent en fonction de la sécurité, de l’équité et des normes légales.
Ces spécifications sont élaborées par les développeurs, les régulateurs et les éthiciens pour éviter les sorties dangereuses, comme les réponses biaisées ou les informations trompeuses. Elles peuvent inclure des filtres, des restrictions de contenu ou des seuils de performance.
Pour les utilisateurs, cela signifie que les outils d’IA sont plus fiables et moins susceptibles de causer des problèmes. Par exemple, un générateur de texte pourrait refuser de produire des instructions dangereuses, même si on le lui demande. Cependant, des règles strictes peuvent aussi limiter la créativité ou la fonctionnalité dans certains cas.
Un modèle de langage avec des spécifications d'alignement pourrait refuser de générer de fausses informations, même si l'utilisateur le demande poliment.
Voir aussi : AI safety · Ethical AI · prompt engineering