noun
Les spécifications d’alignement des modèles d’IA sont des directives ou des contraintes visant à garantir que les modèles d’IA, notamment les grands modèles de langage, produisent des résultats conformes aux valeurs humaines, aux normes de sécurité et aux principes éthiques. Elles peuvent inclure des filtres, des invitations ou des ajustements d’entraînement pour éviter les réponses nuisibles, trompeuses ou biaisées.
Elles proviennent souvent d’une combinaison de politiques des développeurs, de réglementations et de retours utilisateurs. Par exemple, un modèle peut être affiné pour refuser les demandes de conseils médicaux ou éviter les contenus offensants. Ces règles sont appliquées via un mélange d’entraînement préalable, d’ajustements post-entraînement et de surveillance en temps réel.
Pour les développeurs, ces spécifications ajoutent complexité et coût, nécessitant des tests supplémentaires et des ajustements itératifs. Pour les utilisateurs, elles garantissent des interactions plus fiables et sûres, bien qu’elles puissent aussi limiter certaines fonctionnalités. Par exemple, un modèle peut rejeter une demande de génération de fausses informations, même s’il en est techniquement capable. Typiquement, ces spécifications évoluent avec l’émergence de nouveaux risques ou préoccupations éthiques.
Un assistant vocal refuse de donner des conseils pour contourner une loi, même si la question est formulée de manière indirecte.
Dans les autres langues
Voir aussi : AI safety · model fine-tuning · Ethical AI