noun
Les méthodes d’alignement des modèles d’IA sont des techniques visant à garantir que les systèmes d’intelligence artificielle, notamment les grands modèles de langage, respectent les intentions humaines et les normes éthiques. Elles évitent que l’IA ne produise des réponses nuisibles, biaisées ou absurdes.
Ces méthodes incluent l’ajustement sur des jeux de données sélectionnés, l’apprentissage par renforcement à partir de retours humains (RLHF) et des filtres de sécurité. Par exemple, le RLHF consiste à entraîner un modèle d’IA en le récompensant pour les bonnes réponses et en le pénalisant pour les erreurs, souvent à l’aide de feedback humain.
Pour les développeurs, ces méthodes ajoutent complexité et coût, mais sont indispensables pour déployer une IA sûre et fiable. Un modèle bien aligné, comme GPT-4, coûte typiquement 10 à 20 % plus cher à entraîner, mais réduit les sorties dangereuses de 90 % par rapport aux versions non alignées.
Un chatbot formé avec des méthodes d'alignement refuse de générer de fausses informations ou des blagues offensantes, même si on le lui demande.
Dans les autres langues
Voir aussi : reinforcement learning · fine-tuning · AI safety