noun
L’élagage de modèle consiste à alléger un modèle d’IA en supprimant les neurones, poids ou couches les moins importants, ce qui le rend plus efficace sans trop nuire aux performances.
Cette méthode analyse les éléments contribuant le moins aux prédictions et les élimine, souvent via des techniques comme l’élagage basé sur la magnitude ou l’élagage structuré. Cela réduit la taille du modèle, accélère l’inférence et diminue les coûts de calcul.
Pour les développeurs, l’élagage permet de déployer des modèles sur des matériels moins puissants, mais peut nécessiter un réentraînement pour préserver la précision. Par exemple, un grand modèle de langage comme LLaMA-2 (70 milliards de paramètres) peut être élagué à 30 milliards, réduisant le temps d’inférence de 40 % avec une perte d’exactitude de seulement 2 %.
Une entreprise utilise l'élagage de modèle pour réduire la taille d'un chatbot, lui permettant de fonctionner sur un smartphone plutôt que sur un serveur cloud.
Dans les autres langues
Voir aussi : Neural network · Inférence