noun
Un point de contrôle est une capture de l’état d’un modèle d’IA, incluant ses poids et son avancée d’entraînement, sauvegardée à intervalles réguliers ou à des étapes clés. Cela permet aux développeurs de reprendre l’entraînement en cas d’interruption ou de comparer les performances à différents stades.
Les points de contrôle sont essentiels dans l’entraînement des grands modèles d’IA, où des interruptions (pannes matérielles, limites budgétaires) peuvent faire perdre des semaines de travail. Ils aident aussi à affiner les modèles en permettant de revenir à une version stable avant une mise à jour problématique.
Pour les développeurs, les points de contrôle réduisent les coûts en évitant un entraînement redondant et permettent d’expérimenter sans risquer le modèle entier. Par exemple, l’entraînement d’un modèle comme Stable Diffusion V2 coûte typiquement 500 à 1 000 euros par semaine sur des GPU cloud; les points de contrôle permettent de mettre en pause et reprendre sans perdre de progrès.
Après une panne de serveur, l'équipe a restauré le modèle d'IA à partir d'un point de contrôle sauvegardé 3 jours plus tôt, économisant 2 semaines d'entraînement.
Dans les autres langues
Voir aussi : model fine-tuning