noun
L’apprentissage auto-supervisé est une technique d’apprentissage automatique où les modèles s’entraînent sur des données non étiquetées en générant leurs propres étiquettes à partir des entrées. Contrairement à l’apprentissage supervisé, qui nécessite des données annotées par des humains, les modèles auto-supervisés exploitent les structures intrinsèques des données pour créer des signaux d’apprentissage.
Par exemple, un modèle peut apprendre à prédire des mots manquants dans une phrase ou à reconstruire des images mélangées. Cette approche est particulièrement utile pour des tâches comme le traitement du langage naturel et la reconnaissance d’images, où les données étiquetées sont rares ou coûteuses à obtenir.
Pour les développeurs, l’apprentissage auto-supervisé réduit le besoin d’étiquetage manuel, diminuant les coûts et accélérant l’entraînement des modèles. Cependant, il nécessite de grandes quantités de données et des algorithmes sophistiqués pour s’assurer que les étiquettes générées sont pertinentes. Un exemple concret est DALL·E 2 de Meta, qui utilise l’apprentissage auto-supervisé pour générer des images de haute qualité à partir de descriptions textuelles, obtenant des résultats comparables à ceux de l’art humain.
Un modèle auto-supervisé pourrait apprendre à coloriser des photos en noir et blanc en prédisant les valeurs de couleur manquantes à partir des pixels environnants.
Dans les autres langues
Voir aussi : Supervised learning · Unsupervised learning · Transfer Learning