noun
L’empoisonnement de modèle d’IA est une attaque visant à corrompre un système d’IA en lui soumettant des données erronées ou malveillantes. Cela peut se produire pendant l’entraînement (empoisonnement des données) ou après le déploiement (attaques adverses). L’objectif est de faire produire à l’IA des résultats incorrects, biaisés ou nuisibles.
L’attaque exploite la dépendance de l’IA aux grands jeux de données. Par exemple, si un générateur d’images est formé avec des photos de chats étiquetées comme ‘chiens,’ il pourrait par la suite mal classer les vrais chats. De même, un chatbot nourri de faits historiques faux pourrait propager de la désinformation.
Pour les développeurs, cela implique des vérifications de sécurité supplémentaires. Les entreprises utilisent typiquement la validation des données, la détection d’anomalies et des tests adverses pour protéger leurs modèles. Un cas réel a montré une IA de voiture autonome mal interprétant des panneaux ‘stop’ modifiés par de petits autocollants, illustrant comment de petites altérations peuvent causer de graves erreurs.
Un pirate infiltré de fausses critiques de produits dans une IA de recommandation, l'incitant à promouvoir des articles de mauvaise qualité.