Injection de requête

noun

L’injection de requête est une faille de sécurité où des attaquants manipulent les modèles d’IA en insérant des instructions malveillantes dans les prompts, ce qui peut forcer le système à agir de manière imprévue ou à divulguer des données sensibles.

Elle fonctionne en exploitant la manière dont l’IA interprète les instructions—si un utilisateur ou un attaquant ajoute des commandes cachées, l’IA peut les suivre plutôt que la tâche prévue. Par exemple, un pirate pourrait concevoir une requête pour faire révéler à un assistant virtuel des informations privées.

Pour les développeurs, cela implique des vérifications de sécurité supplémentaires, comme la validation des entrées et l’isolation des processus. Les utilisateurs devraient éviter de partager des données sensibles avec les outils d’IA sauf s’ils leur font confiance. Un cas réel a vu un chatbot piraté divulguer des détails personnels d’un utilisateur via une requête habilement conçue.

Un pirate ajoute une commande cachée dans une requête de chatbot pour lui faire révéler l'adresse e-mail d'un utilisateur.

Dans les autres langues

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.