noun
La sécurité de l’IA désigne les protocoles et technologies mis en place pour éviter les erreurs, les biais et les abus liés à l’intelligence artificielle. Elle vise à aligner les comportements des systèmes sur les valeurs humaines.
Cela inclut des tests approfondis, des mécanismes de transparence et des protections contre les utilisations malveillantes. Par exemple, un modèle de langage peut refuser de répondre à des demandes dangereuses, même si elles sont formulées.
Pour les développeurs et les utilisateurs, cela implique des audits réguliers, une documentation claire et le respect de normes éthiques. Cela augmente aussi les coûts, car les fonctionnalités de sécurité nécessitent des investissements supplémentaires. Un cas concret est le filtrage de contenu par OpenAI, qui bloque environ 90 % des requêtes malveillantes.
Un assistant virtuel peut refuser d'aider à contourner un système de sécurité, même si l'utilisateur le demande explicitement.