boîte noire

noun

En intelligence artificielle, une boîte noire désigne des modèles, notamment les grands modèles de langage, dont le processus de prise de décision est opaque pour les utilisateurs. Contrairement aux logiciels traditionnels, ces modèles ne suivent pas de règles explicites mais génèrent des résultats à partir de motifs appris à partir de grandes quantités de données.

Le terme vient de l’ingénierie, où une ‘boîte noire’ décrit un dispositif dont les mécanismes internes sont sans importance pour son fonctionnement. En IA, cela signifie que les utilisateurs interagissent avec les résultats du modèle sans comprendre comment il y est parvenu, ce qui peut être à la fois un avantage (efficacité) et un inconvénient (manque de transparence).

Pour les professionnels, cela change la manière dont ils font confiance et déboguent les outils d’IA. Par exemple, si un modèle de langage génère une réponse trompeuse, les utilisateurs ne peuvent pas facilement retracer l’erreur à un défaut spécifique de l’entraînement. En 2023, une étude a révélé que 68 % des développeurs utilisant des modèles d’IA avaient du mal à expliquer les sorties incorrectes, soulignant le défi de déboguer les systèmes boîte noire.

Quand un chatbot IA donne une information historique erronée, les utilisateurs ne peuvent pas voir pourquoi il a fait cette erreur, ce qui rend la correction plus difficile.

Dans les autres langues

Voir aussi : Model interpretability

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.