Hallucination (IA)

noun

Une hallucination d’IA se produit lorsqu’un modèle génère des contenus incorrects, fabriqués ou incohérents, mais qu’il les présente comme des faits. Cela arrive parce que les systèmes d’IA produisent des réponses à partir de motifs dans leurs données d’apprentissage, sans vérifier leur exactitude.

Ces erreurs surviennent souvent quand l’IA manque de contexte, doit combler des lacunes dans les données ou dépasse ses limites d’apprentissage. Par exemple, un modèle de langage pourrait citer une étude scientifique fictive, ou un générateur d’images créer un personnage avec une anatomie impossible.

Pour les utilisateurs, cela signifie que les résultats de l’IA doivent toujours être vérifiés, surtout dans des domaines sensibles comme la médecine ou le droit. Les développeurs doivent concevoir des systèmes pour détecter ces hallucinations, souvent avec une supervision humaine ou des outils de vérification supplémentaires. Une étude de 2023 a révélé que 15 % des mémoires juridiques générés par IA contenaient des références à des affaires inexistantes.

Un chatbot affirme qu’un acteur est né en 1980 alors que les archives indiquent 1978.

Voir aussi : AI bias · prompt engineering · Model training

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.