hallucination de l’IA

noun

Une hallucination de l’IA se produit lorsqu’un modèle de langage ou un système artificiel génère des informations incorrectes, inventées ou incohérentes, tout en les présentant comme des faits. Cela arrive parce que l’IA prédit le texte ou l’image le plus probable en fonction de ses données d’apprentissage, sans vérifier leur exactitude.

Ces erreurs surviennent souvent lorsque l’IA est interrogée sur des sujets hors de son champ de connaissance, manque de données fiables, ou est poussée à créer du contenu spéculatif. Par exemple, un modèle peut citer un article scientifique fictif avec des auteurs inventés.

Pour les utilisateurs, cela signifie qu’il faut toujours vérifier les réponses de l’IA, surtout dans des contextes professionnels ou sensibles. En 2023, un avocat a utilisé des références juridiques générées par l’IA qui n’existaient pas, ce qui lui a valu des sanctions. Les hallucinations poussent aussi les développeurs à améliorer les modèles avec des données plus fiables et un contrôle humain.

Un assistant vocal affirme qu'un film est sorti en 2010 alors qu'il est sorti en 2015, sans source valable.

Voir aussi : AI bias · AI training data

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.