alucinación de la IA

noun

Una alucinación de la IA ocurre cuando un modelo de lenguaje o sistema artificial genera datos incorrectos, inventados o incoherentes, pero los muestra como verdaderos. Esto pasa porque la IA predice el texto o imagen más probable basado en patrones de sus datos de entrenamiento, sin verificar su veracidad.

Estas equivocaciones suelen surgir cuando la IA recibe preguntas fuera de su ámbito, tiene datos insuficientes o se le pide crear contenido creativo. Por ejemplo, un modelo puede citar un estudio científico falso con autores inventados.

Para los usuarios, esto significa que siempre hay que contrastar las respuestas de la IA, especialmente en contextos profesionales. En 2023, un abogado usó citas legales generadas por IA que no existían, lo que le costó una sanción. Las alucinaciones también obligan a los desarrolladores a mejorar los modelos con datos más precisos y supervisión humana.

Un chatbot afirma que un producto cuesta 50 euros cuando en realidad vale 70, sin justificación.

Véase también: AI bias · AI training data

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.