noun
Una alucinación de IA ocurre cuando un modelo produce contenido incorrecto, inventado o incoherente, pero lo presenta como un hecho real. Esto sucede porque los sistemas de IA generan respuestas basadas en patrones de sus datos de entrenamiento, sin verificar su veracidad.
Las alucinaciones suelen aparecer cuando la IA carece de contexto, debe rellenar lagunas en los datos o se le pide algo fuera de sus límites de entrenamiento. Por ejemplo, un modelo de lenguaje podría citar un estudio científico falso, o un generador de imágenes crear una persona con anatomía imposible.
Para los usuarios, esto significa que las salidas de la IA siempre deben verificarse, especialmente en campos críticos como la medicina o el derecho. Los desarrolladores deben diseñar sistemas para detectar estas alucinaciones, a menudo con supervisión humana o herramientas de verificación. Un estudio de 2023 encontró que el 15 % de los informes legales generados por IA contenían referencias a casos inexistentes.
Un chatbot afirma que un famoso nació en 1980 cuando los registros indican 1978.
En otros idiomas
Véase también: AI bias · prompt engineering · Model training