noun
El sesgo en IA se refiere a errores sistemáticos en los sistemas de inteligencia artificial que favorecen ciertos resultados sobre otros, a menudo por datos de entrenamiento sesgados o fallos en el diseño del algoritmo.
Surge cuando los modelos de IA se entrenan con datos que reflejan prejuicios históricos, subrepresentación o conjuntos de datos incompletos. Por ejemplo, un sistema de reconocimiento facial puede tener un rendimiento pobre con tonos de piel más oscuros si se entrenó principalmente con rostros más claros.
Para los desarrolladores y usuarios, el sesgo puede llevar a resultados discriminatorios, riesgos legales y daños a la reputación. Las empresas deben auditar sus modelos de IA y usar conjuntos de datos diversos para mitigar el sesgo. Un estudio de 2020 encontró que algunos algoritmos de contratación favorecían a los candidatos masculinos sobre mujeres igualmente calificadas debido a datos de entrenamiento sesgados.
Un algoritmo de aprobación de préstamos podría rechazar más solicitudes de ciertos barrios porque sus datos de entrenamiento no incluían ejemplos de prestatarios exitosos de esas zonas.
En otros idiomas
Véase también: Model drift