sesgo en modelos de IA (AI model bias)

noun

El sesgo en modelos de IA se refiere a errores sistemáticos en los sistemas de inteligencia artificial que llevan a resultados injustos o prejuiciosos. Estos sesgos suelen surgir de datos de entrenamiento desequilibrados, algoritmos defectuosos o decisiones de diseño que favorecen a ciertos grupos sobre otros.

Por ejemplo, un sistema de reconocimiento facial entrenado principalmente con rostros de piel clara puede tener tasas de error más altas con rostros de piel oscura. Del mismo modo, un algoritmo de contratación basado en datos históricos puede discriminar a ciertos grupos si las prácticas de contratación pasadas eran sesgadas.

Para los desarrolladores y usuarios, el sesgo en modelos de IA puede generar riesgos legales, daños a la reputación y preocupaciones éticas. Las empresas deben auditar sus modelos, diversificar sus datos de entrenamiento e implementar verificaciones de equidad para mitigar estos sesgos. Un estudio de 2020 encontró que algunos herramientas de contratación IA rechazaban 2,5 veces más a candidatas calificadas que a candidatos masculinos.

Un modelo de lenguaje entrenado principalmente con textos en inglés puede tener dificultades para generar traducciones precisas en idiomas menos comunes.

Véase también: Ethical AI

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.