tarjeta de modelo

noun

Una tarjeta de modelo es un documento estándar que describe las capacidades, limitaciones, consideraciones éticas y posibles sesgos de un modelo de IA. Suele incluir métricas de rendimiento, fuentes de datos de entrenamiento y recomendaciones de uso.

Desarrollada por investigadores e ingenieros, la tarjeta de modelo busca promover la transparencia en la IA proporcionando información clara y accesible sobre el comportamiento de un modelo. Por ejemplo, la tarjeta de un modelo de lenguaje podría indicar que tiene dificultades con el sarcasmo o que se entrenó con datos hasta 2023.

Para los usuarios, la tarjeta de modelo ayuda a evaluar si una herramienta de IA es adecuada para sus necesidades. Puede prohibir ciertas aplicaciones de alto riesgo, como diagnósticos médicos, si el modelo no está validado para ellos. Para los desarrolladores, garantiza la responsabilidad al documentar los defectos conocidos desde el principio. Ejemplo real: la tarjeta del modelo BERT de Google señala su 93% de precisión en el benchmark GLUE, pero advierte sobre sesgos en el lenguaje de género.

Antes de usar una herramienta de IA generativa para consejos legales, revisa su tarjeta de modelo para ver si se entrenó con leyes actualizadas.

En otros idiomas

Véase también: Bias mitigation

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.