Directrices de alineación de modelos de IA (AI model alignment guidelines)

noun

Las directrices de alineación de modelos de IA son un conjunto de principios que buscan garantizar que las tecnologías de inteligencia artificial, como los chatbots o los generadores de imágenes, funcionen según los valores humanos y las normas éticas.

Estas directrices suelen provenir de reguladores, empresas tecnológicas o investigadores. Por ejemplo, una norma podría obligar a un modelo a rechazar peticiones de contenido violento, incluso si el usuario ofrece un pago adicional.

Para los desarrolladores y usuarios, estas directrices cambian cómo se diseñan y utilizan las herramientas. Pueden requerir pruebas adicionales, limitar ciertas funciones o añadir advertencias. Por ejemplo, un asistente de IA podría estar obligado a incluir un mensaje de advertencia cada vez que genere información financiera no verificada.

Un modelo de IA alineado podría negarse a generar imágenes de personas famosas sin su consentimiento, incluso si el usuario lo solicita repetidamente.

Véase también: AI safety · Ethical AI

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.