noun
Las directrices de alineación de modelos de IA son un conjunto de principios que buscan garantizar que las tecnologías de inteligencia artificial, como los chatbots o los generadores de imágenes, funcionen según los valores humanos y las normas éticas.
Estas directrices suelen provenir de reguladores, empresas tecnológicas o investigadores. Por ejemplo, una norma podría obligar a un modelo a rechazar peticiones de contenido violento, incluso si el usuario ofrece un pago adicional.
Para los desarrolladores y usuarios, estas directrices cambian cómo se diseñan y utilizan las herramientas. Pueden requerir pruebas adicionales, limitar ciertas funciones o añadir advertencias. Por ejemplo, un asistente de IA podría estar obligado a incluir un mensaje de advertencia cada vez que genere información financiera no verificada.
Un modelo de IA alineado podría negarse a generar imágenes de personas famosas sin su consentimiento, incluso si el usuario lo solicita repetidamente.
Véase también: AI safety · Ethical AI