noun
Las especificaciones de alineación de modelos de IA son directrices o restricciones diseñadas para garantizar que los modelos de IA—especialmente los grandes modelos de lenguaje—generen salidas alineadas con valores humanos, estándares de seguridad y principios éticos. Estas especificaciones pueden incluir filtros, indicaciones o ajustes en el entrenamiento para evitar respuestas perjudiciales, engañosas o sesgadas.
Suelen surgir de políticas de los desarrolladores, requisitos regulatorios y retroalimentación de los usuarios. Por ejemplo, un modelo puede ser ajustado para rechazar solicitudes de consejos médicos o evitar contenido ofensivo. Estas reglas se aplican mediante una combinación de preentrenamiento, ajustes posteriores y monitoreo en tiempo real.
Para los desarrolladores, estas especificaciones añaden complejidad y costo, ya que requieren pruebas adicionales y refinamiento iterativo. Para los usuarios, significan interacciones más confiables y seguras, aunque también pueden limitar ciertas funcionalidades. Por ejemplo, un modelo podría rechazar una solicitud para generar noticias falsas, incluso si es técnicamente capaz de hacerlo. Típicamente, estas especificaciones se actualizan a medida que surgen nuevos riesgos o preocupaciones éticas.
Un asistente virtual se niega a proporcionar información sobre cómo evadir impuestos, aunque la pregunta esté formulada de manera indirecta.
En otros idiomas
Véase también: AI safety · model fine-tuning · Ethical AI