noun
Las buenas prácticas de alineación de modelos de IA son directrices que buscan asegurar que sistemas como chatbots, generadores de imágenes o agentes de decisión se comporten de manera ética y acorde con las intenciones humanas.
Incluyen técnicas como el aprendizaje por refuerzo con retroalimentación humana (RLHF) o la curación cuidadosa de datos para evitar sesgos. También promueven la transparencia, como etiquetar contenido generado por IA.
Para los desarrolladores, esto implica pruebas más estrictas y mayores costos. Por ejemplo, una empresa como DeepMind podría invertir millones en alinear sus modelos, equilibrando rendimiento y seguridad. Los usuarios obtienen menos respuestas dañinas, pero a veces más limitadas.
Una red social usa estas prácticas para evitar que sus subtítulos generados por IA difundan desinformación, aunque eso reduzca su creatividad.
En otros idiomas
Véase también: reinforcement learning from human feedback · AI safety · Ethical AI