noun
El entrenamiento de alineación de modelos de IA consiste en ajustar los sistemas de inteligencia artificial para que sus respuestas sean seguras, éticas y útiles. Esto se logra mediante retroalimentación humana o técnicas de aprendizaje por refuerzo para corregir comportamientos no deseados.
Por ejemplo, un modelo de generación de imágenes puede ser entrenado para no producir contenido violento o discriminatorio, filtrando automáticamente las solicitudes problemáticas. Plataformas como DALL·E 3 invierten en este proceso para evitar riesgos legales.
Para los desarrolladores, la alineación es obligatoria en muchos países, pero puede ralentizar el lanzamiento de productos. Un modelo como Llama 2 de Meta requiere miles de horas de revisión humana, lo que eleva su costo a cientos de miles de dólares.
Un chatbot de banca en línea se niega a procesar transacciones sospechosas, incluso si el usuario insiste.
En otros idiomas
Véase también: AI safety · reinforcement learning