Entrenamiento de alineación de modelos de IA (AI model alignment training)

noun

El entrenamiento de alineación de modelos de IA consiste en ajustar los sistemas de inteligencia artificial para que sus respuestas sean seguras, éticas y útiles. Esto se logra mediante retroalimentación humana o técnicas de aprendizaje por refuerzo para corregir comportamientos no deseados.

Por ejemplo, un modelo de generación de imágenes puede ser entrenado para no producir contenido violento o discriminatorio, filtrando automáticamente las solicitudes problemáticas. Plataformas como DALL·E 3 invierten en este proceso para evitar riesgos legales.

Para los desarrolladores, la alineación es obligatoria en muchos países, pero puede ralentizar el lanzamiento de productos. Un modelo como Llama 2 de Meta requiere miles de horas de revisión humana, lo que eleva su costo a cientos de miles de dólares.

Un chatbot de banca en línea se niega a procesar transacciones sospechosas, incluso si el usuario insiste.

Véase también: AI safety · reinforcement learning

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.