noun
La gobernanza de alineación de modelos de IA se refiere a las políticas, marcos y mecanismos de supervisión diseñados para garantizar que los modelos de IA—como los modelos de lenguaje, generadores de imágenes o agentes autónomos—funcionen dentro de límites éticos, legales y de seguridad.
Normalmente implica establecer objetivos claros para el comportamiento de la IA, probar los modelos en escenarios reales y aplicar bucles de retroalimentación para corregir salidas no deseadas. Por ejemplo, una empresa podría implementar esta gobernanza exigiendo revisores humanos para detectar y corregir contenidos dañinos, reduciendo los errores de un 15 % a un 5 % en seis meses.
Para los desarrolladores y empresas, esto significa costes adicionales en auditorías y cumplimiento, pero también reduce riesgos como daños a la reputación o sanciones legales. Para los usuarios, asegura herramientas más seguras y fiables, aunque algunas funciones puedan estar limitadas para evitar abusos.
Una plataforma de redes sociales aplica la gobernanza de alineación de modelos de IA bloqueando deepfakes generados por IA que violan sus políticas.
Véase también: AI safety · Ethical AI · Model training · Bias mitigation