noun
La gobernanza del alineamiento de modelos de IA es el marco de políticas, herramientas y supervisión que garantiza que los sistemas de IA se comporten como se espera, eviten daños y sigan directrices éticas.
Funciona estableciendo objetivos claros (como evitar sesgos o asegurar transparencia) y usando técnicas como el ajuste de modelos, retroalimentación humana y monitoreo automatizado. Por ejemplo, una empresa puede limitar las respuestas de un chatbot a temas neutros y verificados.
Para los desarrolladores, esto significa más pasos en pruebas y despliegue, pero reduce riesgos como multas o daños a la reputación. Para los usuarios, asegura herramientas confiables. Caso real: los sistemas de moderación de Meta, que bloquean típicamente el 95% de contenido dañino antes de que sea reportado.
Una empresa implementa gobernanza del alineamiento para evitar que su IA de atención al cliente dé consejos médicos.
En otros idiomas
Véase también: AI safety · Ethical AI · model fine-tuning