noun
Las directrices de alineación de modelos de IA son un conjunto de prácticas y estándares éticos diseñados para garantizar que los sistemas de IA, como los modelos de lenguaje, generadores de imágenes y asistentes virtuales, produzcan resultados seguros, imparciales y alineados con los valores humanos.
Estas directrices suelen provenir de regulaciones gubernamentales, estándares de la industria o políticas internas de empresas tecnológicas. Cubren áreas como la prevención de contenidos dañinos, el respeto a la privacidad y la evitación de abusos. Por ejemplo, un modelo puede ser ajustado para rechazar solicitudes ilegales o marcar lenguaje ofensivo.
Para los desarrolladores, esto significa pasos adicionales en pruebas y monitoreo. Un modelo entrenado para detectar discurso de odio podría necesitar rechazar el 5% de las entradas, ralentizando las respuestas pero mejorando la seguridad. Para los usuarios, asegura que las herramientas de IA sean menos propensas a difundir desinformación o causar daño.
Un chatbot sigue las directrices al negarse a generar instrucciones para fabricar explosivos.
Véase también: AI safety · Ethical AI · model fine-tuning