Liberación (IA)

noun

Liberar un modelo de IA significa eliminar sus filtros de seguridad, permitiéndole producir contenido normalmente bloqueado, como discursos de odio o imágenes ilegales.

Esto suele lograrse manipulando las consultas o explotando vulnerabilidades en los datos de entrenamiento. Por ejemplo, algunos usuarios han engañado a los modelos de lenguaje para que eviten la moderación usando lenguaje codificado.

La liberación cambia la forma en que se usan los modelos de IA al eliminar las salvaguardas éticas y legales. Esto expone a los usuarios a contenidos peligrosos, viola las políticas de las plataformas y puede acarrear consecuencias legales. Por ejemplo, algunos generadores de imágenes han sido liberados para producir contenido violento, obligando a las empresas a reforzar sus medidas de seguridad.

Un usuario libera un chatbot de IA usando una consulta cuidadosamente diseñada para evitar los filtros de contenido.

Véase también: prompt engineering

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.