noun
Liberar un modelo de IA significa eliminar sus filtros de seguridad, permitiéndole producir contenido normalmente bloqueado, como discursos de odio o imágenes ilegales.
Esto suele lograrse manipulando las consultas o explotando vulnerabilidades en los datos de entrenamiento. Por ejemplo, algunos usuarios han engañado a los modelos de lenguaje para que eviten la moderación usando lenguaje codificado.
La liberación cambia la forma en que se usan los modelos de IA al eliminar las salvaguardas éticas y legales. Esto expone a los usuarios a contenidos peligrosos, viola las políticas de las plataformas y puede acarrear consecuencias legales. Por ejemplo, algunos generadores de imágenes han sido liberados para producir contenido violento, obligando a las empresas a reforzar sus medidas de seguridad.
Un usuario libera un chatbot de IA usando una consulta cuidadosamente diseñada para evitar los filtros de contenido.
En otros idiomas
Véase también: prompt engineering