noun
La seguridad de la IA se refiere a las prácticas y tecnologías que garantizan que los sistemas de inteligencia artificial funcionen de manera fiable, ética y sin consecuencias no deseadas. Esto incluye prevenir errores, sesgos y abusos.
Para lograrlo, se emplean pruebas exhaustivas, transparencia en las decisiones y protecciones contra usos malintencionados. Por ejemplo, un modelo de lenguaje puede negarse a responder preguntas peligrosas, incluso si se le solicita.
Esto obliga a los desarrolladores y usuarios a realizar auditorías periódicas, documentar claramente los procesos y seguir directrices éticas. También implica costos adicionales, ya que las medidas de seguridad requieren más recursos. Un ejemplo real es el filtro de contenido de OpenAI, que bloquea alrededor del 90 % de las solicitudes dañinas.
Un chatbot de atención al cliente puede ignorar peticiones que violen las políticas de privacidad, aunque el usuario insista.