noun
KI-Sicherheit umfasst alle Techniken und Richtlinien, die verhindern, dass künstliche Intelligenz Fehler macht, Vorurteile verbreitet oder missbraucht wird. Ziel ist es, KI-Systeme mit menschlichen Werten in Einklang zu bringen.
Dazu gehören strenge Tests, transparente Entscheidungsprozesse und Schutzmechanismen gegen böswillige Nutzung. Ein Beispiel ist, wenn ein Sprachmodell gefährliche Anfragen automatisch ablehnt.
Für Entwickler und Nutzer bedeutet das, regelmäßige Überprüfungen, klare Dokumentation und Einhaltung ethischer Standards. Es erhöht auch die Kosten, da Sicherheit zusätzliche Ressourcen erfordert. Ein reales Beispiel ist die Moderation von OpenAI, die etwa 90 % der schädlichen Anfragen blockiert.
Ein KI-gestützter Kundenservice kann Anfragen nach illegalen Inhalten automatisch ablehnen, um Nutzer zu schützen.