noun
Protokolle zur Ausrichtung von KI-Modellen sind Richtlinien und technische Schutzmaßnahmen, die sicherstellen, dass KI-Systeme, insbesondere Sprachmodelle, den menschlichen Absichten folgen und unerwünschte Verhaltensweisen vermeiden.
Sie kombinieren Trainingsmethoden, Sicherheitsfilter und menschliche Überwachung. Ein Beispiel ist das Reinforcement Learning from Human Feedback (RLHF), bei dem menschliche Bewertungen genutzt werden, um das Modellverhalten zu optimieren.
Für Entwickler bedeuten diese Protokolle strengere Testverfahren, was die Bereitstellung verlangsamt, aber Risiken reduziert. Für Nutzer sorgen sie für zuverlässigere und sicherere Interaktionen. OpenAIs Moderationssysteme blockieren typischerweise 10 % der schädlichen Anfragen.
Ein KI-Chatbot mit Ausrichtungsprotokollen verweigert die Erstellung von Anleitungen für illegale Handlungen, selbst wenn der Nutzer danach fragt.
In anderen Sprachen
Siehe auch: AI safety · reinforcement learning