noun
Strategien zur Ausrichtung von KI-Modellen sind Techniken, die sicherstellen, dass künstliche Intelligenz-Systeme, insbesondere große Sprachmodelle, menschliche Werte, ethische Richtlinien und gewünschte Verhaltensweisen einhalten. Sie verhindern, dass KI schädliche, voreingenommene oder irreführende Inhalte erzeugt.
Die Ausrichtung erfolgt oft durch Feinabstimmung der Modelle mit ausgewählten Datensätzen, Verstärkung gewünschter Verhaltensweisen durch Belohnungsmodellierung oder Nutzung von menschlichem Feedback zur Fehlerkorrektur. Einige Ansätze beinhalten auch Sicherheitsmechanismen wie Ausgabefilter oder kontrollierte Eingabeaufforderungen.
Für Entwickler und Nutzer verändern diese Strategien die Art und Weise, wie KI-Tools erstellt und genutzt werden. Sie erfordern zusätzliche Tests und Validierungen, was die Entwicklungskosten erhöhen kann. Gleichzeitig reduzieren sie Risiken wie Fehlinformationen oder unbeabsichtigte Schäden. Beispielsweise könnte ein Chatbot, der mit Ausrichtungsstrategien trainiert wurde, medizinische Ratschläge verweigern, selbst wenn danach gefragt wird, um gefährliche Fehlinformationen zu vermeiden.
Ein ausgerichtetes Sprachmodell wird typischerweise Anfragen nach illegalem Inhalt ablehnen, selbst wenn sie geschickt formuliert sind.
In anderen Sprachen
Siehe auch: AI safety · reinforcement learning