noun
Ausrichtungsvorgaben für KI-Modelle sind Richtlinien oder Beschränkungen, die dafür sorgen, dass KI-Modelle—insbesondere große Sprachmodelle—Ergebnisse liefern, die mit menschlichen Werten, Sicherheitsstandards und ethischen Prinzipien übereinstimmen. Dazu können Filter, Eingabeaufforderungen oder Anpassungen im Training gehören, um schädliche, irreführende oder voreingenommene Antworten zu verhindern.
Sie stammen oft aus einer Kombination von Entwicklerrichtlinien, regulatorischen Anforderungen und Nutzerfeedback. Beispielsweise kann ein Modell so trainiert werden, dass es Anfragen nach medizinischen Ratschlägen ablehnt oder beleidigende Inhalte vermeidet. Diese Regeln werden durch eine Mischung aus Vorab-Training, Nachbearbeitung und Echtzeitüberwachung durchgesetzt.
Für Entwickler bedeuten diese Vorgaben zusätzlichen Aufwand und Kosten, da sie weitere Tests und iterative Verbesserungen erfordern. Für Nutzer sorgen sie für zuverlässigere und sicherere Interaktionen, können aber auch bestimmte Funktionen einschränken. Beispielsweise könnte ein Modell eine Anfrage zur Erstellung von Fake News ablehnen, obwohl es technisch dazu in der Lage wäre. Typischerweise werden diese Vorgaben aktualisiert, sobald neue Risiken oder ethische Bedenken auftauchen.
Ein Sprachassistent verweigert die Auskunft, wie man eine Software illegal knacken kann, obwohl die Frage harmlos formuliert ist.
In anderen Sprachen
Siehe auch: AI safety · model fine-tuning · Ethical AI