noun
Das Ausrichtungstraining von KI-Modellen zielt darauf ab, die Antworten künstlicher Intelligenz sicher, ethisch und nützlich zu gestalten. Dabei werden unerwünschte Verhaltensweisen korrigiert, während Genauigkeit und Kreativität erhalten bleiben.
Dafür werden menschliche Rückmeldungen, Verstärkungslernen und Sicherheitsbeschränkungen genutzt. Ein Sprachmodell könnte beispielsweise darauf trainiert werden, gefährliche Anfragen (wie medizinische Ratschläge) abzulehnen oder beleidigende Inhalte zu vermeiden. Der Prozess erfordert große, von Menschen gekennzeichnete Datensätze und wiederholte Tests.
Für Entwickler ist die Ausrichtung entscheidend, um rechtliche und Image-Risiken zu minimieren. Ein schlecht ausgerichtetes Modell könnte falsche Informationen verbreiten oder Datenschutzgesetze verletzen. Beispielsweise hat das Modell PaLM 2 von Google umfangreiche Ausrichtungstests durchlaufen, um Vorurteile zu reduzieren – ein kostspieliger Prozess.
Ein KI-Assistent mit Ausrichtungstraining würde eine Anfrage nach Anleitungen für Cyberangriffe ablehnen.
In anderen Sprachen
Siehe auch: AI safety · reinforcement learning · model fine-tuning