noun
Die Überwachung der Ausrichtung von KI-Modellen stellt sicher, dass künstliche Intelligenz-Systeme ihren vorgesehenen Zwecken folgen und keine schädlichen oder unvorhersehbaren Verhaltensweisen zeigen. Dazu gehören automatisierte Tests, menschliche Überwachung und Echtzeit-Feedback.
Beispielsweise könnte ein Bildgenerierungsmodell überwacht werden, um unangemessene Inhalte zu vermeiden, während ein Sprachassistent darauf beschränkt wird, keine medizinischen Ratschläge ohne Genehmigung zu geben.
Für Entwickler bedeutet dies zusätzliche Test- und Bereitstellungsschritte, was die Freigabe verzögern kann, aber Risiken minimiert. Unternehmen wie Aleph Alpha oder SAP nutzen solche Systeme, um zu verhindern, dass Modelle schädliche Antworten generieren, selbst wenn dies bestimmte Funktionen einschränkt. Wenn ein Modell in 1,5% der Fälle irreführende Antworten liefert, wird dies durch die Überwachung erkannt und behoben.
Ein KI-Chatbot weigert sich, rechtliche Beratung zu geben, und zeigt stattdessen eine Warnung an.
In anderen Sprachen
Siehe auch: AI safety · prompt engineering