Überwachung der Ausrichtung von KI-Modellen

noun

Die Überwachung der Ausrichtung von KI-Modellen stellt sicher, dass künstliche Intelligenz-Systeme ihren vorgesehenen Zwecken folgen und keine schädlichen oder unvorhersehbaren Verhaltensweisen zeigen. Dazu gehören automatisierte Tests, menschliche Überwachung und Echtzeit-Feedback.

Beispielsweise könnte ein Bildgenerierungsmodell überwacht werden, um unangemessene Inhalte zu vermeiden, während ein Sprachassistent darauf beschränkt wird, keine medizinischen Ratschläge ohne Genehmigung zu geben.

Für Entwickler bedeutet dies zusätzliche Test- und Bereitstellungsschritte, was die Freigabe verzögern kann, aber Risiken minimiert. Unternehmen wie Aleph Alpha oder SAP nutzen solche Systeme, um zu verhindern, dass Modelle schädliche Antworten generieren, selbst wenn dies bestimmte Funktionen einschränkt. Wenn ein Modell in 1,5% der Fälle irreführende Antworten liefert, wird dies durch die Überwachung erkannt und behoben.

Ein KI-Chatbot weigert sich, rechtliche Beratung zu geben, und zeigt stattdessen eine Warnung an.

Siehe auch: AI safety · prompt engineering

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.