noun
Anforderungsprofile für die Ausrichtung von KI-Modellen sind Richtlinien, die gewährleisten, dass künstliche Intelligenz-Systeme wie beabsichtigt funktionieren und keine schädlichen oder voreingenommenen Ergebnisse liefern. Sie umfassen die Schulung, Tests und den Einsatz von Modellen, um ethische, rechtliche und Sicherheitsstandards zu erfüllen.
Diese Anforderungen stammen oft von Regulierungsbehörden, Branchenstandards oder internen Unternehmensrichtlinien. Beispielsweise muss ein Modell, das medizinische Ratschläge generiert, Tests bestehen, die beweisen, dass es keine gefährlichen Behandlungen empfiehlt, selbst wenn sie plausibel klingen.
Für Entwickler fügen diese Anforderungen Schritte wie Bias-Audits oder adversiale Tests zum Designprozess hinzu. Sie können auch bestimmte Verwendungen einschränken, wie die Erstellung von Deepfakes ohne Zustimmung. Nicht-Einhaltung kann zu Bußgeldern oder Reputationsschäden führen, wie bei einem Chatbot, der nach der Ausgabe gefährlicher Finanzratschläge zurückgezogen wurde.
Ein Sprachmodell muss die Erstellung von Anleitungen für illegale Aktivitäten verweigern, selbst wenn es explizit darum gebeten wird.
In anderen Sprachen
Siehe auch: AI safety · Bias mitigation