noun
Die Überprüfung der Ausrichtung von KI-Modellen stellt sicher, dass eine KI-Anwendung Ergebnisse liefert, die ihrem Zweck und ethischen Vorgaben entsprechen. Dazu gehören Tests auf schädliche Verzerrungen, unerwartete Verhaltensweisen oder Missbrauchsrisiken.
Sie umfasst automatisierte Tests, menschliche Bewertungen und Stressszenarien. Beispielsweise könnte ein KI-Assistent überprüft werden, um sicherzustellen, dass er keine gefährlichen oder irreführenden Ratschläge gibt.
Für Entwickler ist dieser Schritt entscheidend, um rechtliche Konsequenzen, Reputationsschäden oder unbeabsichtigte Schäden zu vermeiden. Ein falsch ausgerichtetes Modell könnte Millionen an Klagen kosten, wie bei einigen KI-Systemen, die falsche Informationen verbreitet haben.
Bevor ein KI-gestützter Finanzberater freigegeben wurde, wurde überprüft, ob er keine riskanten Anlagen ohne Warnung empfahl, wie etwa hochspekulative Aktien für Anfänger.
In anderen Sprachen
Siehe auch: AI safety · Ethical AI · Bias mitigation