noun
Die Validierung der Ausrichtung von KI-Modellen stellt sicher, dass ein KI-System, wie ein Sprachmodell oder ein Bildgenerator, seinem vorgesehenen Zweck entspricht und keine gefährlichen, irreführenden oder ungerechten Ergebnisse liefert.
Dazu gehören Tests an Sicherheitsrichtlinien, Fairness-Kriterien und realen Szenarien. Zum Beispiel kann ein Chatbot validiert werden, um schädliche Anfragen abzulehnen, wie medizinische Ratschläge oder die Förderung illegaler Aktivitäten.
Für Entwickler bedeutet dies zusätzliche Tests und möglicherweise eine langsamere Bereitstellung, aber es reduziert Risiken wie Strafen oder Vertrauensverlust. Ein schlecht ausgerichtetes Modell könnte Millionen an Bußgeldern kosten—wie wenn ein KI-generiertes Bild eine öffentliche Person falsch darstellt und zu Klagen führt.
Ein Unternehmen validiert seinen KI-Chatbot, um sicherzustellen, dass er keine falschen Gesundheitsratschläge gibt, wie die Empfehlung unbewiesener Krebsbehandlungen.
In anderen Sprachen
Siehe auch: AI safety · Bias mitigation