noun
Die Validierung der KI-Modellausrichtung stellt sicher, dass die Ergebnisse eines KI-Systems ihrem Zweck und ethischen Richtlinien entsprechen. Dazu gehören Tests auf schädliche Vorurteile, unerwartetes Verhalten und Einhaltung von Vorschriften.
Sie umfasst automatisierte Tests, menschliche Bewertungen und Echtzeitüberwachung. Beispielsweise kann ein Sprachmodell validiert werden, um schädliche Ratschläge zu vermeiden.
Für Entwickler ist dieser Prozess verpflichtend, um rechtliche Risiken und Reputationsschäden zu vermeiden. Er kann 20-30% des KI-Budgets ausmachen. Beispiel: Das Modell PaLM 2 von Google wurde vor dem Release umfassend validiert.
Bevor ein KI-Assistent freigegeben wurde, testete das Team 500 Grenzsituationen für die Validierung.
In anderen Sprachen
Siehe auch: AI safety · Bias mitigation · model fine-tuning