noun
Eine Modellkarte ist ein standardisiertes Dokument, das die Fähigkeiten, Grenzen, ethischen Überlegungen und potenziellen Verzerrungen eines KI-Modells beschreibt. Sie enthält in der Regel Leistungsmetriken, Trainingsdatenquellen und Nutzungsempfehlungen.
Von Forschern und Ingenieuren entwickelt, soll die Modellkarte Transparenz in der KI fördern, indem sie klare und zugängliche Informationen über das Verhalten eines Modells bereitstellt. Beispielsweise könnte die Karte eines Sprachmodells darauf hinweisen, dass es Schwierigkeiten mit Sarkasmus hat oder mit Daten bis 2023 trainiert wurde.
Für Nutzer hilft die Modellkarte zu bewerten, ob ein KI-Tool für ihre Bedürfnisse geeignet ist. Sie kann bestimmte Hochrisiko-Anwendungen, wie medizinische Diagnosen, verbieten, wenn das Modell nicht dafür validiert ist. Für Entwickler stellt sie die Verantwortung sicher, indem sie bekannte Mängel von Anfang an dokumentiert. Ein reales Beispiel: Die Modellkarte von Googles BERT-Modell gibt eine Genauigkeit von 93 % im GLUE-Benchmark an, warnt aber vor Verzerrungen in geschlechtsspezifischer Sprache.
Bevor Sie ein generatives KI-Tool für Rechtsberatung verwenden, überprüfen Sie seine Modellkarte, um zu sehen, ob es mit aktuellen Gesetzen trainiert wurde.
In anderen Sprachen
Siehe auch: Bias mitigation