noun
Modellinterpretierbarkeit bezieht sich auf die Transparenz, mit der ein KI-System seine Entscheidungen erklärt. Im Gegensatz zu einer Blackbox zeigt ein interpretierbares Modell seinen Entscheidungsprozess auf, was Vertrauen und Fehlerbehebung erleichtert.
Techniken wie Entscheidungsbäume, Attention-Mechanismen in Transformern oder Layer-Wise Relevance Propagation (LRP) verbessern die Interpretierbarkeit. Beispielsweise könnte ein Modell, das medizinische Diagnosen generiert, die wichtigsten Symptome hervorheben, die es berücksichtigt hat, und so undurchsichtige Vorhersagen reduzieren.
Für Entwickler ist Interpretierbarkeit entscheidend, um Vorschriften wie die EU-KI-Verordnung einzuhalten, die Transparenz bei Hochrisiko-KI-Systemen verlangt. Sie senkt auch Kosten, indem sie Fehler minimiert und das Vertrauen der Nutzer stärkt. Eine Studie ergab, dass interpretierbare Modelle im Kundenservice die Beschwerden um 20 % reduzierten.
Ein Chatbot erklärt seine Restaurantempfehlung, indem er Faktoren wie Nutzerpräferenzen, Entfernung und Bewertungen auflistet.