Blackbox

noun

In der künstlichen Intelligenz bezieht sich eine Blackbox auf Modelle, insbesondere große Sprachmodelle, deren Entscheidungsprozess für die Nutzer undurchsichtig ist. Im Gegensatz zu herkömmlicher Software folgen diese Modelle keinen expliziten Regeln, sondern erzeugen Ergebnisse basierend auf Mustern, die aus großen Datenmengen gelernt wurden.

Der Begriff stammt aus der Ingenieurwissenschaft, wo eine ‚Blackbox‘ ein Gerät beschreibt, dessen interne Mechanismen für seine Funktion irrelevant sind. In der KI bedeutet dies, dass Nutzer mit den Ergebnissen des Modells interagieren, ohne zu verstehen, wie es dazu gekommen ist – was sowohl ein Vorteil (Effizienz) als auch ein Nachteil (mangelnde Transparenz) sein kann.

Für Fachleute verändert dies, wie sie KI-Tools vertrauen und debuggen. Wenn ein Sprachmodell beispielsweise eine irreführende Antwort generiert, können Nutzer den Fehler nicht leicht auf einen spezifischen Trainingsfehler zurückführen. Eine Studie aus dem Jahr 2023 ergab, dass 68 % der Entwickler, die KI-Modelle nutzen, Schwierigkeiten hatten, falsche Ausgaben zu erklären, was die Herausforderung beim Debuggen von Blackbox-Systemen unterstreicht.

Wenn ein KI-Chatbot eine falsche historische Tatsache angibt, können Nutzer nicht nachvollziehen, warum der Fehler aufgetreten ist, was die Korrektur erschwert.

In anderen Sprachen

Siehe auch: Model interpretability

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.