noun
Die Verunreinigung von KI-Modellen ist ein Angriff, bei dem Angreifer ein KI-System durch gezielte Manipulation von Trainingsdaten oder Eingaben sabotieren. Ziel ist es, die KI zu veranlassen, falsche, voreingenommene oder schädliche Ergebnisse zu liefern.
Der Angriff nutzt die Abhängigkeit von KI-Systemen von großen Datensätzen. Beispielsweise könnte ein Bildgenerator, der mit als ‚Hunde‘ gekennzeichneten Katzenbildern trainiert wird, später echte Katzen falsch klassifizieren. Ebenso könnte ein Chatbot, dem falsche historische Fakten eingegeben werden, Fehlinformationen verbreiten.
Für Entwickler bedeutet dies, dass zusätzliche Sicherheitsmaßnahmen erforderlich sind. Unternehmen setzen typischerweise auf Datenvalidierung, Anomalieerkennung und adversarische Tests, um ihre Modelle zu schützen. Ein reales Beispiel zeigte, wie eine KI für autonomes Fahren durch leicht veränderte ‚Stoppschilder‘ mit Aufklebern getäuscht werden konnte, was die Schwachstellen solcher Systeme aufzeigte.
Ein Hacker schleust gefälschte Produktbewertungen in eine Empfehlungs-KI ein, wodurch diese minderwertige Artikel bewirbt.