Kreuzaufmerksamkeit

noun

Kreuzaufmerksamkeit ist ein Mechanismus in KI-Modellen, der es ihnen ermöglicht, Informationen aus zwei verschiedenen Quellen, wie Text und Bild, zu verknüpfen und zu kombinieren. Sie funktioniert, indem ein Teil des Modells relevante Teile einer anderen Eingabe berücksichtigt, während es seine eigene verarbeitet.

Zum Beispiel nutzt ein Text-zu-Bild-Modell bei der Bilderzeugung Kreuzaufmerksamkeit, um Wörter in einer Eingabeaufforderung (wie ‚eine rote Katze‘) mit visuellen Merkmalen im Bild abzugleichen. Dadurch stimmt das generierte Bild mit der Beschreibung überein.

Für Nutzer verbessert Kreuzaufmerksamkeit die Genauigkeit und Kohärenz der KI-Ausgaben, kann aber auch die Rechenkosten erhöhen. Ein Modell wie Stable Diffusion nutzt Kreuzaufmerksamkeit, um Textaufforderungen mit Bilddetails zu verbinden, was die generierten Bilder präziser macht, aber mehr Rechenleistung erfordert.

Wenn Sie 'eine futuristische Stadt beim Sonnenuntergang' in einen KI-Bildgenerator eingeben, hilft die Kreuzaufmerksamkeit dem Modell, 'futuristisch' mit Wolkenkratzern und 'Sonnenuntergang' mit den Himmelsfarben zu verknüpfen.

Siehe auch: Attention mechanism · prompt engineering

Découvrez nos autres services

ElpisIA, c’est tout un univers — explorez nos autres services.