noun
Die Ausrichtung von KI-Modellen ist ein Prozess, bei dem künstliche Intelligenz so trainiert wird, dass ihre Antworten sicher, ethisch und nützlich sind. Dies geschieht durch menschliche Rückmeldungen oder maschinelles Lernen, um unerwünschte Verhaltensweisen zu korrigieren.
Beispielsweise kann ein Sprachmodell wie DeepMind’s Sparrow so trainiert werden, dass es keine falschen medizinischen Ratschläge gibt, indem es auf Daten von Ärzten zurückgreift. Dies ist besonders wichtig für Anwendungen in der Gesundheitsbranche.
Für Entwickler ist die Ausrichtung oft gesetzlich vorgeschrieben, erfordert aber erhebliche Ressourcen. Ein Modell wie Aleph Alpha könnte bis zu 100.000 Euro pro Jahr für Ausrichtungstests benötigen, um Compliance zu gewährleisten.
Eine KI-gestützte Rechtsberatung weigert sich, unethische Ratschläge zu geben, selbst wenn der Nutzer sie explizit verlangt.
In anderen Sprachen
Siehe auch: AI safety · reinforcement learning