noun
Zielvorgaben für die Ausrichtung von KI-Modellen sind Regeln, die sicherstellen, dass KI-Systeme wie Chatbots oder Bildgeneratoren im Einklang mit menschlichen Werten und Absichten handeln. Sie verhindern schädliche Ausgaben, wie die Verbreitung von Fehlinformationen oder beleidigendem Inhalt.
Diese Ziele werden typischerweise von Entwicklern mit Techniken wie Verstärkungslernen durch menschliches Feedback (RLHF) festgelegt, bei dem menschliche Bewerter die KI-Antworten bewerten, um das Modell zu trainieren. Beispielsweise könnte ein Modell so angepasst werden, dass es falsche medizinische Ratschläge vermeidet, indem es Antworten bestraft, die verifizierten Quellen widersprechen.
Für Nutzer bedeutet Ausrichtung, dass KI-Tools zuverlässiger und vertrauenswürdiger sind. Allerdings kann eine zu strenge Ausrichtung manchmal Kreativität oder Nützlichkeit einschränken—for instance, ein Modell könnte satirische Inhalte verweigern, wenn sie zu sehr an schädliche Äußerungen erinnern. Die Balance zwischen Sicherheit und Nutzen bleibt eine Herausforderung.
Beispiel: Ein Sprachmodell, das mit Ausrichtungszielen trainiert wurde, könnte eine Anfrage zur Erstellung eines Falschnachrichtenartikels ablehnen, selbst wenn der Nutzer darauf besteht, weil es darauf programmiert ist, faktische Genauigkeit zu priorisieren.
Ein Nutzer bittet eine KI, eine Falschnachricht zu generieren, aber das Modell lehnt aufgrund der Ausrichtungsziele ab.
In anderen Sprachen
Siehe auch: reinforcement learning · AI safety · model fine-tuning