abbreviation RLHF
reinforcement learning from human feedback
Verstärktes Lernen mit menschlicher Rückmeldung (RLHF) ist eine Technik, die KI-Modelle wie Chatbots oder Bildgeneratoren durch menschliche Bewertungen verfeinert. Statt sich nur auf vorhandene Daten zu verlassen, nutzt RLHF Feedback von Nutzern, um die Leistung zu verbessern.
Es funktioniert, indem menschliche Prüfer die Antworten der KI bewerten, und das System anschließend sein Verhalten anpasst. Wenn ein Chatbot beispielsweise eine unangemessene Antwort generiert, hilft die menschliche Rückmeldung, ähnliche Fehler in Zukunft zu vermeiden. Diese Methode ist besonders nützlich, um KI mit menschlichen Werten und Vorlieben abzustimmen.
Für Entwickler verändert RLHF die Art und Weise, wie KI-Modelle trainiert werden, und macht sie anwendungsfreundlicher. Allerdings entstehen dadurch auch Kosten, da menschliche Prüfer große Mengen an Antworten bewerten müssen. OpenAI soll beispielsweise Millionen für menschliche Rückmeldungen ausgegeben haben, um seine GPT-Modelle zu verbessern. Zwar macht RLHF die KI sicherer und nützlicher, doch erfordert es kontinuierliche menschliche Überwachung, was zeitaufwendig und teuer sein kann.
Wenn ein Nutzer eine Antwort eines Chatbots als unangemessen markiert, passt RLHF das Modell an, um ähnliche Fehler in Zukunft zu reduzieren.
In anderen Sprachen
Siehe auch: fine-tuning · Supervised learning