Kurz erklärt
RLHF steht für „Reinforcement Learning from Human Feedback“ — bestärkendes Lernen aus menschlichem Feedback. Es ist die Methode, mit der Sprachmodelle nach dem Grundtraining „erzogen“ werden: Menschen bewerten Antworten, und das Modell lernt, hilfreichere und sicherere zu bevorzugen.
Etwas tiefer
RLHF ist ein zentraler Grund, warum heutige Assistenten höflich, brauchbar und einigermaßen sicher antworten. Es ist eng mit Alignment (Alignment) verwandt — dem Ausrichten von KI an menschlichen Werten — und ergänzt das reine Feintuning (Fine-Tuning).
Was bedeutet das für Organisationen?
Die Lehre für Organisationen: wie sich ein Modell „verhält“, ist kein Zufall, sondern das Ergebnis menschlicher Bewertung — mit allen Stärken und Verzerrungen der Bewertenden (Bias). Wer Modelle auswählt, sollte auch fragen, wie und von wem sie ausgerichtet wurden.
Häufiges Missverständnis
„RLHF macht KI objektiv und sicher.“ Es prägt KI nach menschlichen Urteilen — die können inkonsistent oder voreingenommen sein. RLHF reduziert Risiken, beseitigt sie nicht.
Zuletzt aktualisiert: · Redaktion: Lukas Starke, starke-ki.de
← → Pfeiltasten zum Blättern · Esc zur Übersicht← Wischen zum Blättern →