RLHF - insonning fikrini qo'llab-quvvatlash orqali o'rganish. Bu usul orqali sun'iy agent oldindan belgilangan mukofotlash funksiyasi emas, balki inson foydalanuvchisining afzalliklaridan o'rganadi. Inson foydalanuvchisi agentga ijobiy yoki salbiy signallar kabi fikr-mulohaza beradi, bu esa agent o'z siyosatini yangilash va ishlashini yaxshilash uchun ishlatiladi. RLHF turli sohalarga, masalan, tabiiy tilni yaratish, robotika, o'yinlar va boshqalar uchun qo'llanilishi mumkin.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence