Qo'llab-quvvatlovchi o'rganish (RL) - bu mashina o'rganishning bir turi bo'lib, unda agent atrof-muhit bilan o'zaro ta'sir o'tkazish orqali qaror qabul qilishni o'rganadi. Agent o'z harakatlariga qarab mukofot yoki jazo shaklida fikr-mulohaza oladi. Maqsad vaqt o'tishi bilan kutilayotgan jami mukofotni maksimal darajada oshiradigan siyosatni o'rganishdir. Inson fikr-mulohazalaridan qo'llab-quvvatlovchi o'rganish (RLHF), shuningdek, inson afzalliklaridan o'rganish deb ham tanilgan, RLning bir o'zgarishi bo'lib, unda mukofot signali aniq belgilangan mukofot funksiyasi emas, balki inson fikr-mulohazalaridan olingan. Yaxshi mukofot funksiyasini loyihalash qiyin bo'lishi mumkin, chunki u barcha mumkin bo'lgan stsenariylar va oqibatlarni
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence