Noto'g'ri ulanishlar model ketma-ketlik vazifalarga o'qitilganda hosil bo'ladi, bu erda maqsadli ketma-ketlik bosqichma-bosqich hosil bo'ladi va model o'qitish paytida kelajakdagi tokenlarga ega bo'lmasligi kerak. Ushbu stsenariy matn yaratish, mashina tarjimasi yoki modelning kirish ketma-ketligiga asoslangan chiqish ketma-ketligini hosil qilishi kerak bo'lgan har qanday vazifada keng tarqalgan. Noto'g'ri ulanishlarni (kelgusidagi tokenlarni) niqoblash modelni kelajakda to'g'ri tokenlarga e'tibor qaratish orqali "chiqarishdan" saqlab qolish uchun zarurdir, bu esa inferensiya paytida mavjud bo'lmaydi. Ushbu ulanishlarni niqoblash orqali biz modelning taxmin qilish uchun mavjud kontekstga, ya'ni o'tmish va
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence