Xato aloqalar o'qitish jarayonida hosil bo'ladi va uchburchak niqob ularni niqoblash uchun shakllangan. Birini nima uchun kerak bo'lishi mumkinligini tushunish uchun, uchburchak niqoblari qanday va nima uchun ishlatilishini ko'rib chiqaylik. Yuqoridagi e'tibor modeli avtomatik regress Transformer ekanligini taxmin qilaylik. Bu shuni anglatadiki, keyingi token bashorat faqat oldingi tokenlarga bog'liq. Shunday qilib, keyingi tokenni bashorat qilish uchun, siz faqat oldingi tokenlar ishtirok etishiga ishonch hosil qilishingiz kerak. (Agar yo'q bo'lsa, bu o'qishda aldab qo'yish kabi bo'ladi, chunki model allaqachon keyingi nima ekanligini biladi). Shu sababli e'tibor niqoblari quyidagicha bo'ladi ```block [0, 1, 1, 1] [0, 1, 1] [
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence