Ketma-ketlikdagi har bir kirishning nisbiy ahamiyati, odatda, LSTMning yashirin holati va ketma-ketlikdagi har bir kirish o'rtasidagi o'xshashlikni o'lchaydigan dot mahsulot yoki o'xshashlik funksiyasi bo'lgan ballash funksiyasi tomonidan belgilanadi. Ballash funksiyasi har bir kirish uchun balni hisoblaydi, bu esa natijani hosil qilishda ushbu kirish uchun qancha e'tibor berish kerakligini ko'rsatadi. Ballar hisoblangandan so'ng, ular softmax funktsiyasidan foydalanib normallashtiriladi, bu ularni ehtimollik taqsimotlariga aylantiradi. Ushbu taqsimot ketma-ketlikdagi har bir kirishning nisbiy ahamiyatini ifodalaydi, yuqori ballar esa yuqori ahamiyatga ega. Yumshoq funksiya maximal darajada 1 gacha bo'lgan ballarni ta'minlaydi, bu esa modelga barcha kirishlarga ma'noli tarzda e'
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence