LSTM tarmoqlarida e'tibor mexanizmlari tarmoqga bashoratlar qilishda kirish ketma-ketligining muayyan qismlariga e'tibor qaratishga imkon beradi. U birinchi marta mashina tarjimasi uchun ketma-ketlik (Seq2Seq) modellari kontekstida joriy etilgan, u erda u kirish va chiqish ketma-ketliklarini moslashtirish uchun ishlatilgan. E'tibor bilan LSTM tarmog'ida dekoderning har bir yashirin holati koderning yashirin holatlarining og'irlik summasini olish orqali hisoblanadi, bu erda og'irliklar e'tibor ballari to'plami bilan belgilanadi. Ushbu ballar oldingi dekoder yashirin holati va barcha yashirin holatlarni kiritish sifatida alohida e'tibor mexanizmidan foydalanib hisoblanadi. E'tibor mexanizmida odatda uchta qadam kiradi: E'tibor ballarini hisoblash: Joriy dekoder yashirin holati har bir yash
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence