1. Ular o'zlarining kirish ma'lumotlarini hisoblash uchun faqat diqqat mexanizmlariga tayanadigan Transformer modelining arxitekturasini taklif qilishadi. U avvalgi modellarda keng tarqalgan takroriy yoki konvolyutiv qatlamlarni olib tashlaydi. 2. E'tibor mexanizmlari kirish ketma-ketligining har bir pozitsiyasini chiqishi ketma-ketligining barcha pozitsiyalariga e'tibor qaratishga imkon beradi, bu esa global bog'liqliklarni ushlab turishga imkon beradi. Bu modelni avvalgi arxitekturalarga qaraganda kuchliroq qiladi. 3. Transformer mashinada tarjima qilishda eng zamonaviy natijalarga erishadi, avvalgi takroriy va konvolyutiv modellardan ustun keladi. Bu e'tiborga asoslangan modellarning salohiyatini namoyish etdi. 4. Maqola e'tibor mexanizmini ommalashtirdi va e'tiborni NLP va
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence