Transformer - bu diqqatga asoslangan tabiiy til modeli, bu Vaswani va boshqalar tomonidan 2017 yilda taqdim etilgan.Konkvensional neyron tarmoqlaridan farqli o'laroq, ular kirish ketma-ketliklarini ketma-ketlik bilan qayta ishlaydi, Transformerlar ketma-ketlikdagi barcha joylarni bir vaqtning o'zida qayta ishlaydi, bu esa so'zlar o'rtasidagi uzoq muddatli munosabatlarni yaxshiroq ushlab turishga imkon beradi.Bundan tashqari, Transformerlar har bir so'zni matn tarkibiga qarab kiritishning nisbiy ahamiyatini aniqlash uchun diqqat mexanizmlaridan foydalanadilar, bu esa ularga so'zlarni o'z ichiga olgan vazifaga eng mos keladigan so'zlarga e'tibor qaratishga imkon beradi.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence