TransformerEncoder blokining mumkin bo'lgan tavsifi quyidagicha: """ TransformerEncoder blok - bu Transformer arxitekturasidagi ketma-ketlik modellashtirishning asosiy qurilish bloki. U o'z-o'zidan e'tibor va feedforward neyron tarmoqlarining ko'p qatlamlaridan iborat bo'lib, ularning har biri kirish kirish ketma-ketligi bilan ishlaydi. O'z-o'zidan e'tibor qatlamida kirish kirish ketma-ketliklari uchta tasvirga aylanadi: so'rov, kalit va qiymat. Ushbu tasvirlar kirish ketma-ketligidagi har bir pozitsiya o'rtasidagi e'tibor balini hisoblash uchun ishlatiladi, bu esa har bir pozitsiya boshqa pozitsiyaga qanchalik e'tibor berishini aniqlaydi. Natijada e'tibor og'irliklari qiymat tasvirlarining og'irlangan summasini hisoblash uchun
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence