Transformator modeli asosan matn kabi ketma-ket kirishlarni o'z ichiga oladigan tabiiy tilni qayta ishlash (NLP) kabi vazifalar uchun ishlatiladi. Model kodlovchi va dekoderdan iborat. Kodlovchi kirish ketma-ketligini qabul qiladi va yashirin holatlar to'plamini ishlab chiqaradi, keyin ular chiqish ketma-ketligini ishlab chiqarish uchun dekoderga o'tkaziladi. Transformator modelining asosiy tarkibiy qismlaridan biri o'z-o'zidan e'tibor mexanizmidir. O'z-o'zidan e'tibor berish modeliga kirish jarayonining turli qismlarining ahamiyatini o'lchashga imkon beradi. Model buni o'z-o'zidan e'tibor berish g'oyasiga asoslanganligi sababli, u har bir elementning bir nechta qismlarini o'lchashga e'tibor beradi.
spam fails_task pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence