Transformator arxitekturasini Google tadqiqotchilari jamoasi 2017 yilda ixtiro qilgan. Jamoada Ashish Vasvani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser va Illia Polosukhin bo'lgan. Transformator arxitekturasini tabiiy tilni qayta ishlash vazifalari uchun ishlatiladigan neyron tarmoq arxitekturasidir. U e'tibor mexanizmida asoslangan bo'lib, modelga kirish ketma-ketligining turli qismlari o'rtasidagi uzoq masofali bog'liqliklarni o'rganishga imkon beradi. Transformator arxitekturasining turli xil NLP vazifalari, shu jumladan, mashina tarjimasi, matnlarni qisqartirish va savollarga javob berish uchun juda samarali ekanligi isbotlangan.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence