Hozirgi katta til modellari odatda katta matn korpusi ustida o'qitilgan transformator neyron tarmoqlaridir. Matn odatda birgalikda ko'riladigan belgilar ketma-ketligi bo'lgan "shakllar" ga bo'linadi, masalan: `["Div", "ided", "up", "like", "this", ".] va tokenlarga raqam beriladi, past raqamlar ko'proq uchraydi: `[24095, 1384, 510, 588, 428, 13] ` Tarmoq "o'qitish" jarayonida ushbu raqamlarning belgilangan uzunlik ketma-ketligi bilan qayta-qayta oziqlantiriladi. Neyron tarmoqni o'qitish odatda matritsa ko'paytirishlar zanjiridan iborat bo'lib, u erda ba'zi chiqish bosqichidagi raqamlar va ushbu bosqichdagi ba'zi "og'irliklar" birlashtirilgan
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence