INT4 kvantlashtirish - bu neyron tarmoqlarning og'irlik va faolliklarini butun sonlar to'plamiga kamaytirish usuli. INT4 kvantlashtirish usuli og'irlik va faolliklarni ifodalash uchun 4 bitli butun sonlar qiymatidan foydalanadi, bu model aniqligi va model hajmi o'rtasida yaxshi muvozanatni ta'minlaydi. Kvantlashtirish jarayoni har bir og'irlik yoki faollik uchun qiymatlarni belgilangan miqdordagi kvantlashtirish darajalariga bo'lishni va keyin har bir qiymatni eng yaqin kvantlashtirish darajasiga ko'rsatishni o'z ichiga oladi. Bu og'irlik va faolliklarning aniqligini kamaytiradi, shuningdek, neyron tarmoqni saqlash va qayta ishlash uchun zarur bo'lgan xotira va hisoblash resurslari miqdorini kamaytiradi. INT4 kvantlashtirish, ayniqsa, xotira va qayta ishlash quvvati cheklangan mobil qur
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence