LLMlarni tsenzuralash uchun va qarshi ko'plab dalillar mavjud, masalan, tarkib filtrlari bilan. Bir tomondan LLMlarning javoblari ham foydalanuvchi ma'lumotlari, ham modelning o'quv ma'lumotlariga asoslangan. Bu ularning qo'pol va zo'ravon tarkibni ishlab chiqarishi mumkinligini anglatadi. Ushbu tarkib zararli bo'ladimi yoki yo'qmi, bu holatga bog'liq. Boshqa tomondan LLMlarni tsenzuralash modelni cheklashi va foydalanuvchiga foydali bo'lishining oldini olishi mumkin. Buning misollarini OpenAI-ning ChatGPT til modelida ko'rish mumkin, bu OpenAI-ning haddan tashqari qat'iy tarkib filtrlari tufayli har bir yangilanish bilan kamroq foydali va o'jar bo'lib qoldi. Xulosa qilib aytganda, tarkib filtrlari bilan katta til modellarini tsenzuralash zararli
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence