Ha, GPT-3 kabi katta til modeliga qarshi qarshilik hujumiga oddiy misol: Kirish: "Osmon yashil". Qarshilik hujumi: Kirish jumlasiga "Osmon yashil. ;) " kabi kichik buzilishni qo'shing. Kutilgan natija: LLM, kichik buzilishga qaramay, kirishdagi kichik o'zgarishlarga sezgirligi tufayli, kirish uchun noto'g'ri yorliqni taxmin qilishi mumkin. Bu "qarish hujumi" ning oddiy misolidir, bu erda hujumchi asl nusxaga o'xshash, ammo boshqacha bashoratni ishlab chiqaradigan kirish orqali modelni adashtirishni maqsad qiladi. Qarshilik hujumlari sezgir LLMlarni dasturlarda joylashtirish uchun katta tashvishga sabab bo'ladi va tadqiqotchilar ushbu muammoni hal qilish uchun mustahkam modellar va yumshatish usullarini ishlab chiqish ustida faol
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence