Adversarial hujumlar ko'pincha sinov va xato tizimida ishlaydi. Qayerda kirish, masalan, panda tasviri, tasniflovchiga rasm aslida boshqa narsa, masalan, pingvin deb o'ylash uchun uni aldash uchun unga deyarli sezilmaydigan shovqin qo'shilgan. Shovqin qo'shish jarayoni shovqinning joylashuvi juda aniq bo'lguncha takrorlanadi, bu tasniflovchiga asl panda aslida pingvin deb o'ylashga sabab bo'ladi. Bu tasnifchilar odatda murakkab raqamli vektorlar va ularning o'zgarishlarini nimaga qarayotganini tushunish uchun ishlatadigan faktdan foydalanadi. Shunday qilib, kirishdagi har qanday ozgartishlar eksponentsion katta oqibatlarga va hatto noto'g'ri toifaga olib kelishi mumkin.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence