Ha, mana GPT kabi katta til modeliga qarshi qarshilik hujumiga misol: Hujumchi kirish matniga so'zlar yoki iboralarning ehtiyotkorlik bilan ishlab chiqilgan ketma-ketligini qo'shishi mumkin, bu esa LLMni mo'ljallanganidan farq qiladigan matnni yaratishga majbur qiladi. Masalan, hujumchi siyosiy nomzod to'g'risidagi yangilik maqolasiga bir nechta so'zlar yoki iboralarni qo'shishi mumkin, bu esa LLMni nomzodni salbiy tarzda taqdim etadigan matnni yaratishga majbur qiladi. Bunday qarshilik hujumi "matn zaharlash hujumi" deb nomlanadi. Umuman olganda, LLMlarga qarshilik hujumlari modelni tarafkash, noto'g'ri yoki noto'g'ri matn yaratishga majbur qiladi. Ushbu hujumlar jiddiy oqibatlarga olib kelishi mumkin, ayniqsa modellar real dunyodagi oqibatlarga
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence