Tartışmalı örneklerin bir makine öğrenimi modelinin performansını nasıl azaltabileceğini açıklayın.
Saldırgan örnekler, modelin performansını düşürmek için tasarlanmış bir makine öğrenimi modelinin girdileridir. Bu örnekler genellikle, insanlar için "görünmez" olan ancak modelin bozulmasına neden olan girdileri test etmek için küçük bozulmalar eklenerek oluşturulur. yanlış sınıflandırır veya yanlış çıktı üretir.Bunun nedeni, modelin bu örnekler üzerinde eğitilmemesi ve bu nedenle bunları yanlış olarak tanımlayamamasıdır.Sonuç olarak, modelin performansını kasıtlı olarak düşürmek için rakip örnekler kullanılabilir. 