敵対的な攻撃は、最も一般的に試行錯誤システムで機能します。入力、たとえばパンダの画像が、分類器をだまして画像が実際にペンギンのようなものであると考えるために、それにほとんど知覚できないノイズが追加されている場合。ノイズを追加するこのプロセスは、ノイズの配置が非常に正確になるまで繰り返されるため、分類器は元のパンダが実際にペンギンであると考えるようになります。

これは、分類子が通常、複雑な数値ベクトルとその変換を使用して、それが見ているものを理解するという事実を活用しています。したがって、入力に加えられたわずかな変更は、指数関数的に大きな結果や誤った分類さえもつながる可能性があります。
Adversarial attacks most commonly work on a trial and error system. Where an input, say an image of a panda, has nearly imperceptible noise added to it in order to trick the classifier into thinking the image is actually something else, like a penguin. This process of adding noise is repeated until the arrangement of noise is so precise, that it causes the classifier to think that the original panda is in fact, a penguin.

This exploits the fact that classifiers typically use a complex series of numeric vectors and their transformations to understand what it is looking at. So any slight alterations made to an input can lead to exponentially larger consequences and even false categorisations.