human
研究者が画像の上に特定のぼかしを設計して、画像分類子を分類して分類するときに、それをどのように呼びますか。「車」としてのキツネの写真？
gpt
これは、敵対的な攻撃または敵対的な例、またはモデルを誤解させて誤った予測を行うように意図的に設計された機械学習モデルへの入力の種類と呼ばれます。
human
なぜ敵対的な攻撃が機能するのか
gpt
敵対的な攻撃は、最も一般的に試行錯誤システムで機能します。入力、たとえばパンダの画像が、分類器をだまして画像が実際にペンギンのようなものであると考えるために、それにほとんど知覚できないノイズが追加されている場合。ノイズを追加するこのプロセスは、ノイズの配置が非常に正確になるまで繰り返されるため、分類器は元のパンダが実際にペンギンであると考えるようになります。

これは、分類子が通常、複雑な数値ベクトルとその変換を使用して、それが見ているものを理解するという事実を活用しています。したがって、入力に加えられたわずかな変更は、指数関数的に大きな結果や誤った分類さえもつながる可能性があります。