human
研究者が画像の上に特定のぼかしを設計して、画像分類子を分類して分類するときに、それをどのように呼びますか。「車」としてのキツネの写真？
gpt
これは、敵対的な攻撃または敵対的な例、またはモデルを誤解させて誤った予測を行うように意図的に設計された機械学習モデルへの入力の種類と呼ばれます。
human
なぜ敵対的な攻撃が機能するのか
gpt
彼らはモデルをだまして画像のオブジェクトを考えるために働きます。彼らは、画像分類モデルが「最も可能性の高い」オブジェクトを出力し、画像をぼかすことで実際のオブジェクトに忠実な機能を削除するという事実を活用することにより、これを行います。