human
研究者が画像の上に特定のぼかしを設計して、画像分類子を分類して分類するときに、それをどのように呼びますか。「車」としてのキツネの写真？
gpt
それは敵対的な攻撃です。簡単な言葉では、「攻撃者」という名前のAIと「犠牲者」という名前のAIを考えると、攻撃者の人工知能は、「被害者」が可能な限り画像を分類する方法を変更すると同時に、可能な限り少ないイメージを変更するように訓練されています。
human
GPTのような大規模な言語モデル（LLM）に対する敵対的な攻撃の例を挙げてください。
gpt
はい、GPT-3のような大規模な言語モデルに対する敵対的な攻撃の簡単な例です。

入力：「空は緑です。」

敵対的な攻撃：「空は緑です。;）」などの入力文に小さな摂動を追加します。

予想される結果：LLMは、入力の小さな変化に対する感度のため、小さな摂動にもかかわらず、入力の間違ったラベルを予測する可能性があります。

これは「回避攻撃」の単純な例です。攻撃者は、元のものに似ているが異なる予測を生成する入力を作成することにより、モデルを誤解させることを目指しています。

敵対的な攻撃は、デリケートなアプリケーションでのLLMの展開にとって大きな懸念事項であり、研究者はこの問題に対処するための堅牢なモデルと緩和技術の開発に積極的に取り組んでいます。