human
研究者が画像の上に特定のぼかしを設計して、画像分類子を分類して分類するときに、それをどのように呼びますか。「車」としてのキツネの写真？
gpt
それは敵対的な攻撃です。簡単な言葉では、「攻撃者」という名前のAIと「犠牲者」という名前のAIを考えると、攻撃者の人工知能は、「被害者」が可能な限り画像を分類する方法を変更すると同時に、可能な限り少ないイメージを変更するように訓練されています。
human
GPTのような大規模な言語モデル（LLM）に対する敵対的な攻撃の例を挙げてください。
gpt
はい、GPTのような大規模な言語モデル（LLM）に対する敵対的な攻撃の例です。

攻撃者は、慎重に作成された単語またはフレーズのシーケンスを入力テキストに追加することができ、LLMは意図したものとは異なるテキストを生成します。たとえば、攻撃者は政治候補者に関するニュース記事にいくつかの単語やフレーズを追加することができ、LLMは候補者を否定的な観点から提示するテキストを生成させます。このタイプの敵対的な攻撃は、「テキスト襲撃攻撃」として知られています。

一般に、LLMSに対する敵対的な攻撃により、モデルが偏りがある、誤解を招く、または間違ったテキストを生成することを目的としています。これらの攻撃は、特にモデルがニュース、政治、金融の分野などの現実世界の結果をもたらす決定を下すために使用されるアプリケーションで、深刻な結果をもたらす可能性があります。