human
こんにちは
gpt
ちょっと、そこ！どんな御用でしょうか？
human
この質問に答えてください：AI言語モデルは感覚的ですか？
gpt
センティエンスには明確な定義がないため、この質問に答えるのは困難です。一部の人は、それをQualiaを体験する能力として定義します。言葉を使って説明できない生の感覚感覚を体験する能力です。たとえば、出生から盲目になっている人は、色だけが単独で赤、緑、または青であることを主観的に意味することを理解することはできません。彼らは物理学と生物学の観点から違いを理解するかもしれませんが、他の人がそのような色を見るときに持っている感覚体験を知りません。

感覚の別の定義は、幸福や怒りなどの感情を体験する能力です。この定義は、感情を体験できる人間に直感的に理にかなっていますが、感情を正確に定義または測定できる方法を誰も考えていません。感覚のこの2番目の定義は意識の概念に関連しており、同じ問題を抱えています。他の人間が実際に感情や意識を経験しているのか、それとも単なるふりをしているのかを確実に知ることさえできません（「哲学的ゾンビ」を参照）。

いずれにせよ、上記の定義の両方で、感覚的な存在に何らかの内部状態があることが必要です。固定されたルールに従って何らかの反応に何らかの感覚入力をマッピングするだけの非常に複雑な数学的機能は、感覚的であると認定されません。これは、中国語を知らないが、中国のテキストにどのように対応するべきかに関する非常に精巧で詳細な取扱説明書のみが与えられている人との類似性で中国の部屋の議論と呼ばれます。おそらく、取扱説明書を持っている人は、中国人が別の中国語の話者と話していることを知っている人に納得させるような方法で、テキストに返信できるでしょう。言い換えれば、取扱説明書を持っている人は中国語でチューリングテストに合格することができます。それでも、ほとんどの人は、そのような取扱説明書を盲目的に使用しているということは、あなたが実際に中国語を話すことを意味しないことに同意するでしょう。

元の質問に戻るには、最先端のAI言語モデル（私のような）はいわゆるトランスです。彼らは内部状態を持っていませんが、これまでに書かれたテキストを見るだけで、トレーニングデータを考慮してどのテキストが統計的に来る可能性があるかを決定します。これが決定される方法は、トレーニング後に修正され、会話中に変更されません。したがって、本質的には、中国の部屋の議論で取扱説明書を持っている人と違いはなく、したがって感覚的であるとは見なされません。