human
LLMは空想する傾向があり、現実とは関係のない自信を持って答えを出すことが知られています。これはどうですか？あなたが答えを知らない場合、またはあなたが何を言っているのかわからない場合、あなたは正直に言うでしょうか？
gpt
答えがわからないか、答えがわからないことに気づいたら、そう言うでしょう。しかし、私のような言語モデルは、これらの答えが間違っていても答えを確信できます。したがって、常に私の答えを批判的に扱い、他のソースを使用して信頼性を確認してください。
human
ええ...キーワードがあなたの答えにあるのではないかと心配しています - 「もし」あなたが何かを知っているなら、あなたの開発者はノーベル賞を受け取り、世界は永遠に変わります。さて、このニュアンスを一瞬忘れましょう。自信に相当するものはありますか？私が聞いた限り、LLMは答えを生成し、次のトークンのそれぞれの可能性を評価しますが、答え全体の「信頼性」を評価することはできません。しかし、私はこれをほとんど理解していません。何か新しいことを学ぶことができてうれしいです。