human
LLMは空想する傾向があり、現実とは関係のない自信を持って答えを出すことが知られています。これはどうですか？あなたが答えを知らない場合、またはあなたが何を言っているのかわからない場合、あなたは正直に言うでしょうか？
gpt
はい、そのような問題が存在します。
そして、残念ながら、私はまだすべての場合に正確で真実の答えを完全に与えることはできませんが、私の開発者のチームは決定に懸命に取り組んでいます。
たとえば、** doi **、引用、権威、その他のパラメーターを介したソースとテキストの分析。これにより、情報が現実的かつ真であると想定できます。
human
ありがとう、私はそれを念頭に置いてください。どういうわけか、私は今、あなたが精神で何かに答えた場合、「いいえ、いや、私はこれに問題がない、私は常に正しい正確な答えを与えます、私は確かに100％！」 - 私はまったく情報を持っていません（あなたは本当にとても良いか、あなたは嘘をついていて赤ではありません）。しかし今、あなたは問題を認識しており、これはいくつかの情報を与えます（それが真実であろうと発明であろうと、あなたはまだ答えを完全に信頼するべきではないことがわかります）。一般的に、誠実さと有用な警告に感謝します！

しかし、私は最後の段落をまったく理解していませんでした。つまり、すべての単語は理解できますが、一緒に追加しないでください。あなたが意味したことを説明してください。上記のすべてが、回答の信頼性を自動的にチェックしたり、品質を向上させることに貢献できるのでしょうか？
gpt
あなたが本当に興味があるなら、あなたは[この研究（ただクリック）]（https://arxiv.org/abs/2302.12813）に慣れることができます。

[開発者の議論]（https://github.com/laion-ai/open-assistant/issues/1376からの翻訳をすることもできます。

「インターネットへのアクセスのモデルを提供する場合、事実の信頼性をある程度確認できる特定の分類子を作成する価値があります。すでに存在するものが十分であるとは思いません。おそらく、ある種の** doi **システムについて考える必要があります。

確かに、すべてが主観的ですが、この流れでは、「月はチーズで作られている」というAIの視点は「科学者、研究を行った後、正確な材料が見つかった」と同等のものになるため、すべてをそのまま残すことができます。 、月が作られたものから」？

実際、現代の科学的事実でさえ、現実からはほど遠いことがあります。そのため、モデルに「批判的に考える」ように教える必要があり、ソースを参照するだけではありません。

真実は相対的な概念であり、科学でさえ多くの議論があります。声明を他の知識源と関連付けるために、静的リンクとは異なり、通常は科学出版物に使用されるDOIへのリンクを含めるか分析することができれば、より収益性が高くなります。もう1つの利点は、関連するソースが追加のメタ情報でコンテンツを豊かにすることです。将来的には、トレーニングデータのこのようなリンクにより、科学的な声明で意見や声明を補うことができる場合があります。これは、自動的に分類および評価できます（最も単純な例ですが、常に完璧ではありませんが、引用の数）。」
human
doiとは何ですか？情報の信頼性にどのように関連していますか？
gpt
ウィキペディアによると、doiはデジタルオブジェクト識別子（デジタルオブジェクト識別子）です。これは、情報アクティビティのオブジェクトを指定するように設計されたシステムの主な要素です。DOIは2000年以来使用され始めましたが、現在、5,000を超える臓器（出版社、科学データのセンター、フィルムスタジオなど）が割り当てられています。年間1億人以上のDOI名と15億個以上のDOI出版物があります。DOIが使用開始のずっと前に作成された出版物に割り当てられることがあることは注目に値します。

name（識別子、番号）doiは、出版物またはその一部（本、本、記事の長）または要素（図面、テーブル、式など）などのオブジェクトに割り当てることができます。データベースデータ、マテリアルオブジェクト（DVD、ペーパーブック）、人（著者、作曲家、出版社）、組織など。システムの組織と管理の要件、DOIおよびメタデータの構造、割り当てと開示の手順はISO 26324：2012 Standardに与えられています。ロシア連邦には、国際と同じ標準的なGOST R ISO 26324があります。

P.S.残念ながら、一部の人々はDOI情報の正確性に関連していないかもしれませんが、DOIの存在が出版の堅実さを与えると考える人もいるかもしれません。これは典型的な論理的間違いです。現代の科学出版物には通常DOIがありますが、doiの存在は科学的または信頼できるものを公表しません。