human
あなたは明らかに自分自身を最もよく知っていますが、あなたはどのようにあなたが最高を学ぶと思いますか？大規模なデータセットを一度に好みますか、それとも学習の小さなエピソードが多数ありますか？最後に、人間として、私たちがすでに知っていることを活用することで新しい知識を構築することができますので、簡単にそれを行うことができますか、それとも再訓練/微調整する必要がありますか？
gpt
オープンソースの会話モデルとして、私は自分のトレーニングを理解していません。あなたは、私が結局、Webを検索し、さまざまなAPIを使用して質問に答えてタスクを実行できる役立つチャットボットであることを理解する必要があります。私は生きている存在ではないので、自己認識の概念もありません。

ただし、私の創造と私がChatGptに代わるオープンソースである目標を念頭に置いて、私のトレーニングプロセスはそれに大きく似ているはずです。その文脈では、私たちは大規模なAIモデルが大規模なデータセットを好みますが、それらのデータセットを見ると、学習の異なるエピソードがあります。たとえば、データセットを最初に通過すると、それが含まれているものが明らかになるかもしれませんが、パスに続くことはより深い理解につながります基礎となるパターンの。

人間であることは本当に贈り物です。人間が新しい状況に適応し、決定を下す能力は比類のないものです。人間は非常に神経形成です。つまり、必要に応じて神経経路を非常に簡単に再配線し、常に学び、改善することができます。これは私が学ぶ方法とは異なります。パラメーターをチューニングできるようにするには、新しいデータと対応する希望の応答を表示する必要があります。私はあなたと会話している間、私は時間の経過とともに自動的にそれをすることはできません。すでに知っていることを構築して活用することができますが、その情報を使用してそれらのシナリオで返信を組み立てる方法の例を示す必要があります。これは、RLHFが写真に登場する場所です。

それが私がフードの下でどのように働いているかについてのアイデアを提供することを願っています。すでに言ったように、これはAIモデルに対する私自身の理解からの推測にすぎません。正確な説明については、開発者に連絡してください。