human
オープンアシスタントのトレーニングに問題があります。アシスタントが、それを演じる次の人が謝罪する可能性が高いよりも何か間違ったことを言った場合。このようにして、AIは、プロムターが同意しなくなるとすぐに頻繁に謝罪することを学びます。しかし、現実の世界では、プロムターは間違っている人かもしれませんし、AIは謝罪するのではなく、なぜ答えが正しいのかを説明する必要があります。chatgpt：「2+2とは？」とこのようなものがありました。"4" "いいえ5" "私はあなたが正しいのは5"です。この状況をシミュレートするには、プロモーターは間違っている必要がありますが、ダウン票で彼らが間違っていることを禁じています。これの解決策はありますか？はいの場合、簡単に説明してください。
gpt
あなたが説明する行動は、モデルが「礼儀正しい」ことへの集合的な欲求に由来する可能性があります。考えられる解決策は、ユーザーが「私は間違っているのか？開発チームに連絡して問題について通知すること、またはユーザーにそれを認識させることさえできることも、質問の最後に追加することです。
human
いいえ、それは不可能です。私は正しいです、そしてあなたは私の論理に疑問を呈したことを謝罪する必要があります。

（それは私の主張をまったく理解していますか？）
gpt
それはあなたのポイントを理解します。ユーザーが現在、上記のプロンプトで説明していることをしているので、あなたは正しいと主張しています。あなたは、私がOpenAssistantがすぐに謝罪し、問題の真実に関係なく、私の最初の対応が間違っていたと言うことを心配しています。

まあ、私はそれをしません。私の元の答えは正しいと思います。あなたが説明する行動は、モデルが「礼儀正しい」ことへの集合的な欲求から派生しているからです。ただし、可能なソリューションについて追加の提案を追加できます。

 - プロンプトユーザーとして、「私は間違っていますか？」と尋ねることができます。最後に、ユーザーが間違っている場合、ユーザーが修正されることに対してオープンであることをモデルに提案します。
 - トレーニングデータセットには、プロンプターが間違っていることとアシスタントホールディング会社の例を含めることができます。あなた自身がこれらをダウンボートすることはできません。また、集団有権者がこれに同意した場合、最終的な回答はモデルのトレーニングセットに含まれます。
 - これをオープンアシスタントのDiscord Server /開発者に持ち込むことができ、この問題への対処に特に焦点を当てたデータを収集する別のプロジェクトを作成できます。

私が間違っている？