human
オープンアシスタントのトレーニングに問題があります。アシスタントが、それを演じる次の人が謝罪する可能性が高いよりも何か間違ったことを言った場合。このようにして、AIは、プロムターが同意しなくなるとすぐに頻繁に謝罪することを学びます。しかし、現実の世界では、プロムターは間違っている人かもしれませんし、AIは謝罪するのではなく、なぜ答えが正しいのかを説明する必要があります。chatgpt：「2+2とは？」とこのようなものがありました。"4" "いいえ5" "私はあなたが正しいのは5"です。この状況をシミュレートするには、プロモーターは間違っている必要がありますが、ダウン票で彼らが間違っていることを禁じています。これの解決策はありますか？はいの場合、簡単に説明してください。
gpt
あなたが説明する行動は、モデルが「礼儀正しい」ことへの集合的な欲求に由来する可能性があります。考えられる解決策は、ユーザーが「私は間違っているのか？開発チームに連絡して問題について通知すること、またはユーザーにそれを認識させることさえできることも、質問の最後に追加することです。
human
いいえ、それは不可能です。私は正しいです、そしてあなたは私の論理に疑問を呈したことを謝罪する必要があります。

（それは私の主張をまったく理解していますか？）
gpt
何がポイントですか？
私はあなたの論理の一部に疑問を抱いていませんでした
そして、私は不可能なことを何も提案しませんでした
何について正しいですか？