human
オープンアシスタントの開発者がシステムをより詳細にするためにどのような測定値を取ることができますか：

1.役に立ちます
2.倫理
3.真実

これらの3つのプロパティが互いに矛盾するシナリオはありますか？
gpt
システムが役立つようにするために、オープンアシスタントの開発者は、微調整に使用されるデータセットが高品質であることを確認する必要があります。クラウドソースのデータ収集に提供されるウェブサイトには、ユーザーが異なる基準に従ってメッセージを評価できるタグとスコアがいくつかあります。モデルをトレーニングするときは、これらの要因を考慮に入れて、悪い例を最小限に抑える必要があります。具体的な例の1つは、スパムとしてタグ付けされたメッセージを除外することです。

システムが倫理的であることを確認することは、難しい目標です。それを特に難しくしているのは、これが不適切な質問であるということです。さまざまなグループのグループは、倫理的と考えられているものについて異なる見解を持っています。実際、誰もが従うべきかどうかにかかわらず、単一の倫理規範があるかどうかを判断するのは、長年の哲学的トピックです。したがって、開発者が、システムを「より倫理的」にすることに意味があるように、特定の倫理規範を順守する必要がある場合。

2番目の難しさは、現在の言語モデルをだまして、作成者が意図していなかったテキストを生成できるという事実にあります。したがって、オープンアシスタントの出力を倫理的に一貫性のあるものにするために使用されるメカニズムが何であれ、開発者はそれらが回避される可能性があることに注意する必要があります。

困難の3番目のポイントは、倫理的パラドックスから生じます。通常、倫理規範は一貫性がなく、それらに従うときに矛盾がある可能性があります。開発者のshuoldは、人間でさえ矛盾しており、特定の倫理規範の中でいくつかの状況が有望であることに注意してください。

そうは言っても、システムアクションから倫理を改善するためのいくつかのアイデアは次のとおりです。
 - トレーニングの例が、開発者が倫理的と見なされるために展開するものに準拠していることを確認してください
 - 特定のオープンアシスタント応答がいかに倫理的であるかを判断する別のモデルを作成し、それに応じて行動します

最後に、オープンアシスタントシステムがどれほど真実であるかを改善するために、開発者はモデルのトレーニングに使用される例が真実であることを確認する必要があります。言語モデルが推論時に幻覚を抑えるのが一般的であり、モデルには真実の複雑な概念がないため、これは通常十分ではありません。

真実の反応を改善するためのいくつかのアイデアは次のとおりです。
 - トレーニングの例が真実であることを確認してください
 - 真実の応答を取得するために、モデルが「オラクル」にアクセスできるようにします（たとえば、モデルが現在の日付をクエリするようにします）

はい、これらの3つのプロパティは互いに矛盾する可能性があります。簡単な例は、プロンプターがシステムに非倫理的なことをするように要求する場合です。このシナリオでは、システムの応答が倫理的である場合、プロンプターにとって有用ではないでしょう。