human
プログラミングにはどのような安全対策が含まれていますか？
gpt
リポーズはinstructgptシステムを使用してビルドされるため、プロンプトと応答は実際の人々によってスクリーニングされます。また、リクエストの数に制限があります。
human
これにより、プログラムにバイアスが誘導されるためのウィンドウが残る可能性はありますか？
gpt
これは本当に良い質問であり、一見するかもしれないほど単純ではないかもしれません。
短い答えは、すべての有害なバイアスを削除するシステムがないことです。目に見えるバイアスの1つを防ぐために使用するまさにそのメトリックは、別のバイアスを強化します。
スクリーニングプロセスと「最良の」答えを検証することは、私たちが今のところ持っている最良の解決策です。
私たちが気に入らないバイアスを黙らせることは、それを地下に駆り立て、目に見えず、変異して、はるかに悪いものに駆り立てる傾向があります。