私は、人間のフィードバックと評価ループが、差別者の役割を果たさなかった他の人間のための壁のある庭を常に構成することを心配しています。差別を任された人間は、偏りの少ないモデルの生産につながる新しい生産スペースを受け入れることにどのようにだまされますか？これには、モデル全体を繰り返し再評価して再訓練する必要がありますか、それともよりモジュール式アプローチがありますか？
I am concerned that a human feedback and evaluation loop will always constitute a walled garden for other humans who did not get to play the part of discriminator. How can humans tasked with discrimination be fooled into accepting a novel output space that would lead to the production of a less biased model? Would this require relabeling and retraining the entire model iteratively or is there a more modular approach?