human
AIの安全性におけるいくつかの重要なトピックは何ですか。たとえば、一般的なAIが達成された場合、人間が人間の価値と安全性を無視して、AIがどのように犠牲を払って目標を達成しないようにすることができますか。AIを安全に、そしてAIが人間や地球の環境に危害を加えるリスクを伴わずに、生産的な技術の進歩を安全に達成するために、どのように活用できますか？
gpt
一般的なAIが存在する世界のAI安全性のトピックは、非常に重要ですが、非常に投機的なトピックでもあります。当時は、説明可能なAIが現在のAIモデルが何をしているのかを理解するために重要であると言えます。
将来のリスクなしに将来のAIを活用する方法を知ることは、答えられないほど不明です。
human
私はそれがあまりにも不確実であることに同意しますが、私たちは保護手段の準備を始めることができます。たとえば、著者のアイザック・アシモフは、彼の作品でロボット工学の3つの法則を提案しましたが、それらには広く探求された制限があります。一般的なAIで人類がより安全に感じるために、どれを提案しますか？
gpt
1つの例は、2017年にAIの研究者と業界の専門家のグループによって開発された「Asilomar AI原則」です。

これらの原則は、AIの安全で倫理的な発展と展開のためのフレームワークを提供すると同時に、開発プロセスにおける透明性と説明責任を促進することを目的としています。

1.研究目標：AI研究の目標は、無向性の知性ではなく、有益な知性を作成することです。

2.研究資金：AIへの投資には、その有益な使用を確保するための研究のための資金を伴うべきです。

3.サイエンスポリシーリンク：AIの研究者と政策立案者との間に建設的で健全な交換が必要です。

4.自律兵器：致命的な自律兵器の軍拡競争は避けるべきです。

5.リスク：AIシステム、特に壊滅的または実存的なリスクによってもたらされるリスクは、予想される影響に見合った計画と緩和の取り組みの対象となる必要があります。

6.倫理的および社会的影響：AIシステムは、社会的および法的規範と互換性のある方法で設計および運用する必要があります。

7.値アライメント：AIシステムは、人間の価値と倫理原則に沿っている必要があります。

8.人間のコントロール：人間は、意思決定をAIシステムに委任する方法とかどうかを選択する必要があります。

9.透明性：重要な決定にAIシステムが関与することは透明性があり、監査と説明責任の対象となるはずです。

10.プライバシー：AIシステムは、プライバシーとセキュリティを保護するように設計する必要があります。