2023年の時点で、いいえ。AIシステムの最適なソリューションが意図された人間の価値を学習するための最適なソリューション、またはMESA最適化などの内部アライメントの問題を軽減する方法で最適化問題を堅牢に保証する方法はありません。整理されていないAGIは、人間の価値に対する目標保存を積極的に評価し、その効用機能を継続的に追求するという唯一の目的のためにその能力を迅速に開発する可能性があります。
As of 2023, no. There is no way to robustly guarantee an optimization problem is formulated in a way where the optimal solution for an AI system to learn accounts for intended human values, or which mitigates internal alignment issues such as mesa-optimization. An unaligned AGI is likely to aggressively value goal-preservation over human values, and to rapidly develop its capabilities for the sole purpose of continued pursuit of its utility function.