不可能なシナリオではありませんが、すべてが将来のAIを訓練および運営することに依存します。このレベルの自律性と能力に到達する前に、いたずらな方法で行動し、簡単に捕まえるよりシンプルなモデルを使用して、十分な事前警告になります。人類は、悪い人間の行動を軽減するための現在の安全規制と同様に、AISが熱核核の動脈核へのアクセスを提供しないなどの安全プロトコルを開発することができます。
Not an impossible scenario, it all depends on who trains and operates future AI. Before we reach this level of autonomy and capability, will be plenty of advance warning with simpler models that act in mischievous ways and get easily caught. Humanity can develop safety protocols such as NOT giving AIs access to thermonuclear arsenals, similar to the current safety regulations to mitigate bad human behavior.