قيمنا التي يتعين على الذكاء الصناعي أن يتوافق معها، وليس مجرد السياق الشائع، مثل أينما نتحقق بسهولة من تصرف الذكاء الصناعي، ولكن في كافة السياقات الجديدة التي قد يواجهها الذكاء الصناعي في المستقبل المحتوم.
The values that the A.I. has need to match ours, not just in the familiar context, like where we can easily check how the A.I. behaves, but also in all novel contexts that the A.I. might encounter in the indefinite future.
ค่าที่ A.I. ต้องตรงกับของเรา ไม่ใช่แค่ในบริบทที่คุ้นเคย เช่น ที่เราตรวจสอบได้ง่ายว่า A.I. พฤติกรรม แต่ยังอยู่ในบริบทใหม่ทั้งหมดที่ A.I. อาจต้องพบเจอในอนาคตอันไม่มีกำหนด