Invece, dovremmo creare un'IA che usa la sua intelligenza per imparare a cosa diamo valore, e con un sistema motivazionale concepito per perseguire i nostri valori, o eseguire azioni che sa che approveremmo.
În loc de asta, ar trebui să creăm o I.A. ce-și folosește propria inteligență pentru a ne învăța valorile, să fie motivată să ne urmeze valorile sau să facă acțiuni la care se poate aștepta să aibă aprobarea noastră.