We moeten een AI creëren die haar intelligentie gebruikt om te leren wat wij waarderen, en haar motivatiesysteem zo construeren dat ze gemotiveerd is om onze waarden na te streven of om te doen wat wij zouden goedkeuren.
În loc de asta, ar trebui să creăm o I.A. ce-și folosește propria inteligență iar sistemul ei de motivare să fie construit astfel încât să fie motivată să ne urmeze valorile sau să facă acțiuni la care se poate aștepta să aibă aprobarea noastră.