Invece, dovremmo creare un'IA che usa la sua intelligenza per imparare a cosa diamo valore, e con un sistema motivazionale concepito per perseguire i nostri valori, o eseguire azioni che sa che approveremmo.
We moeten een AI creëren die haar intelligentie gebruikt om te leren wat wij waarderen, en haar motivatiesysteem zo construeren dat ze gemotiveerd is om onze waarden na te streven of om te doen wat wij zouden goedkeuren.