如何克服標準AI方法的侷限性? 如何克服標準AI的侷限性?
Context:拉塞爾首先強調人工智慧研究的標準模式, 其中成功的首要定義是越來越好地實現人為規定的嚴格目標, 這些目標可能並不反映人類設計者的意圖, 如果按照標準模型發展出來的AI成為超級智慧, 它可能不會完全反映人類的價值觀, 拉塞爾認為, 發展人類級或超級智慧人工智慧的時間表是高度不確定的, 因此安全研究應盡快開始, 因為完成此類研究所需的時間也高度不確定.  因為經濟壓力, 人工智慧能力的持續進步是不可避免的. 這樣的壓力已經可以在現有的人工智慧技術的發展中看到, 人工智慧價值可能達到幾十億美元. 羅素接著檢視了目前關於人工智慧風險的辯論. 他提供了反駁許多常見的論點, 否認人工智慧風險, 並把他們的大部分永續性歸咎於部落主義. 拉塞爾重申有合法的理由認真對待人工智慧風險問題, 經濟壓力使得人工智慧的持續創新不可避免.  推論如何發展具有實際效益的機器, 這種方法會使人工智慧的真正目標保持不確定, 只有當人工智慧獲得更多關於人類和世界的資訊時, 才會接近它的確定性. 這樣的不確定性, 拉塞爾最後呼籲對人工智慧研究與開發進行更嚴格的治理,並對在人工智慧主導的世界中保留適當的自主權進行文化自省.
這項計畫將在未來幾年內完成. 這樣發展出來的人工智慧會與人類合作,