人事難搞！4年計畫1年就拆夥 OpenAI解散超對齊團隊
鉅亨網編譯許家華 2024-05-18 13:55
《CNBC》知情人士周五 (17 日) 透露，在原定 4 年期的「超對齊計畫 (Superalignment)」兩位關鍵團隊領導人離職後，OpenAI 解散了這個專注於人工智慧長期風險的團隊，該團隊組建僅一年，部分成員將被重新分配至公司內其他團隊，其餘則已全數離職。
OpenAI 公司證實，該公司不再將所謂的「超對齊」團隊作為一個獨立的實體，而是將該團隊更深入地整合到其研究工作中，以幫助公司實現其安全目標。
去年 7 月 OpenAI 宣布成立「超對齊團隊」，其策略是「以 AI 防堵 AI」，打造一個擁有人類智慧水準的自動對齊 AI，然後就能夠透過大量的算力進行自動對齊，確保 AI 與人類的意圖與利益是齊平，以免遭 AI 取代。
該團隊由 OpenAI 的共同創辦人兼首席科學家 Ilya Sutskever，以及本就負責 AI 對齊的機器學習專家 Jan Leike 兩人領軍，但幾天前這兩位領導人宣布離職。
上個月，超對齊團隊兩名研究人員因洩漏公司機密而被解僱，另一名成員也在 2 月離開。 到了本周二，Ilya 在社群平台 X 上宣布，他將在近十年後離開公司，相信在執行長 Sam Altman 等人的領導下，能夠打造出既安全又有益的通用人工智慧 。 Ilya 先前曾與 Sam Altman 就 AI 的發展速度發生衝突。
隨後，超級對齊團隊另一位負責人 Jan Leike 也宣布離職，知情人士聲稱，對 Leike 來說，Ilya 的退出導致分歧嚴重到了無法調和的地步。
Leike 周五發布聲明稱，超對齊團隊一直在努力爭取資源。「過去的幾個月裡，我的團隊一直在逆風航行。有時連算力資源都難取得，而且越來越難以完成這項關鍵的研究。」當初 OpenAI 計劃 4 年內將其 20% 的運算能力投入到該計畫。
他稱離職是因為自己與 OpenAI 在公司的「核心優先事項」上存在一系列分歧，他認為公司不夠關注 AI 相關的安全措施。
OpenAI 周二宣布，公司聯合創始人 JohnSchulman 將成為未來對齊工作的科學負責人。另外，OpenAI 在一篇部落格文章中表示，已任命研究總監 Jakub Pachocki 接替 Ilya 擔任首席科學家。
下一篇