加州伯克利新成立的這家人工智能中心，要讓AI與人類價值觀一致 | 新智造

新智造按：本文作者Jeffrey Norris ，來源UC Berkeley，由新智造獨家編譯，未經許可拒絕轉載！

當我們所處的世界自動化程度越來越高時，如何讓人工智能和機器人與我們和諧共處？加州大學伯克利分校的答案是：他們將于本周成立一家新的人工智能中心，探索如何讓機器人與人類和諧共處。據悉，該中心主任將由AI專家Stuart Russell擔任，Russell是伯克利的電機工程和電腦科學教授，他擁有Smith-Zadeh工程學講座教授頭銜，也是《人工智能：一種現代的方法》的合作者。這本書是人工智能領域的標桿，它提倡將人類的價值觀融入AI設計中去。

據了解，這一中心高手如云，科研實力雄厚，其中包括來自伯克利分校的Pieter Abbeel , Anca Dragan和認知科學家Tom Griffiths，康奈爾大學的計算機科學家Bart Selman 和Joseph Halpern，密歇根大學的AI專家Michael Wellman和Satinder Singh Baveja。Russell表示，未來希望有來自經濟學、哲學和其他社會科學領域的專家加盟，而這個研究中心的主要目標是確保AI系統對使人類社會受益。另外，中心獲得了來自Open Philanthropy Project的550萬啟動資金，同時還獲得了Leverhulme Trust和 Future of Life Institute的研究贊助金。

Russel以專家的姿態，迅速瓦解了人們對科幻大片中有感知的、邪惡的機器人可能產生的威脅。他認為，我們現在在AI、機器人、控制理論和運籌研究領域研發的機器人，完全出自人類之手。如果你讓家用機器人清理浴缸，它或許會像穿《戴帽子的貓》中的貓那樣，不知道一件干凈的白裙子的價值比干凈的浴缸大，從而——用媽媽的白裙子去擦拭浴缸。也就是說，目前，AI的設計沒有與人類的價值觀達成一致。而這個研究中心會用最先進的AI系統，為數百億人提供必要的服務。他還表示，“AI系統必須受人掌控，對行為要有明確的限制，盡管它們最終可能會擁有一些人類無法企及的能力?！?/p>

目前，Russell和其他專家正在研發的是逆向增強學習，在這個過程中機器人會通過觀察人類的行為，學習人類的價值觀。比如，通過觀察人們早上起床的痛苦以及起床后費勁千辛萬苦做一杯拿鐵，機器人會認識到對人而言，清晨的一杯咖啡存在的意義。

“在算法中直接植入某些價值觀是萬萬不可取的，”Russell說，“機器人要通過觀察學習人類的價值觀。除了觀察外，閱讀也是個重要的途徑。提供給機器人的所有文字都是關于人類如何做事以及其他人的看法?！?/p>

然而，Russel和他的同事們都知道，在AI領域，他們依然任重道遠?！叭藗冇蟹N各種不同的價值觀，因此如果要將所有價值觀都實現，是無法做到的，”他承認?！安煌膬r值觀促使機器人嘗試理解我們希望它們做的事，并學會在個體之間斡旋?！?/p>

另外，Russel最近寫了篇文章，叫《它們會讓我們成為更好的自己嗎》。他于文中得出的結論是：“AI將與人類價值觀達成一致，而這個過程會讓我們對自己的所作所為產生更好認知。另外，我們或許應該認識到我們與來自其他文化背景的人們存在更多的相似之處?！?/p>

via UC Berkeley

新智造為雷鋒網(搜索“雷鋒網”公眾號關注)旗下專注于機器人的公眾號，我們關注機器人的現狀與未來，以及與機器人結合的相關產業。感興趣的朋友可添加微信號AIRobotics，或是直接掃描下方二維碼進行關注！

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。