0
“在這普通的一天，我用普通的釘釘，很普通地和同事視頻連線；打開普通的軟件，普通地購買生鮮；普通的AI在普通地檢測誰在發燒……”如果把紅遍全網的B站名曲《普通Disco》改編成2020版，或許就是這樣。
這種的日子放在十年前還很新鮮，現在確實只是“普通的一天”。
科技已經進入到我們生活的方方面面，正如支付寶首席AI科學家漆遠在好奇心圓桌派上說的那樣，人工智能正在變成數字經濟生活的基礎設施之一，智能化服務對社會的助力真實可見，更多變化在未來的五到十年時間里會大規模地發生。
AI該是什么樣子？在頂尖AI科學家漆遠和雨果獎知名科幻家郝景芳眼中，AI更像是一個在努力成長卻不夠成熟的孩子，它前進的步伐，取決于“原生家庭”指引的方向，也有無數的人在為AI的向陽而生而奮斗著。
昨天，各大直播網站發布了一場名為“好奇心科技”的圓桌對談。當一位科學家，一位科幻家，和一位B站人文類UP主，為人類與AI的將來聚到一起，他們在談些什么？
人們提起AI，會想到科幻電影里冰冷的機器人，會想到藏在手機里的Siri，也會想到在抗疫過程中的一系列AI應用。它進化飛快，時時帶給人驚喜，有時也帶去意外。
那在中國一流的科幻作家眼中，現在的AI是怎樣的？
《北京折疊》拿下雨果獎之后，郝景芳出版了以人與AI為主題的《人之彼岸》，把目光更多地投向AI的發展。她在圓桌現場強調，目前的AI在某一方面異常優秀，在其他方面卻不如小孩子，是一個“偏門的天才”。
正如她在《我們離超級人工智能到來還有多遠》一文中提到的那樣：
從某種程度上來說，人工智能目前就像電影《雨人》中那類自閉的孩子，一眼就數得清地上的牙簽，能心算極大數字的乘法，背得下來全世界的地圖，卻答不出有關自己的問題。它只懂研究每秒300盤的棋路，卻不知道“我正在下棋”這件事。
深耕人工智能領域數十年的漆遠有著類似的感受，他認為，現階段的AI更像是“一個嚴重偏科的孩子”。
支付寶首席AI科學家 達摩院金融智能負責人 漆遠
這種偏科首先表現在了跨領域、跨專業的學習上，它在某一知識領域會非常精通，但跳出這個領域就可能會有些傻。學圍棋和學英語，人可以同時學會，但一個已經學會下棋的神經網絡再去學英語，可能就丟失了原來的技能。
因此，多任務學習技術成為現在人工智能的方向之一，漆遠解釋稱，這就像是學過圍棋之后去學五子棋，二者背后有很多可以相互借鑒的地方，這種類似的任務就可以讓AI通過算法把不同任務間共通的和不同的自動學習出來，提升完成每個任務的能力。
郝景芳的另一個身份是童行學院的創始人，兒童教育經驗豐富的她笑稱這種“把相近學科之間共通的思維能力拎出來教給AI”的做法，像是人工智能界的“通識教育”。
AI的“偏科”，更體現在了“重數據學習、輕推理能力”上。
在郝景芳看來，AI通過大數據學會了如何找相關性，學會數學層面上的推理，但恰恰就不擅長與人類社會有關的推理。
假設現在有一個人被扇耳光了，在場其他人都會猜事發的原因，可能經常猜得八九不離，但AI未必猜得出來。因為像扇耳光的動作含義、雙方可能的關系，都屬于生活中積累下來的經驗，AI很難在這種生活情境中對日常的因果關系做出準確判斷。
漆遠也有同感。在他看來人工智能如今最突出的表現之一，其實是用海量數據“堆出來”的強大記憶力，達到某種程度上的“見多識廣、學識淵博”。它能在“見過”一萬張貓臉圖片之后，順利識別出新的貓臉，就是記憶力的體現；但在邏輯推理能力上有所欠缺。
“就像那種被高考機器慣出來的孩子，學習了大量知識點之后，做題很快，但缺乏常識和基礎的情商。”漆遠說。
電影《Her》的“女主角”被設定成AI，她在男主角身上習得了更多知識，進化迅速，最后離他而去。
AI誕生以來，這樣的焦慮被呈現在各種科幻作品里。本場圓桌的主持人，UP主“閃光少女斯斯”也由此拋出了一個“靈魂拷問”：
如果AI的發展速度超過人類了，它會拋棄我們嗎？
“（人與AI）應該是互惠共生的一種關系。”在郝景芳看來，這類似于動物與植物的關系，各自吐出二氧化碳和氧氣，實現碳循環；雙方在交互中可能會有一些小型沖突，但不會發生人類智能和人工智能的整體性沖突。
她接著開出了“新腦洞”：隨著腦機接口等技術的發展，人類將會看到自己的數字大腦不斷地與AI發生數據交換；比起AI實體化“沖入”現實世界，虛擬人格與AI在虛擬世界中頻繁交互，共生于數字世界，這是未來的50-100年間必然會發生的一件事情。
左：第74屆科幻雨果獎得主 童行學院創始人 郝景芳 右：女性人物紀實節目《閃光少女》創始人 斯斯
漆遠給出了更確定的答案：“這種（人工智能）俯視人類的感覺，在可見的未來里，我認為不會發生——人和機器會在一起，定義一個共同的未來。”
當我們必將進入人與AI共生的時代，AI會從那個“偏科”的孩子長成什么模樣？
在這兩位科學家和科幻家看來，人工智能正在成為數字化生活的基礎設施，挖掘數據背后的規律，產生價值，通過不同場景服務于，對社會的智能化改造也會在不遠的將來里大規模地發生，很多技術也在處在研發進行時。
郝景芳這樣描繪她心目中的未來人工智能服務：像是每天早上你走進辦公樓，大門識別到你了，通知三樓的咖啡機，等你到了三樓就有一杯咖啡可喝，也準備好了一系列服務，并不見得一定要有一個兩條腿的機器人在門口迎接你。
漆遠對AI成長趨勢的研判就更“技術宅”一些，他首先提到AI會從純數據驅動，變成數據和知識推理的“雙輪驅動”。
正如前文提到的那樣，AI的邏輯推斷“短板”會被補上，能力更加平衡，人類的知識經驗沉淀為大量規則，將與算法一起讓AI變得更有“常識”和“情商”，會成為接下來的主要發展方向之一。
其次，是從隱私保護出發，試圖在確保數據安全的同時產生數據價值。
用人的身體打個比方，DNA是一個人最隱私的數據，這甚至比長相（人臉數據）更隱私。如果要解決很多重大疾病，繞不開理解和研究DNA——但矛盾也同時出現：如何在保護隱私的情況下，能夠產生和分析這種基因和RNA的數據，來開發更好的藥品和疫苗？
如何平衡隱私保護和數據使用，人工智能學術界和工業界其實已經獲得了一些技術成果，隱私保護機器學習、共享智能、聯邦學習、安全多方計算等都與這一議題緊密相關。
支付寶AI就將共享智能技術，率先落地在業務敏感度頗高的金融風控場景。中和農信借此大幅度提高了風控性能，把原來傳統的線下模式轉為線上自動過審，大規模提升了風控能力，8個月累計放款31.9億，授信成功人數44萬。
這類技術的思路，就是在保證各方隱私的情況下，將他們的數據價值提取出來，打破數據孤島，產生數據融合的大價值。
它的運行原理可以用羊吃草來類比：機器學習模型是羊，數據是草。過去某種做法是，羊不動，草被購買到中心；更安全的做法是讓草不動，讓羊動，也就是說模型去不同的草場去訪問，草不出草場，也沒有人知道羊吃了哪些草，羊仍然能夠順利長大。
第三大發展方向，是AI需要更“皮實”，必須成長為經得起攻擊的博弈智能體。
2020年是黑天鵝的一年，在數字經濟進一步推進的同時，黑產猖獗，造假升級，deepfake和內容風險……抵御不同方向的風險，是AI大有作為的方向。在漆遠看來，不確定性正是這些風險爆發的關鍵之一，也是如今機器學習面臨的挑戰，
正如孩童長大成人，進入社會，要變得不再脆弱，任何一項技術在真正走向使用時也必須更可靠、更廣泛適用、更經得起打擊。而貝葉斯機器學習就是將不確定性和小概率事件的研究，和推理能力、理解能力結合到一起，實現對AI對抗攻防能力的提升。
漆遠所在的支付寶安全實驗室，開發了把博弈論和深度學習結合的智能攻防算法——這是世界上首次把深度學習引入博弈論，他們也借此在德州撲克小實驗達成世界領先的水平。
同時，紅藍攻防這種“左右手互搏”的形式也納入了支付寶安全實驗室的日常AI演練，讓系統在對抗和錯誤中學習成長，做到在對手“魔高一尺”的時候，讓自己的AI“道高一丈”。
這些正在發生的技術變革，又對“人機共生時代”意味著什么？
“AI就像是我們的朋友一樣，在幫助我們做判斷和輔助，成為了一個智能伙伴。”郝景芳提到，AI幫助大眾加固最基礎的“安全工事”，人機共生的前景會更開闊明亮。
對談的最后，漆遠與郝景芳談起了本場圓桌的名字：好奇心。
在他們眼中，好奇心是探索世界的初心，好奇心是探索過程中瘋狂運轉的大腦和釋放的多巴胺，它推著原始人向前進化，推著孩子去思考和學習，人類對自身和對所有外部世界的好奇都在推動所有領域的科學探索。
但只有好奇心，讓AI這些先進技術只會“向前沖”，可以嗎？
“沒有敬畏之心做底線，其實就沒有未來。”漆遠談到，一個科研者應有的價值取向，就是好奇心、敬畏心和普惠。
就像汽車有引擎，也會有剎車，路上會有紅綠燈，如果AI像引擎一樣在推動社會的發展，就必須有這些安全系統，否則就有失控的可能。
另一方面，AI本身又能夠提升安全技術，可以使安全“剎車”更智能——AI和安全，其實是相輔相成的關系。若沒有安全性和穩定性的保護機制，再迅猛先進的科技也不過是空中樓閣。
讓AI變得更有“常識”和“情商”，變得更尊重數據隱私，變得更平衡、更穩定、更抗打擊，其實也都是為了安全這同一個目標。
當假新聞層出不窮，當眼見為實不再有意義，技術能給人多少安全感，研發者的價值取向顯得尤為重要。
郝景芳感慨道，技術本身并沒有善惡之分，但技術能放大人性的惡，也能放大人性的善——就像一把菜刀，成為廚房好物還是成為殺人兇器，選擇權在人類手中。
人的成長有欲望的驅使，而人工智能只有人類給它設置的“目標函數”。把“幫助更多人、服務更多、永遠不傷害更多人”都寫在目標函數里，其實才是真正的共生。
漆遠認為給人工智能設定好的目標函數至關重要，長遠而言，要把對人的善意和公正寫進去—而人工智能的公平性研究也日益重要。這給目標函數就相當于一個公司的使命和愿景，是他們馬不停蹄想要前往的目的地。
對漆遠和他所在的支付寶而言，這個目的地就寫著“普惠”二字。好奇心帶來探索，敬畏心帶來克制，兩方的平衡讓技術像自行車一樣平穩地向普惠駛去——科技發展至今，其實也沿著這條清晰可見的脈絡在行進。
他在圓桌中分享的一個案例，令我們印象深刻。
一位農民在自己50歲那年，迎來了生命中的第二個「大件」物品——一臺三輪車，第一件是家里的19 寸老式電視機。
這輛價值一萬七千元的三輪車，花去了他信用貸款3萬元中的一大半，但他靠三輪車跑運輸，不僅把錢按時還上了，還改善了自己和80歲母親的生活。
這也只是中國絕大多數農戶的一個縮影。由于缺乏信用數據積累，沒有銀行流水、資產證明、抵押物等，他們被傳統的金融服務拒之門外，而支付寶一直在借助科技的力量服務這些人群和小微企業們，踐行普惠金融的目標。
科技的善惡，其實并不由那些復雜的數據和計算，而是取決于它是否放大了人的善念，是否讓普羅大眾享受到了科技進步的價值，是否有科技力量落到實處，化作普惠這一盞燈，照亮他們的生活。
雷鋒網雷鋒網雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
