0
| 本文作者： 貝爽 | 2021-09-26 16:55 |
悟道2.0，要怎么用起來？
連創(chuàng)“中國首個”和“世界最大”兩項記錄后，悟道大模型的落地應用成為業(yè)界關心的熱點話題。
GPT-3的問世掀起了一股“煉大模型”的浪潮，去年10月，北京智源研究院集結中國產(chǎn)學界100多位AI專家聯(lián)合攻關，在一年之內發(fā)布了1.75萬億級大規(guī)模預訓練模型悟道2.0，超越GPT-3、Switch Transformer，成為全球最大萬億級人工智能大模型。
時至今日，“產(chǎn)業(yè)應用”成為未來人工智能大模型時代的下一個賽點。
GPT-3早早開放了API供開發(fā)者使用。據(jù)OpenAI透露，截止今年3月，全球已有300多個APP采用了GPT-3技術，基于GPT-3的應用也有100多個；今年悟道2.0發(fā)布會上，智源研究院啟動大模型產(chǎn)業(yè)生態(tài)建設規(guī)劃，表示悟道大模型下一步將作為AI基礎設施，像“發(fā)電廠”一樣為不同行業(yè)、企業(yè)、個人開發(fā)者賦能。
9月24日，智源研究院承辦2021中關村論壇“人工智能與多學科協(xié)同創(chuàng)新”平行論壇，圍繞“人工智能大模型時代學科交叉和可持續(xù)發(fā)展”展開深入交流。會上，智源研究院學術副院長、清華大學教授唐杰公布了悟道2.0產(chǎn)業(yè)應用的最新進展，并發(fā)布了一系列技術創(chuàng)新成果。
唐杰教授表示，悟道大模型應用技術正在像“低門檻+高效率+高情商”三個方向努力，能夠滿足不同行業(yè)和企業(yè)實現(xiàn)規(guī)模化、產(chǎn)業(yè)化的應用需求，悟道正在從最大向“更好用”邁進。
此次技術創(chuàng)新包括：“悟道”大模型開發(fā)平臺、大模型高效推理工具包BMInf、全新升級的AI文圖繪畫大師CogView和實現(xiàn)大模型群聊的對話模型EVA。
大會現(xiàn)場還發(fā)布了“悟道2.0”賦能產(chǎn)業(yè)應用案例：冬奧會語音播報數(shù)字人和OPPP小布助手問答系統(tǒng)。小布助手是OPPO旗下開放式對話虛擬語音助手，OPPO小布技術總監(jiān)楊振宇在現(xiàn)場表示，融合悟道大模型的生成式問答系統(tǒng)，解決了小布助手開放式對話的長尾問題，單條回答建設成本降低99%。
“悟道”開放平臺面向所有中小型企業(yè)、行業(yè)應用企業(yè)和IT領軍企業(yè)提供一站式服務，包括數(shù)據(jù)服務、在線訓練、模型調優(yōu)、模型評測、在線部署，可通過API開放接口一鍵調用。
需求多樣化與場景碎片化是AI落地普遍存在的難點，智源研究院針對不同企業(yè)主體通過API既降低了應用門檻，也滿足了特定化需求。正常來講，百億級大模型訓練一次通常需要512張A100卡，約合人民幣六千萬。而對于數(shù)據(jù)不足、算力不足的中小企業(yè)，悟道開放平臺提供十億級別模型的在線訓練與微調。唐杰教授表示悟道開放平臺在快捷易用的同時，更注重解決規(guī)模化、產(chǎn)業(yè)化AI應用問題。目前平臺提供了寫詩、問答、繪畫等7種API功能。
解決可用問題之后，是如何幫助企業(yè)實現(xiàn)降本增效。悟道發(fā)布的開源大模型高效推理工具包BMInf，實現(xiàn)了“一卡頂四卡”，支持在低配置的NVIDIA GTX 1060單卡機上運行百億大模型。
智源研究團隊對原CPM2模型進行了基于INT8優(yōu)化的微調，使得模型參數(shù)的存儲空間從40G壓縮到了10G，且性能基本保持不變。CPM2是為提高大模型精度和效率，研發(fā)的從模型、訓練、微調到推理的全鏈路高效訓練框架。此外，針對部分顯卡顯存不足的情況，工具包通過顯存和內存間的調度與優(yōu)化，實現(xiàn)了低性能顯卡的大模型推理。
唐杰教授表示，原CPM2模型現(xiàn)已升級到CPM2.1，新模型通過持續(xù)學習，引入基于生成的預訓練任務，在保留補全能力的條件下大幅提升了文本生成能力。
繼今年6月份超越DALL·E取得MS COCO榜單第一后，CogView也進行了全新升級。CogView可以根據(jù)文本提示生成對應圖像，優(yōu)化后其圖像生成能力實現(xiàn)了4倍提速，4倍清晰。CogView的繪畫能力可應用于服裝、海報等設計行業(yè)。
對話模型EVA是智源悟道團隊的最新研發(fā)成果，作為一款生成式對話系統(tǒng)，EVA模型主打高情商，能夠借鑒心理咨詢助人理論，實現(xiàn)深度情緒安撫，讓人機聊天更有溫度。除了心情聊天外，它還支持大模型在線群聊等多類趣味對話應用，有望推動“人與物”交流的現(xiàn)在時代邁進到“物與物”交流的人機共融未來時態(tài)。
基于以上能力，悟道大模型將在醫(yī)療、金融、新聞傳播等行業(yè)有著廣泛的應用空間。例如在金融、法律、零售等傳統(tǒng)行業(yè)領域，大模型能提供高性能的智能信息解析和提取、智能數(shù)據(jù)整合、自動機器翻譯、輔助決策等功能，提升業(yè)務流程效率和水平。在新聞傳播領域，基于模型可實現(xiàn)智能新聞線索收集、機器寫作、輔助編輯、虛擬主播等應用。
在大會現(xiàn)場，OPPO小布助手技術總監(jiān)楊振宇發(fā)布了與智源研究院合作的首款應用——基于悟道大模型的“生成式問答系統(tǒng)”，大模型黑科技加持，小布助手在一定程度上解決行業(yè)共通的長尾問題。
AI語音技術在智能助手應用有著較為成熟的落地方案，智能家居、智能車載、新聞播報、智能終端等場景也有廣泛的應用案例。但現(xiàn)階段，“檢索式回答”是大多虛擬助手的主要人機交互方式之一，對話內容局限于模型自建庫和互聯(lián)網(wǎng)數(shù)據(jù)，這意味著，諸如長江長還是黃河長這類問題，如果無法在數(shù)據(jù)庫中找到答案，在度秘、搜狗助手、阿里夸克等途徑也無法查詢到的話，虛擬助手就無法做出回答。
從長尾問題來看，小布助手以及整個行業(yè)普遍存在的以下難題：
大量用戶提問（至少有1億），AI語音助手無法回答
長尾單個問題命中率低、體量大且無法窮盡
自建語料庫周期長，人工數(shù)據(jù)標注成本高
針對這些問題，悟道開放平臺提供了兩套解決方案：一是針對小布助手現(xiàn)有用戶已經(jīng)提出的問題生成回答。“悟道”大模型具有強大的小樣本學習以及文本的理解與生成能力。
二是針對用戶未來可能問到的問題，通過“悟道”大模型結合知識圖譜，持續(xù)學習，形成持續(xù)知識預訓練模型，進而生成問答QA語料庫。目前每臺機器每天生成10萬左右的待審核答案，單條回答的建設成本降低了99%。
智源研究院學術副院長、清華大學教授唐杰與OPPO數(shù)智工程系統(tǒng)總裁劉海峰接受媒體采訪
在會后采訪中唐杰教授表示，他希望打造出更加智能的知識型、交互型、聊天式的智能助手，在回答人類提問時能夠更開放，風格更多樣化。當然，人性化的互動目標對模型的自然語言理解和生成提出了更高的要求，目前還沒有更好的解決方案，但悟道大模型正在朝著這個方向邁進。
另外，此次發(fā)布的基于悟道大模型的冬奧手語播報數(shù)字人，將在北京冬奧會期間正式投入應用，提供全流程智能化的數(shù)字人手語生成服務，方便聽障人士也能收看賽事專題報道。
從大煉模型，到煉大模型，智源研究院是其中強有力的推動者，從世界最大到產(chǎn)業(yè)落地，智源“悟道”一直堅持前沿引領。在他們看來，大模型的興起的背后，是邁向通用人工智能的一條極富潛力的路徑，也是推動傳統(tǒng)行業(yè)實現(xiàn)智能化改造和升級的新機遇。現(xiàn)階段，更智能的對話客服、更高效的機器翻譯、更智能的語音播報在電商、媒體、金融等領域已經(jīng)表現(xiàn)出極大的發(fā)展空間，而“大算力+大數(shù)據(jù)+大參數(shù)”也驗證了模型越大，智能潛力越大。
黃鐵軍院長告訴AI科技評論，人工智能的潛力取決于數(shù)據(jù)，未來科學研究領域突破數(shù)據(jù)獲取的局限，大模型還有更廣闊的應用空間。悟道大模型就像「發(fā)電廠」，會形成類似于電網(wǎng)的智能基礎平臺，為全社會源源不斷地供應「智力源」。目前，以GPT-3、Switch Transformer為代表，布局大模型已成為世界性趨勢，國內百度、阿里達摩院、華為&循環(huán)智能等企業(yè)和科研機構也已相繼推出大模型ERNIE3、M6和盤古NLP。
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)特約稿件，未經(jīng)授權禁止轉載。詳情見轉載須知。
