0
“大模型”是2023年互聯網發展技術趨勢的關鍵詞,此刻OPPO也邁入大模型競逐的下半場。
2023年初,國內大模型領域受到ChatGPT的影響,“百模大戰”迅速進入白熱化。今年8月,隨著《生成式人工智能服務管理暫行辦法》的正式施行,文心一言、百川大模型、智譜清言等大模型應用正式向全社會開放。
當下大模型逐漸“面向全社會”,意味著大模型之間的競爭已經跨過前期積累,進入到技術應用落實階段。行業重心的傾斜,讓模型與參數的比拼不再是重點,對大模型存在價值的思考才是關乎企業存亡的核心所在。
今年8月份開始,OPPO、vivo、華為、小米等Top級手機廠商圍繞著海量的硬件和富有創造力的落地方案,宣布正式進軍大模型領域,通過聚焦手機和生態體驗的差異化,瞬間成為整個行業關注的焦點。
這里的原因有三點:
第一,手機廠商作為最接近消費者的硬件廠商,多年的深耕可以幫助其更準確、直接地抓住用戶需求,甚至更深入地參與到手機系統的定制當中,實現更有價值的落地方案。
第二,海量的用戶群。根據數據統計,整個2022年國內智能手機的出貨量已經達到2.64億部,手機廠商通過OTA能夠迅速將大模型部署到原有設備上,通過用戶的使用數據為大模型的成長提供最好的養料。
第三,單一的硬件和完全依靠云側的方案難以推動AI進一步發展,軟硬件的高度協同是拓寬大模型邊界的關鍵所在,想要實現場景體驗的新突破,打通上下游無疑是AI發展的未來趨勢。
這場蓄謀已久的競賽,讓手機廠商間的競爭焦點從技術轉變為市場。誰能獲得用戶的青睞,誰就獲得了“下個十年”。
讓用戶感知到技術突破的真實價值與更優質的體驗,是對大模型來說是既簡單又困難的一件事。
大模型在三大要素:算力、模型、數據的不斷影響下,早已超過行業內最初的預期,它不再是一種工具,而是成為一種創造力的源泉。
但技術突破是一回事,用戶的感知與體驗卻是另一回事。
在11月16日OPPO的開發者大會上,OPPO正式推出了自主訓練的大模型AndesGPT。據介紹, AndesGPT有三大類規格:AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan,可涵蓋十億至千億以上多種不同參數規模的模型規格,根據不同場景智能調度。

其中最值得注意的是AndesGPT對To C領域的支撐。OPPO多年來的「用戶導向」決定了大模型業務會向著產品體驗傾斜。而這恰恰是“百模大戰”中所缺少的:讓用戶感知到技術突破的真實價值與對體驗優先的堅持。
近年來OPPO在中國市場成績斐然,僅2023年上半年出貨量就達到了2400萬臺,成為國內手機市場第一名,另外,ColorOS存量用戶群體也愈加龐大,目前已經達到了6億。龐大的用戶基數早已讓AndesGPT沒有落地場景之憂,有充足的時間和精力去提高技術力、解構用戶需求。
但想要在高頻用機場景中將AndesGPT滲入到用戶的日常生活,這并不是一件容易事。OPPO內部通過不斷地推演與論證,最終選擇將“對話增強”、“個性專屬”,以及“端云協同”作為突破點,來作為AndesGPT的差異化特征,成為ColorOS底層架構的一部分。
通過以上三點再結合AndesGPT所提供的能力,我們可以更好理解OPPO大模型的差異化打法:
在AndesGPT的定義中,“對話”是GPT記憶能力、邏輯推理能力、模糊意圖理解能力、生成能力等等的一個集合,作為大模型與用戶溝通的橋梁,“對話”的重要性不言而喻。面對這座大山,堅持長期主義的OPPO做出了與“愚公”相同的選擇。
在2020年,OPPO 就已啟動預訓練語言模型的探索與實踐,自研了一億、三億和十億參數量的大模型 OBERT,通過不斷地技術積累,OBERT 曾一度躍居中文語言理解測評基準CLUE1.1 總榜第一梯隊,還獲得了大規模知識圖譜問答 KgCLUE1.0 排行榜第一的成績。
在沉淀了OBERT的技術經驗之后,AndesGPT融合海量中文對話數據、精品知識圖譜,以及高質量 QA 問答數據,結合對預訓練、指令微調、人類反饋強化學習等技術的定制優化,顯著提升了模型知識與百科能力的覆蓋面和準確性。
此外,為保證連貫持續對話中的優質體驗,OPPO還提出了一些技術上的變革思路:
首先,OPPO為AndesGPT引入了長時記憶機制,支持無限長度的上下文記憶,其中包括用戶交互過程中產生的交互歷史、個人數據,以及從中提取的結構化信息等。這意味著AndesGPT能夠憑借記憶,成為一個只屬于用戶自己的超級助理。
而想要保證長時記憶流暢的使用體驗,AndesGPT要擁有足夠的吞吐速度和檢索能力。針對這一技術難題,OPPO選擇了獨創新技術:SwappedAttention 來攻克推理時長的難題。SwappedAttention 通過外部存儲和KV壓縮的方式,能夠實現會話級KV緩存,在多輪長上下文對話中能有效降低每個query的首字推理時長,結合原有 PagedAttention 算法,能夠帶來50%的首字延遲降低和30%的推理吞吐提升。

技術上的支撐保證了AndesGPT「千人千面」的個性化使用體驗。在沒有引入大模型前,用戶的語音交互只能得到一個成型的固定答案;而在引入大模型后,帶有專屬記憶數據的語音交互可以依托廣泛的知識體系,實現更具價值的互動。
今年9月,AndesGPT參與了 SuperCLUE 的能力測評,在知識與百科方面獲得了 98.33 的高分,位列 SuperCLUE 知識與百科能力排行榜中的全球第二、國內第一,尤其是通用問答與對話能力,極為出色。
AndesGPT的肌肉已經足夠健碩,但OPPO對其的期望卻不止于此。
去年,智慧跨端系統潘塔納爾隨著技術的升級應運而生,打破了不同設備、系統、服務之間的壁壘,如今新的行業新的大勢出現,「體驗為先」的OPPO決定用AndesGPT,與潘塔納爾系統深度協同,賦能ColorOS整體生態。
大模型怎么在端云之間協作,給用戶提供最佳的體驗,一直是OPPO非常看重的命題。端側有著更低時延、更低功耗、更好的用戶隱私安全保障,但在弱網、無網、復雜計算等場景下仍舊存在局限性。以內容創作為例,簡單的短文本內容創作在端側就能提供支持,而在復雜的長文本內容創作中,純粹的端側可能會無法生成令人滿意的結果,所以OPPO認為結合端側與云側的優勢才是手機行業大模型的必然演進方向。
作為OPPO端與云之間連接的紐帶,AndesGPT更像是一個啟動按鈕,聯動上下游激活了OPPO所有的布局,通過協同、互補、協作三方面,讓AndesGPT徹底成為OPPO底層架構的一部分。
在大模型發展的第一階段,“快魚吃慢魚”是業內的共識;而如今到了第二步,誰能將能力落到實處,誰才掌握了主動權。
OPPO早在今年3月份就把大模型作為內部重要的戰略級投入賽道,將“一切以用戶需求為中心”的思想貫徹整個大模型研發周期。多年的“長期主義”使得OPPO在面對新領域、新技術時,仍能保持冷靜的心態洞察用戶需求,堅持技術積累,靜靜等待爆發的關鍵節點。也讓安第斯大模型,不止大模型。
(雷峰網)
生態是大模型最重要的一環。
今年11月初,OpenAI舉辦了歷史上首屆開發者大會,并在大會上宣布了一個令所有AI開發者都無比激動的新項目:GPTs。
GPTs最大的意義在于,無需任何編碼知識,僅通過互動的形式,使用者就能擁有一個專屬的GPT。另外,使用者也可以將其上架到GPT Store中,提供給其他用戶使用。
GPTs引起行業轟動,無非就是做到了兩件事:第一是無門檻化,任何人都能生成更符合自己的GPT;第二個就是生態的雛形,當有足夠多的GPTs豐富應用商店時,量變引發質變,ChatGPT會擁有屬于自己的生態,甚至屬于大模型的操作系統。
有這種想法的不止OpenAI,在遙遠的大洋彼岸,OPPO也有著同樣的思考。
在OPPO開發者大會當天,OPPO宣布了一個新的計劃:開源智能體框架。B端和C端的用戶可以通過低代碼,甚至零代碼去構建自己的AI應用,讓所有人都能參與到OPPO大模型應用生態的共創與建設中來。

在對智能體框架開源的思考中,OPPO保持了「體驗為先」的核心策略,使AndesGPT能一直前行在正確的道路上。
OPPO的策略側重于豐富它的工具屬性,智能體框架將提供能夠完全適配和充分挖掘AndesGPT能力的prompt。這樣,不懂代碼的普通用戶,也能輕松定義和分享AI原生應用,一起構建更完善的大模型生態。
在開發者大會上,OPPO也宣布搭載安第斯大模型能力的全新小布跟隨ColorOS14正式發布,除了大模型必備的超級問答、內容創作和圖片創作等能力,全新小布還化為用機助手和日程助理,此外,智能體也在全新小布上浮出水面,體驗令人期待。

在“投資未來”的長期主義驅動下,完善的生態是一切是OPPO大模型的關鍵,大模型構建了生態,但大模型也僅僅是生態的一部分。AndesGPT多年的技術積累正逐漸成為OPPO底層架構的一環,模型能力不斷進化,為ColorOS提供堅實的智能化技術底座。
安第斯山脈是陸地上最長的山脈,位于南美洲的西岸,在狹長的山脈兩側,一側氣候干旱,一側茂盛,天然的屏障構成了無法逾越的生態壁壘。
大模型生態的構建不是一件容易的事,這需要長久的耐心和“不爭先”的核心決策。回顧過去,區塊鏈、元宇宙、AR等技術的發展離不開“噱頭”二字,“快魚”吃掉了“慢魚”,卻也讓快魚消失在時代的浪潮之中。

“對的路不怕遠”是OPPO發展的精神內核。回顧手機發展歷史的多個節點,無論是OPPO所堅持的超級閃充與電池健康,還是依托潘塔納爾系統所帶來的萬物互融,OPPO都選擇了“難而正確”的決定。同時也正是這種極致的細節打磨,讓OPPO在混亂的“百模大戰”中保持了難得的清醒。
在OPPO大模型立項之初,行業內就已經存在非常多的開源與閉源大模型,當時擺在OPPO面前有兩條路線:與其他企業進行合作還是從零開始研發?
OPPO選了一條最難也是最遠的路。
經過內部反復的推演與論證,OPPO發現使用現有的大模型產品并不會對產品提供更好的體驗。以信息獲取為例,用戶最核心的訴求是獲得專業、可信、安全的內容,而目前多數大模型都存在“幻覺”的問題,這也使得用戶難以判斷什么時候可以采信大模型的結果。
相反,OPPO小布助手在2021年月活量就已經過億,有著大量真實的用戶互動場景和高質量語料數據積累。在愈演愈烈的行業風口面前,求真、務實的OPPO在明確方向和需求之后,開始全面加大研發投入,確定構建“最核心的底層技術”以及“軟件工程和系統能力”,并積極與頭部芯片廠商進行深度合作,率先在行業采用 4 位量化技術,實現精度不掉點效果下更優的端側化性能,同時這也是目前業內效果較為領先的端側大模型部署方案。
身為一家將“長期主義”刻在骨子里的企業,OPPO的每一步都走在「用戶體驗為先」的道路上,也正是這種將產品體驗做到極致的追求,讓OPPO一步一步地成為行業中的領頭羊。
隨著安第斯大模型成為ColorOS的“關鍵按鈕”,OPPO終于要迎來未來的“新十年”。
(雷峰網(公眾號:雷峰網))
雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。