0
尖子生不交「廢卷」。
作者 | 郭思
編輯 | 陳彩嫻
2023年4月，中國AI布道人陸奇在演講中表示，未來是一個模型無處不在的時代，他更是堅定地預言有一天大模型會在手機上運行。
兩個月后，一則關于高通演示Stable Diffusion的視頻在網上流傳。 視頻中，操作人員在一部沒有聯網的安卓手機上使用了Stable Diffusion 來生成 AI 圖像，整個生成時間不超過 15 秒，整個過程完全在終端進行，但是生成效果卻沒打一點折扣。
陸奇關于大模型會在手機上運行的預言，被高通提前變成了現實。
數據顯示，目前已有超過 3000 個可用的生成式 AI 應用和特性，幾乎所有全球科技大公司都在積極布局AI大模型。 然而大模型的成敗，高度依賴算力支撐。一個人工智能大模型，通常得用數萬億個單詞訓練，參數量也“飆升”到了上萬億。
以GPT為例，OpenAI在2018年推出的GPT參數為1.17億，預訓練數據量為5GB，而GPT-3參數量達1750億，預訓練數據量達45TB，在模型訓練階段。總算力消耗約為3640 PF-days，總訓練成本為1200萬美元。國內的華為“盤古”大模型參數最多可達1.085萬億，阿里達摩院M6最新參數已從萬億躍遷至10萬億。
一個共識其實已經形成：誰能解決算力成本，誰便擁有優先話語權。
對此，科學行業眾多「優等生」集中開卷，更好的算法，更高能效的芯片，成為主流路線。而高通這個長久以來專注于芯片的「尖子生」卻默默提交了一份另辟蹊徑的答卷——混合AI。
混合AI聚焦的是對于AI計算的降本增效：
終端和云端協同工作，在適當的場景和時間下分配 AI 計算的工作負載，以提供更好的體驗，并高效利用資源，這便是混合AI。
這一理論可以用章魚這種動物來闡釋。章魚擁有巨量的神經元，60%分布在章魚的八條腿上，僅有40%在大腦，因此它的觸角有獨立思考能力且反應敏捷，在捕獵時異常靈巧迅速，腕足之間配合極好，從不會纏繞打結。 章魚的大腦相當于我們常說的云，而觸角則相當于邊緣端也就是手機電子設備等終端。 章魚狩獵時物體最靠近哪邊，便使用那個觸角。
對于一個AI任務，混合AI這個章魚會根據模型和查詢需求的復雜度等因素，來決定將這個任務丟給哪個觸角來處理最快最高效。有時候可能需要A觸角，有時候需要A+B觸角一起，有時候得丟給大腦，一切根據處理任務的復雜來決定。
例如，如果模型大小、提示（prompt）和生成長度小于某個限定值，并且能夠提供可接受的精確度，推理即可完全在終端側進行。如果是更復雜的任務，模型則可以跨云端和終端運行。
除此之外，混合 AI 還能支持模型在終端側和云端同時運行，也就是在終端側運行輕量版模型時，在云端并行處理完整模型的多個標記（token），并在需要時更正終端側的處理結果。這能極大限度地解決能耗和成本問題。
隱私方面，這個章魚也處理得得心應手，直接從源頭減少數據運輸過程，隱私泄露的問題便不復存在。 高通指出，混合 AI 架構中有一個“隱私模式”，當用戶利用終端側 AI 向聊天機器人輸入健康問題或創業想法等敏感話題時，這個模式會自動開啟。
人世間數百萬個閑暇的小時流逝過去，方始出現一個真正的歷史性時刻，對一個問題數千種同質思考，出現了一絲細微的變化，這便是創新的源頭。
但高通的AI實力并不僅限于提出一個創新性理念，它的AI王國早已通過具體的落地地基得以搭建。 與以往的邊緣計算一樣，混合AI概念十分前衛，但要完美落地，仍需要滿足多方條件。
硬件上，AI端側需要使用計算能力強和存儲容量大的終端設備，算法上，為了將AI模型部署到邊緣設備上，需要優化算法，使其能夠適應較小的計算資源和存儲空間。同時AI端側需要有高質量的本地數據來幫助進行推理。
這三點，卻恰恰好是高通的綜合優勢。
數據顯示，搭載高通 AI 引擎的終端設備產品出貨量已超過 20 億，高通以極低功耗提供業界領先的終端側 AI 性能，提供完美硬件。
在算法上，高通有一批專門的研究團隊從事神經網絡架構開發和調整工作。 拿最火的視頻產業舉例，主流視頻算法做法是用卷積神經網絡處理視頻，但這其實是一個計算量巨大的任務。卷積處理圖像時需要——將圖像完整地“掃”一遍，有時會浪費巨大的算力，但真正的視頻，往往存在大量變化不大的場景。 針對這一問題，高通推出的FrameExit 模型由多個級聯分類器組成，可以隨著視頻幀的復雜度，來改變模型所用的神經元數量。
簡而言之，FrameExit就是一個會偷懶的計算模型，有點類似于一個高效的管理者，深諳資源調配之道。當看到視頻前后幀差異大的時候，AI會用整個模型計算；前后幀差異小的時候，則只用模型的一部分計算。相比于其他模型，這種方法最高甚至能提升5倍的性能，與此同時，神經網絡檢測的精確度也大幅增加。
在軟件方面，高通推出的 AI 軟件棧將各種AI軟件產品整合到一個軟件包，這對于AI工作者而言便是一個能滿足各種需求的AI"淘寶"。 里面有琳瑯滿目的主流AI 框架（TensorFlow、PyTorch、ONNX等），亦集成了推理軟件開發包（SDK），基礎的實時操作系統（RTOS）、系統接口和驅動程序以及廣泛的操作系統和用于部署和監控的基礎設施；小打襪子，大到冬衣，用戶都可以在淘寶解決，同理，從模型設計到優化、部署和分析，這一系列完整工作，開發者都可以在高通AI 軟件棧里完成。
更有意思的是，在高通AI 軟件棧開發出的大模型可以在不同地方使用，同時可以與混合AI部署相結合，「黃金長矛」和「勝利之盾」同時握在高通之手，生成式AI規模化擴展與普及，指日可待。
從時間維度上而言，高通對 AI 的布局其實由來已久。
2013年，高通Zeroth 處理器發布，采用了仿生自生物大腦的神經元架構，能夠不依賴編程、而是通過反復的“觀察”和“自學習”，實現程序、性能的自我進化。
回顧整個高通AI的布局，Zeroth是重要節點，卻僅僅只是一個開始。
2015年，高通在世界移動大會（MEC）上展示了照片分類和手寫識別應用、同年與阿姆斯特丹大學建立聯合研究實驗室，并發布了第一代人工智能產品（驍龍820）。驍龍820集成了首個專門面向移動平臺的高通AI引擎，支持圖像、音頻和傳感器的運算。
2016年，為了在各類設備上實現基于深度學習的軟件開發，高通為驍龍系列移動處理器開發了“神經處理引擎”（NPE），并為其發布了SDK(開發工具包)，這個SDK的發布，可以讓軟件開發者更好地利用移動端芯片的深度學習能力。一經發布，便被FaceBook（現Meta）等知名企業相中，通過高通NPE，FaceBook的照片和直播視頻中的現實增強功能性能提升了5倍。
2019年，高通正式發布驍龍865移動平臺，支持許多移動端的新老應用，包括AI實時語音翻譯、人像留色、背景虛化、AI一鍵多拍、夜景拍攝與人像智能識別。
2022年，高通在AI生態上再推利器，推出高通AI軟件棧（Qualcomm AI Stack），為開發者提供了一個絕佳平臺（上文已有詳細闡述）。而此次高通白皮書發布，混合式的AI的提出再次讓我們看到了高通在AI布局上的決心和其長遠的規劃。
一家擁有全球基因的硬件公司在算力成本上的范式創新，這種突破性在AI賽道上已經屬于前無古人，也很有可能成為一種里程碑式的存在。
同時，它留下的想象空間也是巨大的。
這種想象空間源于高通不斷自我革新的突破精神。
另一個層面，眾多早已扎根的應用領域，加上高通在硬件領域的優勢，會進一步擴大高通AI布局的外延。 “我們的 AI 能力賦能一系列廣泛的產品，包括手機、汽車、XR、PC 和物聯網。”高通白皮書如是說。 比如，在汽車領域，高通推出了 5 納米工藝制程打造的首款可擴展自動駕駛 SoC 平臺。本田、梅賽德斯、雷諾、沃爾沃等數十家廠商都搭載了這個平臺。
未來，AI將賦能更加智能的人車交互體驗，比如在高通數字座艙里，用戶可以體驗到真正意義上的“和自己的車對話”。你可以告訴你的車：“導航帶我去機場，但是在去機場的路上，我要找個地方吃個漢堡，再找個地方喝某種口味的咖啡，順便把我之前干洗的衣服取了。”對于這一切要求，「貼心管家」AI都將能高效完成。 “因為與其他商用終端不同，在汽車里出現任何一個小錯誤都可能帶來非常嚴重的后果。所以我們在確保提供最佳體驗的同時，也要確保極高的準確性。”高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar表示。
與此同時，結合搭載高通平臺的各項設備，混合AI在保護用戶隱私的基礎上，可以應用于包括高通AI引擎支持的全球40%的手機、高通16000 家的客戶相關的物聯網設備、65 款采用高通驍龍平臺的 XR 終端及未來其他的智能設備等，推動高通實現在AI領域的無界延展。
混合AI讓「大模型在終端上運行」這件事從將來時變成了進行時。 高通在一定程度上，也會從一家傳統芯片企業，成為AI領域極具潛力的黑馬。 翻開高通的白皮書的最后一頁，對于混合AI，高通總結道，憑借具備前瞻性的早期研究和產品開發投入，目前驍龍平臺能夠支持參數超過 10 億的生成式 AI 模型，并即將支持 100 億或更多參數的模型。
高度凝練，只說數據，正如高通多年以來呈現在大眾眼前的形象。在現今的環境下，或許對于AI行業而言，只有高度凝練的“真”，才能不負這個時代。如果我們把科技企業放在這樣一個維度上要求，對于高通混合AI即將帶來的顛覆，這一次或許值得期待。
白皮書鏈接：https://www.qualcomm.cn/ 【雷峰網(公眾號：雷峰網)】 【雷峰網】 【雷峰網】
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
