0
AI芯片公司直接提供云服務似乎成了新的風潮。
市場領導者英偉達在GTC 2023上宣布會基于Oracle的云基礎設施提供AI云服務。
美國AI芯片獨角獸SambaNova也做同樣的事情,以云服務的方式提供AI算力。
英國AI芯片獨角獸公司Graphcore近期也進行了策略的調整,其CEO Nigel Toon表示在英國和美國會和云廠商緊密合作,以云產品的形式提供算力,不再單獨銷售芯片產品。
不過Graphcore中國區并未跟進英國總部不單獨銷售芯片產品的策略。
“中國和總部的策略后續會不太一樣。我們在業務、策略上還是一以貫之,繼續以銷售硬件,自己安裝產品的形式提供AI算力。”Graphcore總裁,大中華區總經理盧濤表示,
“在中國,我們還是比較堅定地走被云廠商集成的策略,Graphcore中國還是這樣的商業模式。”
為什么在中國不直接提供云服務?
Graphcore總部和中國區戰略不同的核心在于到底是賣云服務還是直接賣芯片,讓人好奇的是,為什么中國區做出了不一樣的選擇?
盧濤解釋,中國的產業業態和美國、歐洲有很大區別,比如,美國基本所有互聯網公司都架構在AWS、Azure和Google Cloud這三朵云之上。中國有很多優秀的云廠商,但也有很多選擇自建數據中心的大型互聯網公司。一些公司原本是云廠商的大客戶,隨著自身體量增加也做了大量的自建。
“這些大體量用戶尤其是頭部用戶的自建行為讓我們發現他們更希望被提供硬件形式的服務。云也非常重要,但我們希望Graphcore能成為中國云廠商產品的一部分,而不是做一個Graphcore自有品牌的云。”盧濤說明了中國區堅持原有商業模式的原因。
客戶群體方面,Graphcore中國會聚焦于大型互聯網公司。
這主要有兩方面的意義,第一,大型的互聯網公司對GPU產品用得最深最透最廣,對非GPU產品的技術參數、可用性、技支持服務、商業支持服務、產品穩定性都要求很高。
“只有和嚴苛的客戶一起,才能真正把自己的產品給打磨出來。過程非常痛苦,但能從中學到很多。”盧濤體會頗深,“我們之前為一個國內的大客戶部署了一個比較大的IPU集群,他們向我們提出了三百多個軟件特性需求,若不是客戶提出這些需求,很多需求我們想象不出來。客戶的要求越高、越苛刻,反而進步更快。”
第二個方面的意義是從商業的角度。把中國作為單一的整體大市場,中國互聯網行業占整個AI應用市場的60%,并且這個行業里Top10-20多公司又占了80%以上的市場。
“從商業角度,如果你的產品表現令人滿意,最后的商業回報也會相對合理。”盧濤表示。
據雷峰網了解,Graphcore正在和國內的金山云和騰訊云合作,與另一家國內大型云廠商的合作細節在規劃中。
如何把握生成式AI帶來的機會?
如今,各大互聯網公司的大模型也帶來了對大算力AI芯片的強需求。只有快速實現對大模型的支持,才有可能抓住市場機遇。
目前,Graphcore已經支持的大模型包括GPT-2 XL版本,GPT-J開源版本,Dolly 2.0(剛開源的100多億參數的模型),ChatGLM-6B(國內比較火的開源模型)。

“對于大模型的公司,我們的一個優勢是可以做到每個token 3.5毫秒,幾百個字一秒鐘就能出來了。”盧濤用了更形象的方式體現這一速度,“ChatGPT是逐字出現的,我們可以一屏屏地顯示。這是給做大模型的人一個重要的價值點,能夠帶來不一樣的體驗。

實現了對多個大模型的支持之后,也意味著Graphcore可以快速支持其它大模型。
盧濤表示,“從Dolly 2.0發布到我們支持這個模型,大概兩周左右的時間。支持大模型的關鍵點在于模型的大小,以及如何在多個IPU之間做模型拆分。需要底層的各種能力,例如Transformer相關的算子,模型并行的API,算子并行的API,Tensor并行的API,這些底層的技術我們已經比較成熟。”
當然,想要吸引熟悉了GPU的客戶使用Graphcore的IPU,最好能夠做到零代碼遷移,和CUDA兼容。
Graphcore在去年推出主打推理兼做訓練的C600產品時,同時發布的軟件工具包PopRT,這個工具包可以將GPU在TensorFlow訓練出來的模型進行自動轉換,在不做CUDA兼容的情況下,比較無縫地把GPU的軟件在IPU上跑起來。

“上個月我們剛發了1.0版本,目前一些客戶反饋都還不錯,因為以前做一些模型遷移都需要花費較長的時間,現在有了工具之后,客戶自己的模型遷移還是比較快。”盧濤說,“當然,我們的芯片IPU的優勢是核非常多,存儲、帶寬非常大。”
對于當下眾多的AI大算力初創芯片公司而言,英偉達并沒有留給競爭者太多機會,差異化競爭能夠增加成功的可能。
這種差異化就包括面對不同的市場采用更適合的市場策略,所以Graphcore在英國和中國市場采用不同的策略,是差異化和靈活性的體現,這種靈活性有助于Graphcore在中國取得成功。雷峰網(公眾號:雷峰網)
雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。