專訪 | 關于阿里云異構計算解決方案，我們問了這8個問題

2015和2016年的12月份，圍繞FPGA這個詞，分別有兩個小高潮。2015年的12月，英特爾完成了其歷史上最大的并購案：以167億美元收購專注于FPGA的Altera。而到了2016年12月，亞馬遜AWS宣布推出了FPGA實例F1，他們將 Xilinx 的 FPGA 放在了云服務中，顯著降低使用該技術的準入門檻，激起一股簡化開發者體驗的新浪潮。

對于深度學習技術實現來說，FPGA無疑是具有重要潛質的。在過去，玩得起FPGA的往往都是有著充足資金的大公司，因為FPGA首先硬件成本高，另外對于復雜算法的實現有太多限制。但是，FPGA相對于GPU有著獨特的優勢：功耗低，實時性強，業界普遍看好其發展前景。

在國內，2017年1月份，騰訊云和阿里云也相繼推出了FPGA云服務器產品。1月21日，阿里云發布異構計算解決方案：彈性GPU實例和FPGA解決方案。阿里云作為目前國內云市場的領頭羊，這次發布針對深度學習技術的異構計算解決方案，無疑將助力國內人工智能技術的前進。

雷鋒網此前報道過，英偉達首席科學家、斯坦福并發 VLSI 架構小組的負責人William J. Dally曾說過，對于深度學習的硬件選擇，主要有三個不同領域要考慮，其中兩個就是：

• 數據中心的訓練。指的是任何深度學習系統需要做的第一步：調整神經元之間的數百萬連接，讓神經網絡來執行分配的任務。對訓練來說，計算機往往需要以較高的精確度運算。

•  數據中心的推理。指的是基于云端、被訓練來處理特定任務的神經網絡的連續運行。對于推理，精確度可以適當犧牲，換取更快的速度和更低的能耗。

而阿里云這次發布的彈性GPU實例和FPGA解決方案，就是分別針對這兩種任務要求所做的設計。

負責開發這套異構計算解決方案的，是阿里云的虛擬化平臺團隊。針對這套平臺方案，雷鋒網AI科技評論日前采訪了阿里云虛擬化平臺職位高級技術專家游亮，以下是采訪內容。

1、為什么在這個時候推出阿里云異構計算解決方案？

其實阿里巴巴內部的很多業務早已經在異構計算的平臺上成功應用了，比如拍立淘、以圖搜圖、商品分類等，阿里已經驗證了這套解決方案在阿里各業務線的加速作用，現在阿里云把這套解決方案通過云服務的形式輸出出去，也是把阿里的技術和經驗輸出，讓業界能夠非常容易地享受到異構計算的便利性和高速性，幫助業界降低使用成本，提高業務性能。

當前人工智能、深度學習目前已經成為業界一股強烈浪潮，對各行各業都將產生深遠的影響。而人工智能、深度學習對計算能力的需求相當的高，阿里云推出的異構計算同時包括GPU和FPGA的解決方案，擁有比傳統服務器強大得多的計算能力和每瓦計算能力，推異構計算解決方案也能夠滿足人工智能、深度學習對強大計算性能、計算能效以及計算實時性的需求，推動和加速整個人工智能、深度學習生態的迅速發展。

目前GPU和FPGA云服務器的邀測申請鏈接已經放掛到官網了，在https://www.aliyun.com的產品->彈性計算下面，但是FPGA的還沒有，這一部分，我們的客戶可以通過聯系售后來獲得。

2、這套異構計算解決方案具體能解決哪些問題？詳細講講解決方案在AI領域的應用場景？

這套異構計算解決方案能夠解決機器學習、深度學習、虛擬桌面、渲染、圖形圖像處理、非線性編輯、視頻編解碼、基因分析、網絡分析、網絡安全、金融分析對計算能力、計算效能、計算實時性等方面的問題。

對于AI來說，這套解決方案能夠非常好地加速AI領域的訓練和預測/分類等問題，包括圖像識別、語音識別、視頻識別、視頻監控、文字識別、人臉識別、車輛識別、自動駕駛、機器翻譯等AI的應用場景。GPU的解決方案比較擅長做AI領域的模型訓練，能夠達到非常高的批量計算能力，而FPGA的解決方案比較適合做AI領域的在線的預測/分類，能夠達到非常高的吞吐量和非常低的延遲。

3、請詳細談談彈性GPU實例？

“彈性”就是指會根據業務量去彈性伸縮，比如說你在線做圖片的預測分類，假設你日常業務只需要N10臺云服務器機器，某一天一個突發事件，讓你的業務爆發一倍，請求量突然增大，那現在彈性的支持就可以就很快創建出來增加的N臺云服務器，讓你的業務能夠平滑支持暴增的業務請求。然后當你的業務量下去之后，多余的云服務器支持就可以釋放掉。然后，計費也是按量來的，就是用多長時間就收多長時間的費用，實現客戶成本最大節約化。

這個彈性的范圍，可以參考阿里云上支撐的天貓業務。這個范圍內的，我們都可以支撐。

4、你們的 FPGA 方案采用了Arria 10系列，在深度學習算法實現過程中，成本普通民眾能接受不？可以用低端的芯片實現嗎？

阿里云的FPGA方案面向用戶。普通FPGA開發者如果自己采購測試用的FPGA、開發板還有服務器，價格是非常之昂貴的。阿里云從芯片原廠、OEM統一采購芯片和機器，不需要經過層層代理，大大降低采購成本，而且在云上提供按需使用的FPGA對于普通FPGA開發者來說，使用成本是極大降低的。

阿里云推出的FPGA方案，在定價上也會非常親民。因為，我們初期階段，主要目的不是為了賺取多少利潤，而是為了方便FPGA開發者開發，繁榮FPGA的生態環境，促進FPGA產業的發展。因為現在FPGA整個生態并不是很理想。第一個方面，就是開發人員不多，然后開發人員的質量也參差不齊。FPGA之前面向的是非常小眾的市場，今后可能會面向更廣闊的市場，這個情況下，FPGA開發人員可能會跟不上需求；第二個方面，就是現有的FPGA開發工具不是非常的友好，而且像Verilog和VHDL這樣的開發語言，學習的門檻比較高。所以對開發者來說，要想開發出性能比較高的軟件，需要對FPGA了解非常深入才行，所以這個開發難度比較大。

但是，FPGA又是非常重要的，我們覺得FPGA今后在運營上，將會推動中國整個人工智能產業的前進。所以我們覺得阿里云有義務來承擔這個責任，去繁榮FPGA的生態環境。當然，這需要各界人士的通力合作，我們會著力去吸引包括FPGA芯片廠商、FPGA板卡廠商、FPGA的IP開發商、FPGA的工具開發商以及FPGA開發者到阿里云的這個云平臺上來等等，繁榮云上的FPGA生態，這樣建立起一個好的生態之后，大家也都能從這個生態中獲得合理的回報，然后大家才會有持續的動力，一起努力、共同協作建立一個圍繞FPGA的健康的、可持續發展的生態。

5、這套異構計算解決方案，如何適應不同領域的開發者需求？

阿里云計劃提供FPGA IP市場，所有第三方的商業應用都可以把自己的IP放到IP市場上來銷售給最終用戶，這些IP都是根據阿里云的標準來定制的。IP的開發、仿真、驗證和測試都可以非常方便、快速地在 FPGA 云計算實例上進行部署和運行。針對不同領域里的開發人員的具體需求，比如圖像識別CV領域，用CNN的IP比較多，語音識別NLP領域用DNN和LSTM的IP比較多，那么就可以通過提供豐富的IP市場這個IP市場調節大家的特定需求。

FPGA IP市場有利于第三方企業或者開發者來開發和銷售IP給最終用戶，有利于聚攏FPGA開發人氣，建立FPGA生態環境，第三方商業應用和最終用戶都能從中獲益。

6、這套異構計算解決方案在開發過程中遇到了哪些難題？怎么解決的？

這套解決方案在開發過程中遇到了很多前所未有難題。比如，如何在公共環境下保證用戶間的強隔離、怎么保證用戶的數據安全、怎么去支持遠程調試、怎么定義用戶的交互接口......等等這些問題。還有這當中最難的部分，就是如何“上云”，傳統的異構計算服務商不懂云上的虛擬化環境，提供的一些解決方案并不適用。

我們大概從1年多以前就已經開始進行預研，那時亞馬遜的云計算實例都還沒有正式推出來。這方面可供學習的經驗比較少，因為現在世界范圍內能夠做這部分的廠商都是不多的，我們還是屬于比較領先的廠商，所以會遇到各種各樣的問題在這上面有很多坑。

我們經過和合作伙伴深入合作、聯合開發和長時間的測試、驗證工作，最終解決了這些難題問題，沉淀了一些阿里云獨有的架構和設計，滿足高可用、彈性伸縮、用戶隔離、IP安全、故障恢復、監控報警等服務化需求。

7、目前基于 FPGA 的深度學習算法實現，阿里的現狀如何？這套解決方案與其他基于 FPGA 的深度實現比較有什么優勢？

目前阿里開發了基于FPGA的DNN、LSTM等深度學習算法的實現，和其他實現相比，阿里做了非常深入的優化，在邏輯資源的使用上、時序的優化上、對內存帶寬的優化上都做了非常深入和細致的調優，相同器件上能夠達到更高的吞吐量和更低的延遲。

8、你們覺得這套方案還有哪些需要優化和提高的地方？未來打算如何解決？

沒有一種固定架構能適應所有應用場景，異構計算解決方案優勢在于可以組合多種不同類型實例為用戶定制專用架構，千人千面，阿里云愿意同更多特定行業進行合作，深度定制，共同為節省社會計算成本而努力，讓計算服務成為水電煤這樣隨時可用，隨處可用，人人可用的社會公共資源。

更多雷鋒網相關文章：

亞馬遜 CEO 駕駛載人機器人亮相 MARS；蘋果 AR 功能首先登陸 iPhone | 雷鋒早報

微軟亞洲研究院劉鐵巖博士：迎接深度學習的“大”挑戰（一）

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。