0
雷鋒網 AI 科技評論消息,6 月 18 日至 22 日,2018 國際超大規模集成電路研討會(2018 Symposia on VLSI Technology and Circuits,簡稱 VLSI)在美國檀香山召開。雷鋒網了解到,VLSI 國際研討會始于 1987 年,是全球先進半導體與集成電路領域的頂級會議,與 ISSCC 和 IEDM 并稱微電子技術領域的「奧林匹克盛會」。

清華大學 Thinker 團隊在此次會議上發表了兩款極低功耗 AI 芯片(Thinker-II 和 Thinker-S)的相關論文,分別在「機器學習處理器」分會場(C4)和「機器人與機器學習應用」分會場(C13)進行了報告。此外,Thinker-S 芯片受邀在大會的 DEMO Session 進行了現場演示。論文作者包括:尹首一,歐陽鵬,楊建勛、鄭時軒、陸天翼、宋丹丹、李秀冬、劉雷波、魏少軍等。
Shouyi Yin, Peng Ouyang, Jianxun Yang, Tianyi Lu, Xiudong Li, Leibo Liu, Shaojun Wei, An ultra-high energy-efficient reconfigurable processor for deep neural networks with binary/ternary weights in 28nm CMOS, Symposia on VLSI Technology and Circuits, Honolulu, USA, 2018.

Thinker-II 芯片報告現場
Shouyi Yin, Peng Ouyang, Shixuan Zheng, Dandan Song, Xiudong Li, Leibo Liu, Shaojun Wei, A 141 uW, 2.46 pJ/Neuron Binarized Convolutional Neural Network based Self-learning Speech Recognition Processor in 28nm CMOS, Symposia on VLSI Technology and Circuits, Honolulu, USA, 2018.

Thinker-S 芯片報告現場
近年來,深度學習的突破性發展帶動了機器視覺、語音識別以及自然語言處理等領域的進步,引起了學術界和工業界極大的開發熱情和研究興趣。然而,由于深度神經網絡巨大的存儲開銷和計算需求,功耗成為 Deploy AI Everywhere 的主要障礙,人工智能算法在移動設備、可穿戴設備和 IoT 設備中的廣泛應用受到了制約。
為克服上述瓶頸,清華大學 Thinker 團隊對神經網絡低位寬量化方法、計算架構和電路實現進行了系統研究,提出了支持低位寬網絡高能效計算的可重構架構,設計了神經網絡通用計算芯片 Thinker-II 和語音識別芯片 Thinker-S。Thinker-II 芯片運行在 200MHz 時,其功耗僅為 10 毫瓦;Thinker-S 芯片的最低功耗達到 141 微瓦,其峰值能效達到 90TOPs/W。這兩款芯片有望在電池供電設備和自供能 IoT 設備中廣泛應用。
Thinker-Ⅱ芯片中設計了兩種二值/三值卷積優化計算方法及硬件架構,大幅降低了算法復雜度、有效去除了冗余計算。此外,針對由稀疏化帶來的負載不均衡問題,設計了層次化均衡調度機制,通過軟硬件協同的兩級任務調度,有效提升了資源利用率。Thinker-II 芯片采用 28nm 工藝,通過架構和電路級重構,支持神經網絡通用計算。 
Thinker-II 芯片總體架構
Thinker-S 芯片中設計了一種基于二值卷積神經網絡和用戶自適應的語音識別框架,同時利用語音信號處理的特點,提出了時域數據復用、近似計算和權值規整化等優化技術,大幅度優化了神經網絡推理計算。Thinker-S 芯片采用 28nm 工藝,單次推理計算中每個神經元上消耗的能量最低僅為 2.46 皮焦。

Thinker-S 芯片總體架構

Thinker-II 演示系統

Thinker-S 在 VLSI 2018 大會現場演示
清華大學 Thinker 團隊近年來設計了 Thinker 系列人工智能芯片,相關成果相繼發表在 VLSI Symposia、ISCA、IEEE JSSC 等頂尖學術會議和期刊上,受到了學術界和工業界的廣泛關注。此次的研究成果,專注于滿足移動設備、嵌入式設備以及物聯網中人工智能計算需求,有望在電池供電以及自供能智能設備中獲得廣泛應用,向著 Deploy AI everywhere 的目標更進一步。
雷鋒網推薦閱讀:
斬獲ISCA 2018中國唯一一作論文,清華大學Thinker團隊提出AI計算芯片的存儲優化新方法
清華大學博士生涂鋒斌:設計神經網絡硬件架構時,我們在思考些什么?(上) | 硬創公開課總結
清華大學博士生涂鋒斌:設計神經網絡硬件架構時,我們在思考些什么?(下) | 硬創公開課總結
在 6 月 29 日至 7 月 1 日舉行的 CCF-GAIR 2018 上,清華大學微電子所所長魏少軍教授將作為 AI 芯片專場的學術嘉賓蒞臨現場做大會報告。

雷峰網版權文章,未經授權禁止轉載。詳情見轉載須知。