0
關于深度學習的框架之爭一直都沒停止過，每隔一陣大家就要進行一次框架大討論：
TensorFlow的使用者雖多，又有谷歌的背書，但真的很！難！用！
Pytorch雖然入門簡單、上手快，但因為開源時間不長，關于它的文檔和代碼相對較少。
Keras作為TensorFlow的高級KPI，一旦有什么想法需要快速建模驗證時很方便，但相較tf功能還是沒那么全。
Caffe雖然方便部署，但是C++的框架，在編程上會比較難。
……
每個框架都各有優(yōu)劣，而針對于此的討論也一直沒有停息。
近日，Yoshua Bengio教授的一封郵件又讓對框架的討論迅速升溫，在郵件中，他表示， 他們將會停止對Theano的更新，接下來，會以最低成本對Theano進行為期一年的維護，之后就將徹底與Theano告別。詳情可參見雷鋒網此前發(fā)文【深度學習框架Theano 宣布完成歷史使命，即將退役】。
這意味著，開發(fā)者又要與一個深度學習框架說再見了。
深度學習框架祖師爺Theano
早在今年一月份雷鋒網 AI科技評論進行框架大盤點時，就曾詳述過Theano 。詳情可以參見【盤點四大民間機器學習開源框架：Theano、Caffe、Torch 和 SciKit-learn】
Theano基于 Python，是一個擅長處理多維數(shù)組的庫（這方面類似于 NumPy），它的設計初衷是執(zhí)行深度學習中大規(guī)模神經網絡算法的運算。Theano早期的開發(fā)者有Yoshua Bengio和Ian Goodfellow，由于出身學界，它最初是為學術研究而設計。當它與其他深度學習庫結合起來之后，會非常適合于數(shù)據(jù)探索。
Theano可以被更好地理解為一個數(shù)學表達式的編譯器：用符號式語言定義你想要的結果，該框架會對你的程序進行編譯，來高效運行于 GPU 或 CPU。
在過去的很長一段時間內，Theano都是是深度學習開發(fā)與研究的行業(yè)標準。比起深度學習庫，它更像是一個研究平臺，你需要從底層開始做許多工作，來創(chuàng)建自己需要的模型，這就意味著它的靈活性很強。
再怎么優(yōu)秀的工具都有退出歷史舞臺的一天，曾經深得學界青睞的Theano也不例外。
作為深度學習框架中祖師級的存在，從 2007的推出到2017的落幕，到現(xiàn)在剛好歷經十年。
Theano已完成歷史使命，功成身退
針對Theano的落幕，AI科技評論與眾多開發(fā)者進行了交流，大家的看法出奇一致：
——對于這件事情并不吃驚，很正常的更新?lián)Q代。
——以前用 Theano的人大都已經換成其他框架，Theano已完成了它的歷史使命，退出舞臺是必然的。
為什么說Theano的落幕是歷史必然？針對于此，AI科技評論聯(lián)系了幾個曾經接觸過Theano的開發(fā)者進行了采訪：
KDD Cup 2017的雙料冠軍胡可對AI科技評論表示 ，雖然在KDD Cup比賽時用了Theano，但平時在其他任務上一般用的是TensorFlow或者CNTK?！癟heano完成了它的歷史使命，它比較適合實驗室的toy data，不太適合當前工業(yè)界‘大數(shù)據(jù)’的需求。”正如胡可所言，生于學界的Theano，必然有其應用局限性——比較適合做小規(guī)模的短期實驗，而在近兩年數(shù)據(jù)量劇增且優(yōu)秀框架層出不窮的當下，就不再那么得人心了。
曾經接觸過Theano的一位開發(fā)者表示，Theano的速度在當時來說，與同期的Torch相比并不算快，更比不上現(xiàn)在新出的框架。此外，在代碼實現(xiàn)上，比起其他框架，Theano也不是很直接。
2015年，一個關于機器學習的博客fastML就將Torch與Theano進行了對比：
圖中紅色柱狀圖指Torch，綠色柱狀圖指Theano，可以看到Torch在大多數(shù)情況下性能都要優(yōu)于Theano。
而對于使用Theano的原因，卡內基梅隆大學（CMU）語言技術研究所（LTI）博士研究生王赟對AI科技評論表示，他是2015年初開始做深度學習的，那時候還沒有Tensorflow，而同時期的Torch又是基于他不會的Lua語言，所以最終選擇了Theano。“才短短兩年多，就已經天翻地覆”，他感慨道。確實如此，短短兩年的時間，TensorFlow的用戶量就遙遙領先，亞馬遜開始為Mxnet背書，微軟和 Facebook 也牽手發(fā)布ONNX，而Theano則黯然退出歷史舞臺。
Theano并非完全消失
那么，就像之前媒體所報道的那樣，Theano已死？并非如此。
Bengio在他的公開郵件上這樣寫道，“多年以來，我們都以 Theano 的創(chuàng)新深感自豪，其創(chuàng)新也正被其他框架繼承和優(yōu)化。比如，把模型表達為數(shù)學表達式、重寫計算圖以獲得更優(yōu)性能和內存使用、GPU 上的透明執(zhí)行、更高階的自動微分，正在全部成為主流?！?/p>
正如Bengio所言，從現(xiàn)在的主流模型之中，我們仍然可以看到Theano的影子。它并沒有死，而是影響著許許多多的模型。
事實上，Theano的很多開發(fā)人員都去谷歌參與TensorFlow的開發(fā)了，其中包括早期開發(fā)成員Ian Goodfellow。而后起之秀Tensorflow在功能上與Theano十分相似，它也是一個偏底層的框架，相比Theano，性能也更加優(yōu)化。
上圖為TensorFlow系統(tǒng)架構，詳情可參見雷鋒網【從系統(tǒng)和代碼實現(xiàn)角度解析TensorFlow的內部實現(xiàn)原理】一文。
AWS工程師張幟對AI科技評論表示：新老交替，這一天總會來的。基本上所有的輪子都參考過Theano，它也不算徹底消失。
知乎網友mileistone 也如此評價Theano：Theano開啟了基于符號運算的機器學習框架的先河，然后隨著tf和pytorch的崛起，完成自己的歷史任務。
下一步
Bengio在他的郵件中表示，目前支持深度學習研究的軟件生態(tài)系統(tǒng)快速進化，還有很多別的優(yōu)秀的深度學習框架可供選擇。
而隨著對「Theano停止更新」的緬懷結束，似乎話題又要轉向另一個方向了，那就是，究竟下一步該選擇什么框架呢？
討論雖多，每家各執(zhí)一言，但有個不爭的事實：TensorFlow的忠實擁護者一直處于遙遙領先狀態(tài)，有利于快速建模驗證的Keras也頗得人心，后起之秀PyTorch的粉絲數(shù)日益增多，背靠亞馬遜的MxNet、背靠微軟的CNTK更新也一直穩(wěn)定。
不過對框架的選擇也許并不是重點，有網友評價，框架就是刻刀，而開發(fā)者是雕刻家。雖說刻刀的選擇很重要，但雕出來的東西好不好，更多是取決于個人。
CMU LTI博士研究生王赟也對AI科技評論這樣說道：
其實這么多年我看著各種庫的起起落落，還有一種感慨是研究者不能始終抱著一個大腿，要與時俱進。但是時代的潮流在哪里也不是隨時都能看出來的，也沒法時刻保持自己在前沿，但好在掌握了一個庫之后再換另一個庫并不是很費勁。
相信這也是千千萬萬開發(fā)者的觀點，框架的選擇并沒有「那么」重要，更重要的是研究者自身的與時俱進。
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
