今日 Paper | 虛擬試穿網絡；人群計數基準；聯邦元學習；目標檢測等

為了幫助各位學術青年更好地學習前沿研究成果和技術，AI科技評論聯合Paper 研習社（paper.yanxishe.com），重磅推出【今日 Paper】欄目， 每天都為你精選關于人工智能的前沿學術論文供你學習參考。以下是今日的精選內容——

論文名稱：NWPU-Crowd: A Large-Scale Benchmark for Crowd Counting

作者：Wang Qi /Gao Junyu /Lin Wei /Li Xuelong

發表時間：2020/1/10

論文鏈接：https://paper.yanxishe.com/review/8731?from=leiphonecolumn_paperreview0114

推薦原因：這篇論文考慮的是人群計數的問題。

目前公開的人群基數數據集規模都太小，不適合基于卷積神經網絡的訓練。這篇論文的貢獻是一個一個大規模擁擠人群計數數據集NWPU-Crowd，包含了5109張圖像，共標注了2133238個人。與其他數據集相比，新數據集包含各種光照場景，并具有目前該類問題的最大密度范圍。除此之外，研究者還開放了一個針對該數據集的評測網站，可以在上面提交最新結果，促進大家的研究成果進行比較。

論文名稱：A Collaborative Learning Framework via Federated Meta-Learning

作者：Lin Sen /Yang Guang /Zhang Junshan

發表時間：2020/1/9

論文鏈接：https://paper.yanxishe.com/review/8732?from=leiphonecolumn_paperreview0114

這篇論文考慮的是實時邊緣智能的問題。

物聯網中邊緣設備由于其受限的計算資源和有限的本地數據，通常無法實現實時邊緣智能。為此這篇論文提出了一個平臺增強的協同過濾框架，首先通過聯合元學習方法在一組邊緣節點上訓練模型，然后僅通過幾個樣本就可以使得模型快速適應目標邊緣節點上的新任務。同時這篇論文還研究了其所提出的聯合元學習算法在節點相似性和目標邊緣的自適應性能上的收斂性。為了防御元學習算法可能遭受的對抗性攻擊，這篇論文進一步提出了基于分布魯棒性優化的聯合元學習算法。在不同數據集上進行的實驗證明了這篇論文所提出的基于聯合元學習的框架的有效性。

論文名稱：VITON: An Image-based Virtual Try-on Network

作者：Han Xintong /Wu Zuxuan /Wu Zhe /Yu Ruichi /Davis Larry S.

發表時間：2017/11/22

論文鏈接：https://paper.yanxishe.com/review/8579?from=leiphonecolumn_paperreview0114

推薦原因

1、第一篇關于虛擬試衣的論文

2、采用TPS的 Wrap技術

3、開源代碼；（目前數據源因法律風險關閉了）

4、值得入門閱讀

論文名稱：Transfer learning for time series classification

作者：Fawaz Hassan Ismail /Forestier Germain /Weber Jonathan /Idoumghar Lhassane /Muller Pierre-Alain

發表時間：2018/11/5

論文鏈接：https://paper.yanxishe.com/review/70?from=leiphonecolumn_paperreview0114

推薦理由：深度神經網絡的轉移學習是首先在源數據集上訓練基礎網絡，然后將學習到的特征（網絡權重）轉移到第二個要在目標數據集上進行訓練的網絡的過程。該想法已被證明可以在許多計算機視覺任務（例如圖像識別和對象定位）中提高深度神經網絡的泛化能力。除了這些應用程序外，深度卷積神經網絡（CNN）最近在時間序列分類（TSC）社區中也很受歡迎。但是，與圖像識別問題不同，對于TSC任務，尚未對傳遞學習技術進行徹底研究。這令人驚訝，因為如果從預先訓練的神經網絡（而不是從頭開始訓練）對模型進行微調，則可以潛在地提高TSC深度學習模型的準確性。

在本文中，作者通過研究如何為TSC任務傳輸深層CNN來填補這一空白。為了評估轉移學習的潛力，作者使用UCR檔案進行了廣泛的實驗，該檔案是包含85個數據集的最大的公開TSC基準。對于檔案中的每個數據集，預先訓練了一個模型，然后在其他數據集上進行了微調，產生了7140個不同的深度神經網絡。這些實驗表明，轉移學習可以根據轉移所使用的數據集來改善或降低模型的預測。因此，為了預測給定目標數據集的最佳源數據集，作者提出了一種依靠動態時間扭曲來測量數據集間相似性的新方法，并描述了其方法如何指導轉移以選擇最佳源數據集，從而提高了85個數據集中的71個數據集的準確性。

論文名稱：PR Product: A Substitute for Inner Product in Neural Networks

作者：Wang Zhennan /Zou Wenbin /Xu Chen

發表時間：2019/4/30

論文鏈接：https://paper.yanxishe.com/review/176?from=leiphonecolumn_paperreview0114

推薦理由：權重向量w與特征向量x的內積運算在神經網絡中無處不在，但幾乎沒有人思考和研究過使用內積帶來的負面影響。

本文指出了內積運算的缺點，新提出了PR乘積運算，該運算克服了內積運算的缺點，能夠降低網絡的訓練難度。

1.研究動機：內積運算在向量夾角接近0或pi時會使反向傳播的梯度變小，增大了網絡訓練的難度

2.創新點：提出PR乘積運算，該運算在前向傳播中與內積等價，但是在反向傳播中能夠令參數梯度與向量夾角無關

3.實驗結果：單純的將內積運算替換成PR乘積就能夠明顯的提升各類網絡的性能，且FC、CNN、RNN均適用。

PR乘積簡單有效，即插即用，像一把趁手的瑞士軍刀，該文已被ICCV 2019 接收為口頭報告論文。

作者順手提供了PR乘積版本的Dense層、卷積層和LSTM單元的PyTorch代碼，即拆即用。

論文名稱：FASTER NEURAL NETWORKS STRAIGHT FROM JPEG

作者：Lionel Gueguen /Alex Sergeev /Ben Kadlec /Rosanne Liu /Jason Yosinski

發表時間：2018/3/21

論文鏈接：https://paper.yanxishe.com/review/72?from=leiphonecolumn_paperreview0114

推薦理由：如果沒有了解過圖像編碼，那么你可能會認為圖片就等于三通道RGB張量。但事實上，電子設備中的圖片都是經過編碼的，編碼后的圖像文件往往更小更緊湊，便于存儲和傳輸。現有的神經網絡都使用原始的RGB像素作為輸入，需要對圖片文件進行完全解碼，但既然NN是萬能的映射學習器，能不能省去繁瑣的解碼步驟，直接基于編碼文件學習“輸入 -> 標簽的”映射關系呢？

這篇來自NIPS18的論文以應用最廣泛的JPEG編碼圖像為例做了嘗試。他們以“半解碼”的JPEG圖像（離散的DCT系數塊）作為輸入數據，以ResNet-50網絡為例進行了適應性改造（適應尺寸），在ImageNet數據集上的分類任務評估實驗表明網絡在保持同等性能的情況下速度提升了1.77倍！也就是說“偷懶”為網絡帶來了顯著的提升！個人認為其奧秘在于量化后的DCT系數表。相較于原始的像素點輸入，它是一個基于頻域的更加精煉、更加緊湊的新表示（Representation）,好的表征自然更容易產生好的結果，有數據挖掘比賽經歷的同學可以聯想一下所謂的“強特上分”，也就不難理解這篇論文為什么work了。

這篇文章出自Uber AI Lab，內容簡單易理解，10分鐘快速一覽，給你新的有趣見解。

論文名稱：Object Detection in 20 Years: A Survey

作者：Zou Zhengxia /Shi Zhenwei /Guo Yuhong /Ye Jieping

發表時間：2019/5/13

論文鏈接：https://paper.yanxishe.com/review/53?from=leiphonecolumn_paperreview0114

推薦理由：這是一篇昨天于arXiv發布的目標檢測綜述，作者對目標檢測領域進行了深度剖析，從數據集、評估指標到技術演化，從早期的VJ Det、HOG Det等傳統方法到近年的FPN、RetinaNet等新方法，更有多尺度檢測的演變、候選框回歸的發展、NMS的進步、檢測速度的突破、實際應用的繁榮等大量干貨。誠意滿滿，強烈推薦！

論文名稱：Spherical Text Embedding

作者：Meng Yu /Huang Jiaxin /Wang Guangyuan /Zhang Chao /Zhuang Honglei /Kaplan Lance /Han Jiawei

發表時間：2019/11/4

論文鏈接：https://paper.yanxishe.com/review/4532?from=leiphonecolumn_paperreview0114

推薦理由：本文是數據挖掘領域專家韓家煒教授極力推薦的文章，非常值得一讀。

研究背景：無監督文本嵌入在各種NLP任務中顯示了強大的功能。大量的文本數據本身就隱含了大量的隱模式、結構和知識， 盡管通常在歐幾里德空間中學習文本嵌入，但是方向相似性在諸如單詞相似性和文檔聚類之類的任務中通常更有效，這在文本嵌入的訓練階段和使用階段之間造成了差距。

創新點：為了彌補這一差距，作者提出了一種球形生成模型，在該模型的基礎上，可以共同學習無監督的單詞和段落嵌入。為了學習球形空間中的文本嵌入，本文作者開發了一種基于黎曼優化的具有收斂保證的高效優化算法。

研究意義：作者的模型具有很高的效率，并且在包括單詞相似性和文檔聚類在內的各種文本嵌入任務上均具有最先進的性能。因此我們可以借助該模型，來探索 如何將海量數據從非結構化的數據轉化為有用的知識。

論文名稱：Mechanism Design with Predicted Task Revenue for Bike Sharing Systems

作者：Lv Hongtao /Zhang Chaoli /Zheng Zhenzhe /Luo Tie /Wu Fan /Chen Guihai

發表時間：2019/11/18

論文鏈接：https://paper.yanxishe.com/review/5496?from=leiphonecolumn_paperreview0114

推薦理由：這篇論文被AAAI 2020接收，解決的核心問題是利用用戶進行共享單車的調度的激勵問題。

與之前的紅包車類似，共享單車公司可以通過紅包的形式激勵用戶將單車騎到指定的位置。這篇論文考慮的是當共享單車公司可以預測調度任務可以帶來的預期收入（例如基于歷史數據）場景下，提出了一種名為TruPreTar的機制，包含用戶的任務分配和獎勵方案，來激勵用戶完成單車的調度任務以實現供需的平衡。這種機制可以滿足包括真實上報和預算可行等經濟學和計算性質。當公司預算有限時，這個機制也能帶來超過預算的預期收入。作者們在摩拜的數據集上驗證了他們提出的方案的有效性。

目前共享單車市場已經不再野蠻擴張，而是進入了精細化運作的階段。激勵用戶主動進行單車的調度不僅可以省下專門的運營人員的費用，也能夠提高單車的利用率。然而如何根據有限的預算，設計高效的用戶激勵方案，以及這類激勵方案是否會被用戶接受、如何防止用戶薅羊毛等問題仍然有待進一步研究。

論文名稱：Semantics-aware BERT for Language Understanding

作者：Zhang Zhuosheng /Wu Yuwei /Zhao Hai /Li Zuchao /Zhang Shuailiang /Zhou Xi /Zhou Xiang

發表時間：2019/9/5

論文鏈接：https://paper.yanxishe.com/review/6193?from=leiphonecolumn_paperreview0114

推薦理由：關于語言表示的最新工作將上下文相關的功能仔細地集成到了語言模型訓練中，從而取得了一系列成功，尤其是在各種機器閱讀理解和自然語言推理任務中。但是，現有的語言表示模型（包括ELMo，GPT和BERT）僅利用普通的上下文相關功能，例如字符或單詞嵌入。他們很少考慮合并可以為語言表示提供豐富語義的結構化語義信息。

創新點：為了促進對自然語言的理解，作者建議從預先訓練的語義角色標簽中加入顯式的上下文語義，并引入一種改進的語言表示模型，即語義感知的BERT（SemBERT），該模型能夠在BERT骨干上顯式吸收上下文語義。SemBERT可以通過微調的方式保持BERT前驅設備的便利可用性，而無需進行大量針對特定任務的修改。與BERT相比，語義感知BERT在概念上簡單但功能強大。在十項閱讀理解和語言推理任務上，它獲得了最新的技術水平或顯著提高了結果。

雷鋒網雷鋒網雷鋒網