0
| 本文作者： AI研習(xí)社-譯站 | 2020-09-09 11:17 |
字幕組雙語原文：時間卷積網(wǎng)絡(luò)：時間序列的下一場革命？
英語原文：Temporal Convolutional Networks, The Next Revolution for Time-Series?
翻譯：雷鋒字幕組（君思）
這篇文章回顧了幾個最新的基于TCN的解決方案。
我們首先介紹運動檢測的案例研究，并簡要回顧一下TCN架構(gòu)及其相對于傳統(tǒng)方法（如卷積神經(jīng)網(wǎng)絡(luò)（CNN）和遞歸神經(jīng)網(wǎng)絡(luò)（RNN））的優(yōu)勢。然后介紹了TCN的幾個新穎應(yīng)用，包括改善交通預(yù)測，聲音事件定位和檢測以及概率預(yù)測。
Lea等人的開創(chuàng)性工作。（2016）首先提出了基于視頻的動作分割的時間卷積網(wǎng)絡(luò)（TCN）。此常規(guī)過程的兩個步驟包括：首先，使用（通常）對時空信息進行編碼的CNN來計算低級特征，其次，將這些低級特征輸入到使用（通常是）捕獲高級時域信息的分類器中）RNN。這種方法的主要缺點是需要兩個單獨的模型。 TCN提供了一種統(tǒng)一的方法來分層捕獲所有兩個級別的信息。
編碼器-解碼器框架如圖1所示，其中有關(guān)體系結(jié)構(gòu)的更多信息可以在前兩個參考文獻中找到（在文章末尾）。提供了最關(guān)鍵的問題，如下所示：TCN可以采用一系列任意長度并將其輸出為相同長度。在使用一維完全卷積網(wǎng)絡(luò)體系結(jié)構(gòu)的情況下，使用因果卷積。一個關(guān)鍵特征是，時間t的輸出 僅與t之前發(fā)生的元素卷積 。
隨著Yan等人最近發(fā)表的研究成果，圍繞TCN的話題甚至傳到了《自然》雜志上。（2020）在TCN上進行天氣預(yù)報任務(wù)。在他們的工作中，使用TCN和LSTM進行了對比實驗。他們的結(jié)果之一是，除其他方法外，TCN在使用時序數(shù)據(jù)的預(yù)測任務(wù)中表現(xiàn)出色。
下一部分提供了此經(jīng)典TCN的實現(xiàn)和擴展。
拼車和在線導(dǎo)航服務(wù)可以改善交通預(yù)測效果并改變?nèi)藗兊某鲂蟹绞健Ｍㄟ^更好的交通預(yù)測可以實現(xiàn)更少的交通擁堵，更少的污染，安全和快速的駕駛等。由于這是實時數(shù)據(jù)驅(qū)動的問題，因此有必要利用即將到來的流量的累積數(shù)據(jù)。基于此，Dai等人最近（2020）提出了一種混合時空圖卷積網(wǎng)絡(luò)（H-STGCN）。總體思路是利用分段襯里流量密度關(guān)系的優(yōu)勢，并將即將來臨的交通量轉(zhuǎn)換為等效的行進時間。他們在這項工作中使用的最有趣的方法之一是圖卷積以捕獲空間依賴性。復(fù)合鄰接矩陣捕獲流量近似的固有特征（更多信息，請參見Li，2017）。在以下架構(gòu)中，提出了四個模塊來描述整個預(yù)測過程。
Dai et al. (2020)
聲音事件定位和檢測
聲音事件定位和檢測（SELD）的領(lǐng)域在不斷增長。對環(huán)境的了解在自主導(dǎo)航中起著至關(guān)重要的作用。Guirguis等最近（2020）提出了一種聲音事件SELD-TCN的新穎架構(gòu)。他們聲稱，他們的框架在現(xiàn)場培訓(xùn)方面比當(dāng)前最先進的技術(shù)領(lǐng)先。在他們的SELDnet（以下結(jié)構(gòu)）中，以44.1 kHz采樣的多聲道音頻記錄通過應(yīng)用短時傅立葉變換提取頻譜的相位和幅度，并將其堆疊為單獨的輸入特征。然后，連接卷積塊和循環(huán)塊（雙向GRU），然后連接完全連接的塊。SELDnet的輸出是聲音事件檢測（SED）和到達方向（DOA）。
Guirguis et al. (2020)
為了超越它，他們提出了SELD-TCN：
Guirguis et al. (2020)
由于擴張的卷積使網(wǎng)絡(luò)能夠處理各種輸入，因此可能需要更深入的網(wǎng)絡(luò)（在反向傳播期間，網(wǎng)絡(luò)會受到不穩(wěn)定梯度的影響）。他們通過適應(yīng)WaveNet（Dario et al。，2017）架構(gòu)克服了這一挑戰(zhàn)。他們表明SELD任務(wù)不需要循環(huán)層，并成功檢測到活動聲音事件的開始和結(jié)束時間。
由Chen等人設(shè)計的新穎框架（2020）可用于估計概率密度。時間序列預(yù)測改善了許多業(yè)務(wù)決策方案（例如，資源管理）。概率預(yù)測可以從歷史數(shù)據(jù)中提取信息，并最大限度地減少未來事件的不確定性。當(dāng)預(yù)測任務(wù)是預(yù)測數(shù)以百萬計的相關(guān)數(shù)據(jù)系列時（如在零售業(yè)務(wù)中），它需要大量的勞動力和計算資源來進行參數(shù)估計。為了解決這些困難，他們提出了基于CNN的密度估計和預(yù)測框架。他們的框架可以學(xué)習(xí)系列之間的潛在關(guān)聯(lián)。他們的工作中的新穎之處在于他們提出的深層TCN，如其體系結(jié)構(gòu)所示：
Chen et al. (2020)
編碼器-解碼器模塊解決方案可能有助于實際的大規(guī)模應(yīng)用設(shè)計。
在這篇文章中，我們介紹了最近的工作：基于時間卷積網(wǎng)絡(luò)，比經(jīng)典的CNN和RNN方法更好地完成時間序列任務(wù)的方法。
雷鋒字幕組是一個由 AI 愛好者組成的翻譯團隊，匯聚五百多位志愿者的力量，分享最新的海外AI資訊，交流關(guān)于人工智能技術(shù)領(lǐng)域的行業(yè)變革與技術(shù)創(chuàng)新的見解。
團隊成員有大數(shù)據(jù)專家、算法工程師、圖像處理工程師、產(chǎn)品經(jīng)理、產(chǎn)品運營、IT咨詢?nèi)恕⒃谛熒恢驹刚邆儊碜訧BM、AVL、Adobe、阿里、百度等知名企業(yè)，北大、清華、港大、中科院、南卡羅萊納大學(xué)、早稻田大學(xué)等海內(nèi)外高校研究所。
如果，你也是位熱愛分享的AI愛好者。歡迎與雷鋒字幕組一起，學(xué)習(xí)新知，分享成長。
雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
