0
雷鋒網 AI 開發者按：在 AI 換臉技術飽受各界質疑當兒，社交巨頭 Facebook 宣布投入超過1000萬美元打造deepfake （一種流行的AI換臉技術）檢測競賽，以便創建能用于“打假”模型訓練的數據集。據官網介紹，競賽結果與完整數據集將于今年12月份舉行的 NeurIPS 會議上公布。
雷鋒網 AI 開發者將賽事介紹編譯如下。
目前，競賽官網已正式上線：https://deepfakedetectionchallenge.ai/
數據集和基準是加速人工智能發展的最有效工具。我們目前在深度學習方面的復興在一定程度上是由ImageNet benchmark所推動的。GLUE 和SuperGLUE benchmark加速了自然語言處理的進展。
“deepfake”技術能夠呈現人工智能生成的逼真視頻，用虛構出來的人做和說看起來真實的事情，對確定網上呈現的信息的合法性具有重要意義。然而，這個行業并沒有一個很好的數據集或benchmark來檢測它們。我們希望促進這一領域的研究和開發，并確保有更好的開源工具來檢測deepfake。這就是為什么Facebook，微軟，以及來自康奈爾科技，麻省理工，牛津大學，加州大學伯克利分校，馬里蘭大學，學院公園，和奧爾巴尼大學蘇尼分校的學者們一起建立了“deepfake檢測挑戰賽”（Deepfake Detection Challenge，DFDC）。
這項挑戰的目標是開發出一種每個人都可以使用的技術，它可以更好地檢測人工智能何時被用來篡改視頻，誤導觀眾。DFDC將包括一個數據集和排行榜，同時還會有撥款和獎勵，以刺激行業創造新的方式來檢測出并防止被人工智能操縱的媒體用來誤導他人。人工智能和媒體誠信指導委員會的伙伴將促進和監督這一挑戰賽，該委員會由一個廣泛的跨部門組織聯盟組成，包括Facebook、Witness、Microsoft和民間、技術界的其他組織、媒體和學術團體。
最重要的是要有可供社區免費使用的數據，并有足夠的參與者，而且在使用上不能有很多限制。這就是為什么Facebook正在構建一個現實的數據集，參與者將可以免費使用，并為這一挑戰做出貢獻。此數據集中不會使用Facebook用戶數據。為了鼓勵更多參與，我們還設立了研究合作和挑戰獎。總的來說，我們將投入超過1000萬美元來支持這項全行業的努力。
為了確保數據集和挑戰參數的質量，這些參數將在今年10月的國際計算機視覺會議（ICCV）上，通過有專業的技術工作會議進行初步測試。完整的數據集和DFDC的發布將在今年12月的NeurIPS會議上進行。Facebook也將參與挑戰賽，但不接受任何經濟獎勵。請訪問我們的網站（https://deepfakedetectionchallenge.ai/）以獲取定期更新。
和垃圾郵件以及其他挑戰一樣，這是一個不斷演變的問題，我們希望將行業和人工智能社區的力量結合在一起，取得更快的進展。
（via https://ai.facebook.com/blog/deepfake-detection-challenge/）
9 月 4 日，據國外媒體報道，Facebook 宣布整改，將停止在用戶的照片和標簽建議中默認使用面部識別功能。在本周發表的一篇博客文章中，Facebook 表示，注冊的新用戶和那些開啟了標簽建議設置的用戶將會收到一份關于該平臺如何使用人臉識別這項技術的通知。
Facebook 這一舉動的背后，反應出的正是大眾對個人隱私的重視；類似的還有近來的「zao」事件、人臉識別課堂考勤、換臉 FakeSwap 開源等。不斷革新的技術就像一把雙刃劍，它們給生活帶來便利的同時，也為個人隱私帶來了一定困擾。
不過可喜的是，從大眾對這些事件的回應來看，我們能感受國民隱私意識的覺醒。那么，針對隱私保護，個人、企業、國家能做什么呢？特此，雷鋒網 AI 開發者將隱私保護相關事件以及技術防范措施整理編輯如下。
前幾天的「ZAO」一經發布，就得到了超高的反響，朋友圈到處都是「歡樂的換臉生活」。這款 APP 可以將用戶上傳的人臉，和影視作品里的明星臉無縫切換。可沒過多久，便有人發現「ZAO」背后的重重隱患。
首先是「ZAO」的霸王條款。在 APP 使用協議中，「ZAO」規定：
在您上傳及/或發布用戶內容之前，您同意或者確保實際權利人同意授予「ZAO」及其關聯公司以及「ZAO」用戶全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限于可以對用戶內容進行全部或部分的修改與編輯。
如果您把用戶內容中的人臉換成您或者其他人的臉，您同意或確保肖像權利人同意授予「ZAO」及其關聯公司以及「ZAO」用戶全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限于：人臉照片、圖片、視頻資料等。
總之就是一經上傳，照片中的人立即失去肖像權；不僅可供「ZAO」免費使用，而且還能無條件任意修改。要是你用的是別人的臉，比如明星什么的，那還都是你的責任，「ZAO」依舊可以無條件免費使用與修改，甚至是隨意授權給第三方，作為信息販賣。
而「ZAO」這一設定，正是抓住了我們通常因為嫌麻煩，而不會仔細閱讀「協議條款」的心理，才讓它抱著一種僥幸心理，大肆侵犯我們的個人隱私。不過也正是因為關乎隱私，「ZAO」因該用戶協議涉嫌過度收集用戶信息、及隱私安全爭議，被工業和信息化部網絡安全管理局約談，并要求其嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規手機使用用戶個人信息，規范協議條款。
「ZAO」運營團隊隨即也發布了致歉聲明，并表示「ZAO」不會存儲個人面部生物識別特征信息；并且用戶刪除信息或注銷賬號，「ZAO」均會依據相關法律法規的規定刪除相應信息。
由數據引發的隱私問題還有人臉識別監管、瀏覽器記錄數據、數據人肉等等，甚至現在連逛淘寶店，都可能泄露我們的電話信息，而收到垃圾短信。因此有部分人調侃到：大數據時代無隱私。
政府部門的強有力監管，企業的積極配合，個人的道德規范；都能夠在一定程度上加強對個人隱私的保護。
Fecebook此次重金投入換臉技術檢測競賽，無非也是想讓我們在數據隱私上能夠掌握更多的主動權。
當然除此之外，我們也可以從技術方面來有意識規避隱私侵犯，從而維護個人的安全。
比如大數據分析共享方面，我們不要忽視隱私基準評估、隱私數據識別、數據監控掃描、數據加密、安全存儲，通道加密、傳輸行為審計，數據脫敏，數據鎖等多方面工作，從而可以從隱私數據的紅線、網絡行為模型、實時監測等方式來更好地維護隱私安全。而在數據加密上，目前也有多種技術，包括：傳統的 DES/AES 對稱加密技術、同態加密隱私保護技術、差分隱私保護技術等。
其中，同態加密的核心是能夠直接在密文上做運算，在機器學習和深度學習過程中使用同態加密對數據加密然后分析計算，能夠很好地解決許多領域要求數據保密、安全的問題。差分隱私的任務則是提供一種關于輸出的概率分布的機制或者協議，允許用戶對數據進行一定程度的修改，但不影響總體輸出，從而使得攻擊者無法知道數據集中關于個人的信息，達到隱私保護的作用。
在這個「沒有秘密」的時代，盡管我們無法左右數據革新浪潮；但是我們可以更加謹慎地去維護屬于我們的合法隱私權益。
雷鋒網 AI 開發者
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
