原創(chuàng) 文摘菌 大數(shù)據(jù)文摘

大數(shù)據(jù)文摘出品

俄羅斯和烏克蘭沖突尚未結(jié)束，網(wǎng)絡(luò)中也還硝煙彌漫。

近日，一條烏克蘭總統(tǒng)弗拉基米爾·澤連斯基（Volodymyr Zelensky）的“視頻”被廣泛傳播，在視頻中，澤連斯基呼吁烏克蘭士兵放下武器。

從視頻來看，澤連斯基的臉顯得很不自然，文摘的老讀者應(yīng)該很快能辨認(rèn)出來，這明明又是一款用Deepfake做的換頭“視頻”。

這條視頻周三被黑客放到烏克蘭一家被黑的新聞網(wǎng)站上，隨后被揭穿和刪除。

只不過，因為這條視頻在推特上傳播的也很廣，觀看人數(shù)超過25萬，澤連斯基本人也在推特發(fā)文辟謠。

烏克蘭國防情報預(yù)測：就是俄羅斯干的

在這份大概一分鐘長的偽造視頻中，烏克蘭總統(tǒng)澤連斯基似乎在告訴士兵們放下武器，放棄對俄戰(zhàn)斗。

盡管還沒人宣稱為此事負(fù)責(zé)，但是在烏克蘭國防情報眼中，俄羅斯的嫌疑最大。

這個月初，烏克蘭國防情報還專門在推特向大家科普什么是Deepfake，在科普視頻中，包括美國現(xiàn)任總統(tǒng)拜登等多國政要都以Fake形象出鏡。

烏克蘭國防情報在推特中寫道，

你們可能都聽說過 Deepfake 技術(shù)，它是深度學(xué)習(xí)和欺詐的組合，一種基于人工智能合成人類圖像的技術(shù)。俄羅斯聯(lián)邦的挑釁正在準(zhǔn)備中。

這似乎預(yù)示了這次澤連斯基Deepfake的出現(xiàn)。

不過，澤連斯基這個Deepfake的視頻似乎活干的比較粗糙。雖然視頻中的對口型還過得去，但觀眾很快就指出，澤連斯基的口音不對，仔細(xì)觀察他的頭部和聲音并不真實。

隨后，F(xiàn)acebook、YouTube和Twitter 的官員表示，這段視頻因違反政策而被從他們的平臺上刪除。

這個視頻作為戰(zhàn)爭狀態(tài)下第一個針對一國元首的Deepfake視頻，預(yù)示著一種新的輿論戰(zhàn)形式。

加州大學(xué)伯克利分校(University of California，Berkeley)教授、數(shù)字媒體取證專家哈尼 · 法里德(Hany Farid)說，“這是我們看到的第一個真正站穩(wěn)腳跟的案例，但我懷疑這只是冰山一角?！?/p>

之后，澤連斯基在他的Telegram頻道發(fā)布的一段視頻中回應(yīng)這段假視頻說: “我們正在保衛(wèi)我們的土地，我們的孩子，我們的家庭。所以我們不打算放下武器。直到我們的勝利。”

Deepfake的作用不容小覷

烏克蘭國家電視臺“烏克蘭24”(Ukraine 24)證實，黑客設(shè)法通過電視直播發(fā)送了虛假的澤連斯基消息，這條滾動文本新聞被稱為The ticker，該視頻在該電視臺的網(wǎng)站上短暫出現(xiàn)。這是“敵方黑客”所為，該電臺稱。

黑客們在烏克蘭24小時廣播的信息敦促烏克蘭人停止戰(zhàn)斗，放棄武器。大西洋理事會的歐亞研究員Roman Osadchuk表示，他們還聲稱澤連斯基逃離了基輔，這些信息在VKontakte上廣為傳播，VKontakte是俄羅斯第一大社交媒體。

研究人員表示，盡管Deepfake不是特別復(fù)雜，但它仍應(yīng)被視為危險。

Deepfake是一種使用AI深度學(xué)習(xí)，能夠?qū)⒁粡垐D片中人的臉換到其他人的圖片上的技術(shù)。通過這種技術(shù)，我們可以創(chuàng)建一個非常逼真的“假”視頻或圖片，“換臉”因此得名。

研究人員使用自動編碼器神經(jīng)結(jié)構(gòu)，使這一想法成為現(xiàn)實。基本思路非常簡單：對于每張臉，我們都訓(xùn)練一套編碼器和相應(yīng)的解碼神經(jīng)網(wǎng)絡(luò)。編碼時，使用的是第一個人的圖片。而解碼時，卻是使用第二個人解碼器。

對于訓(xùn)練部分，需要搜集每個人幾百張不同姿勢的圖片，圖片不足時，還可以從現(xiàn)有視頻中提取。在神經(jīng)網(wǎng)絡(luò)訓(xùn)練并學(xué)習(xí)了關(guān)于每個人面部的特征之后，它自己就能預(yù)測想出這個人還沒擺出來的姿勢。

Deepfake從娛樂圈走向政治圈

剛出來的時候，Deepfake更多只是作為一種玩具，用來整蠱朋友或者調(diào)侃明星。

后來，Deepfake逐漸開始“走向政壇”。

2019年，美國眾議院議長Nancy Pelosi的一段深度偽造的談話視頻出現(xiàn)在社交媒體上，這段視頻經(jīng)由特朗普總統(tǒng)分享，在Facebook上獲得了超過250萬次的瀏覽量。

早些的時候，奧巴馬的臉被“借用”來攻擊特朗普，該視頻在網(wǎng)站上也獲得480萬的瀏覽量。

特朗普本人也難逃一劫，西雅圖電視網(wǎng)曾播放過一段Deepfake的特朗普演講視頻，視頻中特朗普滿臉通紅，還不時做一些滑稽的表情。由于Deepfake技術(shù)可以運用在包括總統(tǒng)在內(nèi)的任何官員身上，美國兩黨開始擔(dān)心該技術(shù)將成為針對美國和其他西方國家發(fā)起虛假信息戰(zhàn)爭的最新武器。

2019年6月13日，美國眾議院情報委員會召開關(guān)于人工智能Deepfake的聽證會，公開談?wù)摿薉eepfake技術(shù)對國家、社會和個人的風(fēng)險及防范和應(yīng)對措施。

去年，包括拉脫維亞議會外交事務(wù)委員會主席Rihards Kols，以及來自愛沙尼亞和立陶宛的議員，英國外交事務(wù)特別委員會主席Tom Tugendhat在內(nèi)的一眾政治家都被一個Deepfake黑客騙了，他們收到了一些“俄羅斯反對派人物”的視頻會議邀請，還煞有其事地討論了克里米亞問題之類的政治事務(wù)，結(jié)果發(fā)現(xiàn)在這些所謂的“俄羅斯反對派人物”都是別人用Deepfake換臉假冒的。

能夠打敗魔法的只有魔法？

盡管許多國家都發(fā)布了監(jiān)管Deepfake相關(guān)技術(shù)的法規(guī)，但是像這種在戰(zhàn)爭中發(fā)生的偽造事件，顯然沒有法律能管，即使甄別真假公布于眾，才是被偽造一方的當(dāng)務(wù)之急。

人眼如果無法分辨，能不能用技術(shù)手段檢測Deepfake呢？

答案是可以的，能夠打敗魔法的也許還是魔法。

就在Deepfake開源不久，F(xiàn)acebook首席技術(shù)官Mike Schroepfer就發(fā)布博客宣布，公司正和微軟聯(lián)合來自麻省理工、牛津等大學(xué)的研究者，通過置辦“Deepfakes鑒別挑戰(zhàn)賽”，探索如何通過數(shù)據(jù)集和基準(zhǔn)測試檢測Deepfake換臉視頻。

美國國防部也研究了一項名為Forensic的圖像鑒定技術(shù)。他們的思路是尋找圖片和視頻中的不一致性，例如不一致的燈光、陰影和相機噪音。

加州大學(xué)河濱分校的學(xué)者也提出了檢測Deepfake偽造圖像的新算法。同樣的，算法的一個組成部分是各種“遞歸神經(jīng)網(wǎng)絡(luò)”，它能將有問題的圖像分割成小塊，然后逐像素觀察這些小塊。神經(jīng)網(wǎng)絡(luò)經(jīng)過訓(xùn)練可以檢測出數(shù)千幅Deepfake圖像，它找到了贗品在單像素水平上的一些特質(zhì)。

孵化自清華大學(xué)人工智能研究院的RealAI團隊也宣稱，由于Deepfake生成的造假視頻畫面會有不“自然”的紋理存在，他們通過海量視頻訓(xùn)練神經(jīng)網(wǎng)絡(luò)，讓其學(xué)習(xí)正常情況中的紋理特征，再以此檢測造假視頻中不一致的紋理。利用該技術(shù)，可以對造假視頻實現(xiàn)逐幀檢測，準(zhǔn)確率高達90%以上。

原標(biāo)題：《Deepfake首次參與戰(zhàn)爭！烏克蘭總統(tǒng)被偽造投降視頻，無奈推特辟謠》

閱讀原文