紐約州立大學(xué)奧爾巴尼分校計(jì)算機(jī)工程系呂思偉副教授
隨著人工智能技術(shù)的發(fā)展，虛假新聞特別是深偽（Deepfake）音視頻的制作已進(jìn)入低成本、低技術(shù)知識(shí)的階段。有分析認(rèn)為，世界或?qū)⑦M(jìn)入一個(gè)信息真假難辨的階段。
“虛假音視頻帶來(lái)的最大問(wèn)題是信任體系的崩壞，將給政治、經(jīng)濟(jì)和社會(huì)造成極大的危害。人工智能技術(shù)雖已能鑒別部分的虛假音視頻，但道高一尺魔高一丈，同虛假音視頻的斗爭(zhēng)必將是一場(chǎng)持久戰(zhàn)。”紐約州立大學(xué)奧爾巴尼分校計(jì)算機(jī)工程系副教授、計(jì)算機(jī)視覺(jué)與機(jī)器學(xué)習(xí)實(shí)驗(yàn)室主任呂思偉近日在接受科技日?qǐng)?bào)記者專訪時(shí)如是說(shuō)。
人工智能驅(qū)動(dòng)的虛假新聞催生信任危機(jī)
電子媒體的興起和普及，使人們每日接受的新聞信息量要比10年前增加數(shù)百倍。但泥沙俱下，各種自媒體和社交媒體中也充斥著各種各樣的虛假信息。人工智能技術(shù)的快速發(fā)展，進(jìn)一步讓虛假視頻新聞的制作門檻越來(lái)越低，逼真度卻越來(lái)越高。人工智能“換臉術(shù)”去年曾將《神奇女俠》女主角蓋爾·加朵的臉嫁接到一個(gè)成人電影女星的身上，引起轟動(dòng)。
呂教授指出，大部分非專業(yè)制作的虛假視頻新聞其實(shí)都非常粗糙，稍有知識(shí)的受眾都可以甄別出來(lái)，但由于傳播平臺(tái)的指數(shù)級(jí)增加，信息如洪水猛獸般涌向受眾，快速分散著受眾的注意力，加之視頻本身的質(zhì)量和分辨率等因素，受眾在很短的時(shí)間內(nèi)根本難辨真假。受眾基于自身興趣，條件反射般地進(jìn)行轉(zhuǎn)發(fā)，也對(duì)虛假音視頻的傳播起到推波助瀾的作用。哥倫比亞大學(xué)心理學(xué)研究表明，注意力經(jīng)濟(jì)（眼球經(jīng)濟(jì)）的結(jié)果是人們的注意力被分割得越來(lái)越小，對(duì)信息的專注時(shí)間甚至已經(jīng)短于金魚(yú)。
事后補(bǔ)救雖能起到一定的正本清源作用，但虛假音視頻傳播所造成的巨大負(fù)面影響業(yè)已造成，很難在短時(shí)間內(nèi)消除。而且虛假音視頻的不斷涌現(xiàn)，使政府或當(dāng)事人疲于奔命澄清事實(shí)，久而久之，整個(gè)社會(huì)的信任體系就會(huì)分崩瓦解，形成公眾對(duì)任何新聞事實(shí)都不相信的情形。
今年6月初，美國(guó)紐約媒體實(shí)驗(yàn)室召集媒體界、學(xué)術(shù)界的相關(guān)從業(yè)人員舉辦了一場(chǎng)虛假新聞恐怖展，就人工智能等新技術(shù)可能產(chǎn)生的虛假宣傳和錯(cuò)誤信息進(jìn)行研討。實(shí)驗(yàn)室執(zhí)行主任賈斯汀·亨德里克斯說(shuō)：“只需要幾個(gè)大騙局就能讓公眾相信沒(méi)有什么是真實(shí)的?！眳谓淌谝舱J(rèn)為，虛假新聞造成的最大問(wèn)題是，當(dāng)新聞可以虛假時(shí)，真實(shí)新聞也會(huì)變得“不真實(shí)”，最終造成受眾無(wú)法相信任何新聞的窘境，對(duì)社會(huì)來(lái)說(shuō)，這是一場(chǎng)史無(wú)前例的信任危機(jī)。
利用機(jī)器學(xué)習(xí)弱點(diǎn)找到虛假視頻破綻
呂教授表示，“換臉術(shù)”的機(jī)器算法是利用大量的臉部圖像訓(xùn)練出來(lái)的，這有點(diǎn)像機(jī)器翻譯，可把一種文字翻譯成另一種文字，而換臉虛假視頻的算法“翻譯”的對(duì)象是人臉，把原始人臉的表情特征提取出來(lái)，然后用另外一張臉去表達(dá)相同的表情特征。
為了找到鑒別虛假音視頻的技術(shù)解決方案，呂教授團(tuán)隊(duì)對(duì)機(jī)器學(xué)習(xí)生成的虛假視頻的算法代碼進(jìn)行分析，建立了數(shù)百個(gè)虛假視頻模型，并嘗試用各種方法進(jìn)行檢測(cè)。他們最終發(fā)現(xiàn)，虛假視頻中的人物基本都不眨眼，而正常生理現(xiàn)象是，人類在面對(duì)面交流時(shí)眼神會(huì)進(jìn)行互動(dòng)，眨眼是一種不受主觀控制的無(wú)意識(shí)行為，每隔兩三秒鐘一般會(huì)眨一次眼。
呂教授進(jìn)一步解釋說(shuō)，機(jī)器學(xué)習(xí)學(xué)的并不是真正的“知識(shí)”，其得到的全部信息來(lái)自訓(xùn)練數(shù)據(jù)。而機(jī)器學(xué)習(xí)并不知道眨眼是人類的正常生理特征，第一代虛假視頻大量使用的是網(wǎng)絡(luò)靜態(tài)人物圖片，這些圖片中的人物都是睜眼的，因?yàn)闆](méi)有人愿意把閉眼的形象展示給公眾。
同虛假視頻人工智能大戰(zhàn)任重道遠(yuǎn)
呂教授團(tuán)隊(duì)正是利用機(jī)器學(xué)習(xí)的這一弱點(diǎn)開(kāi)發(fā)了一種深度學(xué)習(xí)新算法來(lái)檢測(cè)虛假視頻，成功率非常高。但呂教授坦言，在機(jī)器學(xué)習(xí)領(lǐng)域可謂道高一尺魔高一丈，虛假視頻的制作者同樣可以專門針對(duì)新算法設(shè)計(jì)出具有眨眼特征的更加逼真的視頻。
呂教授說(shuō)，虛假視頻的制作過(guò)程一般來(lái)說(shuō)是見(jiàn)不得光的，不會(huì)公之于眾，其背后有巨大的政治或經(jīng)濟(jì)利益驅(qū)動(dòng)，因此造假技術(shù)往往存在一定優(yōu)勢(shì)，領(lǐng)先于檢測(cè)技術(shù)的發(fā)展。呂教授指出，其最新研發(fā)的算法目前來(lái)說(shuō)具有一定的優(yōu)勢(shì)，這是因?yàn)榭紤]了虛假視頻制作者尚未考慮到的數(shù)據(jù)訓(xùn)練問(wèn)題。論文公開(kāi)發(fā)表后，有黑客直接向呂教授發(fā)出挑戰(zhàn)，要求其檢測(cè)融合了眨眼的虛假視頻，但這些虛假視頻均未逃過(guò)新算法的“法眼”。
為在虛假視頻檢測(cè)技術(shù)研發(fā)上先人一步，呂教授團(tuán)隊(duì)目前已開(kāi)始將深度學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)，從靜態(tài)圖片升級(jí)為動(dòng)態(tài)視頻，并通過(guò)建立紅白隊(duì)進(jìn)行對(duì)抗訓(xùn)練，來(lái)提升高質(zhì)量虛假視頻的檢測(cè)水平。呂教授透露，谷歌旗下Jigsaw公司已同開(kāi)發(fā)團(tuán)隊(duì)接洽進(jìn)行合作。
除了不斷提升技術(shù)手段，呂教授認(rèn)為，同虛假視頻的斗爭(zhēng)最重要的還是需要公眾具有獨(dú)立思考的精神，不隨意轉(zhuǎn)發(fā)，不為虛假視頻的廣泛傳播推波助瀾，無(wú)論是主流媒體還是自媒體，都要恪守底線，堅(jiān)持求真。