雖然目前 Deepfakes 換臉偽造情況在 Facebook 上并不是很突出，但這家社交網(wǎng)絡(luò)巨頭正加大對該技術(shù)的研究力度，以防范潛在的未來威脅。通過和密歇根州立大學(xué)（MSU）多位學(xué)者的合作，F(xiàn)acebook 創(chuàng)造了一種逆向設(shè)計(jì)深度假象的方法：分析人工智能生成的圖像，以揭示創(chuàng)造它的機(jī)器學(xué)習(xí)模型的識別特征。

圖片來自于 The Verge

這項(xiàng)工作非常有用，因?yàn)樗梢詭椭?Facebook 追蹤在其各種社交網(wǎng)絡(luò)上傳播 Deepfakes 的不良分子。這些內(nèi)容可能包括錯(cuò)誤的信息，但也包括未經(jīng)同意的色情內(nèi)容--這是 Deepfakes 技術(shù)的一個(gè)令人沮喪的常見應(yīng)用。現(xiàn)在，這項(xiàng)工作仍處于研究階段，還不準(zhǔn)備部署。

目前在該領(lǐng)域的研究已經(jīng)能夠確認(rèn)哪些是人工合成的臉，哪些是真實(shí)的臉。不過由密歇根州立大學(xué) Vishal Asnani 領(lǐng)導(dǎo)的團(tuán)隊(duì)進(jìn)一步推進(jìn)了這項(xiàng)研究，確定了未知模型的架構(gòu)特征。這些特征被稱為超參數(shù)（hyperparameters），在每個(gè)機(jī)器學(xué)習(xí)模型中都要像發(fā)動機(jī)的零件一樣進(jìn)行調(diào)整?？傮w而言，它們在完成的圖像上留下了獨(dú)特的指紋，然后可以用來識別其來源。

Facebook 研究負(fù)責(zé)人塔爾·哈斯納（Tal Hassner）告訴 The Verge，識別未知模型的特征非常重要，因?yàn)?Deepfakes 軟件非常容易定制。如果調(diào)查人員試圖追蹤他們的活動，這有可能讓不良行為者掩蓋他們的蹤跡。

Hassner 表示：“讓我們假設(shè)一個(gè)不良行為者正在生成許多不同的 Deepfakes，并在不同的平臺上向不同的用戶上傳。如果這是一個(gè)以前沒有人見過的新的人工智能模型，那么我們過去就無法進(jìn)行判斷了?，F(xiàn)在，我們能夠說‘看，這里上傳的圖片，那里上傳的圖片，都來自同一個(gè)模型’。如果我們能夠查獲[用于生成內(nèi)容的]筆記本電腦或計(jì)算機(jī)，我們將能夠說‘這就是罪魁禍?zhǔn)住薄?/p>

哈斯納將這項(xiàng)工作與法醫(yī)技術(shù)相提并論，即通過尋找所產(chǎn)生的圖像中的模式來確定哪種型號的相機(jī)被用來拍攝照片。他說：“不過，不是每個(gè)人都能創(chuàng)造自己的相機(jī)。而任何有合理經(jīng)驗(yàn)和標(biāo)準(zhǔn)計(jì)算機(jī)的人都可以炮制出他們自己的模型，生成 Deepfakes”。