文｜田瑞穎
當(dāng)你沉浸于“換聲”“換臉”的游戲時(shí)，卻不知，自己或?qū)⒊蔀檫@項(xiàng)技術(shù)的“受害者”。
據(jù)歐洲刑警組織近期發(fā)布的一份觀察報(bào)告預(yù)測(cè)，到2026年，高達(dá)90%的在線內(nèi)容可能是合成生成的。這意味著虛假信息的增加，包括深度偽造（deepfake）。
(資料圖)
更令人擔(dān)憂的是，犯罪分子在未來(lái)幾年將增加對(duì)深度偽造的使用，而絕大多數(shù)人似乎還對(duì)其一無(wú)所知。
“當(dāng)今社會(huì)面臨的最大威脅之一”
照片和視頻是警方工作的重要情報(bào)，也是法庭上的證據(jù)。如果這些內(nèi)容可以被人為合成，改編成從未發(fā)生過(guò)的事，并歪曲事件和真相，該怎么辦？
專家估計(jì)，到2026年，高達(dá)90%的在線內(nèi)容可能是合成生成的。
合成媒體，是指使用人工智能生成或操縱的媒體。在大多數(shù)情況下，合成媒體的目的是游戲、改善服務(wù)或提高生活質(zhì)量。但它的發(fā)展也帶來(lái)了虛假信息的可能性，包括深度偽造。
歐洲刑警創(chuàng)新實(shí)驗(yàn)室開(kāi)展的戰(zhàn)略預(yù)測(cè)表明，最令人擔(dān)憂的技術(shù)趨勢(shì)之一就是深度偽造的演變和檢測(cè)，以及需要更普遍地解決虛假信息問(wèn)題。
在英國(guó)倫敦大學(xué)學(xué)院（UCL）最近發(fā)表的一份報(bào)告中，深度偽造技術(shù)也被列為當(dāng)今社會(huì)面臨的最大威脅之一。
深度偽造技術(shù)，是利用深度學(xué)習(xí)技術(shù)來(lái)制作音頻和視聽(tīng)內(nèi)容，呈現(xiàn)人們從未說(shuō)過(guò)和做過(guò)的事情，或者創(chuàng)造出從未存在過(guò)的人。
觀察報(bào)告認(rèn)為，深度偽造技術(shù)會(huì)給各種犯罪活動(dòng)提供便利，包括散布虛假信息、非雙方自愿的色情內(nèi)容、為刑事司法調(diào)查偽造或操縱電子證據(jù)、實(shí)施勒索和欺詐、在線兒童性剝削、煽動(dòng)社會(huì)動(dòng)蕩和政治兩級(jí)分化等。
其中，虛假信息除了可能偽造緊急警報(bào)外，還可能利用政治人物的虛假音頻，擾亂選舉和政治等。BBC就曾為2019年英國(guó)大選制作了一段視頻，在視頻中，本來(lái)針?shù)h相對(duì)的兩位候選人鮑里斯•約翰遜和杰里米•科爾賓卻相互支持。如果足夠多的民眾上當(dāng)，就可能對(duì)選舉結(jié)果產(chǎn)生嚴(yán)重影響。
企業(yè)也可能成為虛假信息的目標(biāo)。例如，通過(guò)創(chuàng)建一個(gè)深度偽造，使公司高管看起來(lái)從事了一項(xiàng)有爭(zhēng)議或違法的行為。如果公眾相信這些虛假信息，并開(kāi)始拋售股票或抵制公司，就可能對(duì)公司價(jià)值和股市造成影響。
據(jù)《福布斯》2021年獲得的一份法庭文件披露的信息，一個(gè)欺詐團(tuán)伙正是利用音頻深度偽造技術(shù)，克隆了一家企業(yè)董事的聲音，并成功詐騙了3500萬(wàn)美元。
色情視頻深度偽造背后也有強(qiáng)大的利益驅(qū)動(dòng)。2020年12月的一項(xiàng)研究顯示，阿姆斯特丹一家檢測(cè)和跟蹤在線深度偽造的公司Sensity，就在熱門(mén)流行網(wǎng)站上發(fā)現(xiàn)了85047個(gè)深度偽造視頻?？膳碌氖?，這個(gè)數(shù)字每6個(gè)月就翻一番。而在2019年9月的一項(xiàng)研究中，Sensity就發(fā)現(xiàn)，96%的假視頻都涉及非雙方自愿的色情內(nèi)容。
很多情況下，這些色情偽造視頻的受害者都是名人，他們的臉會(huì)被換到色情演員的身體上，看起來(lái)像正在參與這種行為。顯然，這些視頻很受歡迎，瀏覽量竟高達(dá)1.34億次。不僅如此，還有幾個(gè)色情網(wǎng)站專門(mén)制作名人的色情偽造視頻。
在一些專門(mén)的市場(chǎng)，用戶或買(mǎi)家甚至可以發(fā)布對(duì)深度偽造視頻的請(qǐng)求(例如色情偽造視頻），這也催生了幾家提供深度偽造服務(wù)的公司。Recorded Future報(bào)告稱，有人甚至愿意為這種服務(wù)支付1.6萬(wàn)美元。
“近72%的人不知道深度偽造及其影響”
雖然有些虛假信息非常危險(xiǎn)，但更危險(xiǎn)的是，人們對(duì)此似乎一無(wú)所知。
2019年的一項(xiàng)研究顯示，在英國(guó)的一項(xiàng)調(diào)查中，近72%的人不知道深度偽造及其影響，盡管深度偽造在當(dāng)時(shí)已經(jīng)越來(lái)越普遍。這意味著人們可能無(wú)法識(shí)別由深度偽造生成的照片和音視頻，同時(shí)，這也為政府部門(mén)的執(zhí)法帶來(lái)了挑戰(zhàn)。
那么，提高對(duì)深度偽造的意識(shí)，就能提高發(fā)現(xiàn)它的概率嗎？
答案并不樂(lè)觀。最近的實(shí)驗(yàn)結(jié)果表明，提高這種意識(shí)可能并不能提高人們發(fā)現(xiàn)它們的機(jī)會(huì)。因此，研究人員預(yù)計(jì)，犯罪分子在未來(lái)幾年將增加對(duì)深度偽造的使用。
這也表明，了解深度偽造的威脅并做好準(zhǔn)備至關(guān)重要。對(duì)此，觀察報(bào)告討論了對(duì)深度偽造人工檢測(cè)和自動(dòng)檢測(cè)的方法。
觀察報(bào)告認(rèn)為，人工檢測(cè)可以發(fā)現(xiàn)絕大多數(shù)的深度偽造內(nèi)容。但這是一項(xiàng)勞動(dòng)密集型工作，只能對(duì)數(shù)量非常有限的內(nèi)容進(jìn)行檢測(cè)，還需要進(jìn)行適當(dāng)?shù)呐嘤?xùn)，才能熟悉所有相關(guān)特征，但這也可能引入錯(cuò)誤的判斷。
那么，自動(dòng)檢測(cè)會(huì)是未來(lái)的趨勢(shì)嗎？
理想情況下，自動(dòng)檢測(cè)系統(tǒng)將掃描任何數(shù)字內(nèi)容，并自動(dòng)報(bào)告其真實(shí)性。雖然自動(dòng)檢測(cè)系統(tǒng)可能永遠(yuǎn)都不會(huì)完美，但隨著深度偽造技術(shù)的日益成熟，自動(dòng)檢測(cè)系統(tǒng)的高度確定性或許比人工檢查更有價(jià)值。
Facebook和安全公司McAfee等機(jī)構(gòu)已經(jīng)在開(kāi)發(fā)這類軟件。檢測(cè)軟件將尋找操縱的跡象，并通過(guò)對(duì)這些跡象生成解析報(bào)告，幫助審查員決定內(nèi)容的真實(shí)性，但這種檢測(cè)技術(shù)也面臨諸多挑戰(zhàn)。
觀察報(bào)告認(rèn)為，在未來(lái)的幾個(gè)月和幾年里，威脅行為者極有可能會(huì)越來(lái)越多地使用深度偽造技術(shù)，為各種犯罪行為提供便利，并開(kāi)展虛假信息活動(dòng)，以影響或扭曲公眾輿論。而機(jī)器學(xué)習(xí)和人工智能的進(jìn)步，將繼續(xù)增強(qiáng)用于制造深度偽造的軟件的能力。
專家表示，生成式對(duì)抗網(wǎng)絡(luò)、公共數(shù)據(jù)集的可用性和計(jì)算能力的增強(qiáng)，將是未來(lái)深度偽造發(fā)展的主要驅(qū)動(dòng)力，并使其與真實(shí)內(nèi)容更加難以區(qū)分。
參考材料：
https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes#downloads
