深度偽造與國家安全

“深度偽造”是2017年首次出現(xiàn)的一個(gè)術(shù)語，用于描述使用人工智能技術(shù)生成的逼真照片、音頻、視頻和其他偽造品，在未來幾年可能會(huì)給國家安全帶來各種挑戰(zhàn)。隨著這些技術(shù)的不斷成熟，它們可能會(huì)對(duì)國家相關(guān)監(jiān)督、授權(quán)以及社交媒體平臺(tái)的監(jiān)管產(chǎn)生重大影晌。

盡管媒體操縱并不是一個(gè)新現(xiàn)象，但使用人工智能生成深度偽造品引起了人們的擔(dān)憂，因?yàn)榻Y(jié)果越來越逼真，創(chuàng)建速度很快，而且使用免費(fèi)軟件制作成本很低，并且能夠通過云計(jì)算處理能力。因此，即使是不熟練的操作員也可以下載必要的軟件工具，并使用公開的數(shù)據(jù)創(chuàng)建越來越令人信服的偽造內(nèi)容。

如可使用深度偽造？

深度偽造技術(shù)已被推廣用于娛樂領(lǐng)域，例如，社交媒體用戶將演員尼古拉斯·凱奇插入他最初沒有出現(xiàn)的電影中，以及一家博物館與藝術(shù)家薩爾瓦多·達(dá)利制作互動(dòng)展覽。深度偽造技術(shù)也被用于對(duì)人類有益的研究領(lǐng)域。例如，醫(yī)學(xué)研究人員報(bào)告稱，使用GANs合成模擬醫(yī)學(xué)圖像，以訓(xùn)練罕見病的疾病檢測算法，并將患者隱私問題降至最低。

然而，深度偽造也可能會(huì)被用于邪惡的目的。國家對(duì)手或出于政治動(dòng)機(jī)的個(gè)人，可能會(huì)發(fā)布大選候選人或其他公眾人物發(fā)表煽動(dòng)性言論或行為不當(dāng)?shù)膫卧煲曨l。這樣做反過來可能會(huì)削弱公眾信任，對(duì)公眾話語產(chǎn)生負(fù)面影響，甚至影響選舉。

事實(shí)上，美國情報(bào)界曾得出的一個(gè)結(jié)論是，ELS在2016年總統(tǒng)選舉期間進(jìn)行了廣泛的影晌力行動(dòng)，以“破壞公眾對(duì)美國民主進(jìn)程的信心，詆毀克林頓國務(wù)卿，損害她的當(dāng)選能力和潛在的總統(tǒng)職位。”同樣，在2022年3月，WKL總統(tǒng)宣布，他在社交媒體上發(fā)布的一段視頻中似乎指示W(wǎng)KL士兵向ELS軍隊(duì)投降，這是一個(gè)徹頭徹尾的騙局。雖然專家們指出，這種深度偽造并不特別復(fù)雜，但在未來，令人信服的音頻或視頻偽造可能會(huì)加強(qiáng)惡意影晌行動(dòng)。

深度偽造也可能被用來羞辱或勒索有權(quán)獲取機(jī)密信息的候選人或普通個(gè)人。已經(jīng)有證據(jù)表明，外國情報(bào)人員使用深度偽造的照片創(chuàng)建了虛假的社交媒體賬戶，并試圖從中搜集情報(bào)來源。一些分析人士認(rèn)為，深度偽造同樣可以用來生成煽動(dòng)性內(nèi)容，比如令人信服的美國軍事人員參與戰(zhàn)爭罪的視頻，這些戰(zhàn)爭罪旨在激進(jìn)化民眾、招募恐怖分子或煽動(dòng)暴力?！?021財(cái)年國防授權(quán)法》(P.L116-283）第589F條指示國防部長針對(duì)深度偽造對(duì)服役人員及其家人構(gòu)成的威脅進(jìn)行情報(bào)評(píng)估，包括評(píng)估該技術(shù)的成熟度以及如何使用該技術(shù)進(jìn)行信息作戰(zhàn)。

如何檢測深度偽造？

如今，深度偽造往往可以在沒有專門檢測工具的情況下被檢測到。然而．技術(shù)正在迅速發(fā)展到一個(gè)地步，在這個(gè)程度上，無人輔助的人類檢測將非常困難或不可能。雖然商業(yè)行業(yè)一直在投資自動(dòng)化深度偽造檢測工具，本節(jié)介紹了美國政府的投資和活動(dòng)。

《識(shí)別生成對(duì)抗性網(wǎng)絡(luò)的輸出法案》(P.L.116-258）指示美國國家科學(xué)基金會(huì)和美國國家標(biāo)準(zhǔn)與技術(shù)研究院支持對(duì)GANs的研究。具體而言，美國國家科學(xué)基金會(huì)旨在支持對(duì)操縱或合成內(nèi)容和信息真實(shí)性的研究，美國國家標(biāo)準(zhǔn)與技術(shù)研究院旨在支持開發(fā)必要的測量和標(biāo)準(zhǔn)的研究，以開發(fā)工具來檢查GANs或其他合成或操縱內(nèi)容的技術(shù)的功能和輸出。

此外，DARPA有兩個(gè)專門用于檢測深度偽造的項(xiàng)目：媒體取證（MediFor）和語義取證（SemaFor）。MediFor于2021財(cái)年結(jié)束，旨在開發(fā)算法，自動(dòng)評(píng)估照片和視頻的完整性，并向分析師提供偽造內(nèi)容是如何生成的。據(jù)報(bào)道，該項(xiàng)目探索了識(shí)別深度偽造中存在的視聽不一致的技術(shù)，包括像素不一致（數(shù)字完整性） 、與物理定律不一致（物理完整性〉和與其他信息源不一致（語義完整性）。MediFor技術(shù)有望被用于作戰(zhàn)指揮和情報(bào)領(lǐng)域。

SemaFor尋求建立在MediFor技術(shù)的基礎(chǔ)上，開發(fā)算法、自動(dòng)檢測、鑒定和表征（即識(shí)別為良性或惡意）各種類型的深度偽造。該程序旨在對(duì)語義不一致進(jìn)行分類，如圖1中GAN生成的圖像出現(xiàn)的不匹配的耳環(huán)，或不尋常的面部特征或背景，并對(duì)疑似深度偽造進(jìn)行優(yōu)先排序，以供人類審查。國防高級(jí)研究計(jì)劃局要求在2023財(cái)年為SernaFor撥款2890萬美元，比2022財(cái)年撥款高出790萬美元。SemaFor和MediFor開發(fā)的技術(shù)旨在提高對(duì)對(duì)手信息作戰(zhàn)的防御能力。圖1 GAN生成的圖像中的語義不一致示例：

一些分析人士指出，基于算法的檢測工具可能會(huì)導(dǎo)致貓捉老鼠的游戲，在這種游戲中，深度偽造生成器會(huì)迅速更新以解決缺陷達(dá)到能通過檢測工具識(shí)別的目的。出于這個(gè)原因，他們認(rèn)為，社交媒體平臺(tái)除了：部署深度偽造檢測工具外，還可能需要擴(kuò)展標(biāo)記或認(rèn)證內(nèi)容的手段。這可能包括要求用戶識(shí)別內(nèi)容產(chǎn)生的時(shí)間和位置，或者將編輯后的內(nèi)容標(biāo)記為原始內(nèi)容。

其他分析人士表示擔(dān)心，對(duì)深度偽造技術(shù)的監(jiān)管可能會(huì)給社交媒體平臺(tái)帶來不應(yīng)有的負(fù)擔(dān)，或?qū)е聦?duì)言論自由和藝術(shù)表達(dá)的限制。這些分析人士表示，現(xiàn)有法律足以監(jiān)管深度偽造的惡意使用。一些專家斷言，僅靠技術(shù)工具的回應(yīng)是不夠的，相反，重點(diǎn)應(yīng)該放在教育公眾深度偽造的必要性上，并盡量減少對(duì)惡意深度偽造者的激勵(lì)。

可能面臨的問題

國防部、國務(wù)院和情報(bào)界是否掌握了足夠的信息，了解外國深度偽造技術(shù)的現(xiàn)狀以及該技術(shù)可能被用來危害國家安全的方式？

DARPA在開發(fā)自動(dòng)化深度偽造檢測工具方面的技術(shù)有多成熟？DARPA方法的局限性是什么？是否需要額外的努力來確保惡意深度偽造不會(huì)損害國家安全？

國防和非國防機(jī)構(gòu)以及私營部門的聯(lián)邦投資和協(xié)調(diào)工作是否足以滿足研發(fā)需求和國家安全對(duì)深度偽造技術(shù)的擔(dān)憂？

關(guān)于深度偽造的國家安全考慮應(yīng)如何與言論自由保護(hù)、藝術(shù)表達(dá)和底層技術(shù)的有益使用相平衡？

是否應(yīng)該要求社交媒體平臺(tái)對(duì)內(nèi)容進(jìn)行認(rèn)證或標(biāo)記？是否應(yīng)該要求用戶提交有關(guān)內(nèi)容出處的信息？這會(huì)對(duì)社交媒體平臺(tái)以及用戶的安全、保障和隱私產(chǎn)生什么副作用？

社交媒體平臺(tái)和用戶應(yīng)該在多大程度上、以什么方式（如果有的話）對(duì)惡意深度造假內(nèi)容的傳播和影響負(fù)責(zé)？

（作者：Mekin68；來源：“戰(zhàn)略前沿技術(shù)”微信公眾號(hào)轉(zhuǎn)載自“君工小參”，修訂發(fā)布；圖片來自網(wǎng)絡(luò)，侵刪） 

   【昆侖策網(wǎng)】微信公眾號(hào)秉承“聚賢才，集眾智，獻(xiàn)良策”的辦網(wǎng)宗旨，這是一個(gè)集思廣益的平臺(tái)，一個(gè)發(fā)現(xiàn)人才的平臺(tái)，一個(gè)獻(xiàn)智獻(xiàn)策于國家和社會(huì)的平臺(tái)，一個(gè)網(wǎng)絡(luò)時(shí)代發(fā)揚(yáng)人民民主的平臺(tái)。歡迎社會(huì)各界踴躍投稿，讓我們一起共同成長。

　　電子郵箱：gy121302@163.com

　　更多文章請(qǐng)看《昆侖策網(wǎng)》，網(wǎng)址：

　　　　http://www.kunlunce.cn

　　　　http://www.jqdstudio.net