近日，一段關(guān)于扎克伯格的惡搞視頻在Instagram上流傳。該視頻中，扎克伯格的面部表情極其僵硬，聲音與本人的相比差距很大。事實上，這是以色列一家科技公司利用人工智能（AI）換臉技術(shù)合成而來，這一技術(shù)也被稱為“深度偽造”（deepfake）。更遭受爭議的deepfake例子例如最近走紅網(wǎng)絡(luò)的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動生成相應(yīng)的裸照，由于廣泛傳播而造成了預(yù)料之外的后果，開發(fā)者最終將APP下架。背后都用到了深度偽造技術(shù)，即一種利用AI程序和深度學(xué)習(xí)算法實現(xiàn)視、音頻模擬和偽造的技術(shù)，投入深度學(xué)習(xí)的內(nèi)容庫越大，合成的視音頻真實性越高，甚至可以達到以假亂真的程度。深度偽造技術(shù)不僅能實現(xiàn)換臉（face swap），更可以通過深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實不存在的人物肖像。利用該技術(shù)，可以以視頻這一較為可信的方式讓某人說不曾說過的話，做不曾做的事，達到混淆觀眾的目的。具備極高欺騙性的深度偽造也引發(fā)諸多爭議，例如楊冪換臉，AI軟件自動生成裸照，奧巴馬、普京等政治人物的深度偽造視頻等等，給個人和社會帶來風(fēng)險挑戰(zhàn)。

2019年6月13日，美國眾議院情報委員會召開關(guān)于人工智能深度偽造的聽證會，公開談?wù)摿松疃葌卧旒夹g(shù)對國家、社會和個人的風(fēng)險及防范和應(yīng)對措施。這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術(shù)的聽證會，會議邀請了四位來自不同領(lǐng)域的專家，分別是美國外交政策研究所研究員Clint Watts、馬里蘭大學(xué)法學(xué)教授Danielle Citron、布法羅大學(xué)人工智能研究所所長David Doermann和Open AI政策總監(jiān)Jack Clark，以系統(tǒng)介紹深度偽造技術(shù)及解答議員的疑惑，共同探討“深度偽造”的風(fēng)險及應(yīng)對之策。

一、深度偽造技術(shù)的喜與憂

互聯(lián)網(wǎng)時代下，先進的AI技術(shù)和開放的數(shù)據(jù)流動給社會帶來巨大的信息紅利。信息流動載體從原始的文本、到語音、至視頻、后進化至如今的虛擬現(xiàn)實，數(shù)據(jù)的巨大量和更高的開放程度允許越來越多消費者參與進來。而今隨著AI、深度偽造技術(shù)的發(fā)展，信息更能以重塑現(xiàn)實的方式豐富用戶的體驗。與AI結(jié)合的深度學(xué)習(xí)算法用于科學(xué)研究上，能幫助改善醫(yī)學(xué)圖像分析，還能用于彌補聽力缺陷，幫助有聽力障礙的人“聽懂”別人的話語等。一家公司甚至聲稱其通過利用這項技術(shù)能讓因病失語者恢復(fù)說話能力。深度偽造技術(shù)用于制作、真實還原歷史人物的肖像、相關(guān)音頻和視頻，或者讓藝術(shù)作品中的靜態(tài)的人物角色“活起來”，實現(xiàn)教育大眾、豐富人們精神世界的目的。

然而經(jīng)偽造的信息能使無中生有，與AI算法的結(jié)合更極大地提高了其可信度。進入數(shù)據(jù)高度開放流動的互聯(lián)網(wǎng)領(lǐng)域，深度偽造信息的影響力在瞬間能被成千萬倍放大，其具備的負面作用不得不引起重視。在此次聽證會上，專家學(xué)者主要討論了深度偽造技術(shù)所具備的幾種潛在風(fēng)險。

1

個體人身損害

制作虛假的色情視頻是深度偽造技術(shù)常見的運用方式之一。利用該技術(shù)能實現(xiàn)將一些公眾人物的臉移轉(zhuǎn)到色情明星的身體上，偽造逼真的色情場景。這些虛假的色情視頻一經(jīng)傳播，受害人的名譽將嚴(yán)重受損，個人隱私還隨時有可能受到侵犯。Citron教授列舉了印度作者Rana Ayyub的例子，即Rana Ayyub在4月份發(fā)表了一篇具有挑釁性的報道后，網(wǎng)絡(luò)上開始流傳著一段以其為主角的色情視頻。這個視頻正是被人利用深度偽造技術(shù)合成而來，在Facebook、Twitter和WhatsApp上得到成千上萬人的傳播。隨后Ayyub的家庭地址等個人信息被曝光在網(wǎng)上，其因此也收到了大量的***威脅。Ayyub的生活和工作都受到了極大的影響，承受著極大的精神折磨，其不得不遠離網(wǎng)絡(luò)。Citron教授在其關(guān)于網(wǎng)絡(luò)騷擾的研究中發(fā)現(xiàn)，這種現(xiàn)象發(fā)生在越來越多的弱勢群體身上。深度偽造技術(shù)讓污名化女性、“色情報復(fù)”成為可能。

2

企業(yè)信譽及經(jīng)濟的損失

深度偽造技術(shù)對企業(yè)首次募股（IPO）同樣有不可估量的負面影響?！跋胂笠幌略贗PO前一晚，一段經(jīng)深度偽造合成的視頻顯示公司的CEO宣布公司破產(chǎn)……市場的反應(yīng)速度往往比當(dāng)事人澄清的速度更快，”Citron說。企業(yè)主要負責(zé)人的一言一行代表著該公司，其對社會的公開聲明一般也代表著整個公司的意志。然而，深度偽造技術(shù)恰可以借用企業(yè)負責(zé)人的公開談話視頻，篡改表情及談話內(nèi)容，散播虛假信息，讓社會公眾發(fā)生錯誤認識，直接影響公司的信譽及經(jīng)濟利益。

3

國家安全、公共安全受到威脅

最近，美國眾議院議長Nancy Pelosi的一段深度偽造的談話視頻出現(xiàn)在社交媒體上，這段視頻經(jīng)由特朗普總統(tǒng)分享，在Facebook上獲得了超過250萬次的瀏覽量。早些的時候，美國前總統(tǒng)奧巴馬的臉被“借用”來攻擊特朗普總統(tǒng)，該視頻在網(wǎng)站上也獲得480萬的瀏覽量。特朗普總統(tǒng)本人也難逃一劫，西雅圖電視網(wǎng)曾播放過一段深度偽造的特朗普演講視頻，視頻中特朗普總統(tǒng)滿臉通紅，還不時做一些滑稽的表情。由于深度偽造技術(shù)可以運用在包括總統(tǒng)在內(nèi)的任何官員身上，美國兩黨開始擔(dān)心該技術(shù)將成為針對美國和其他西方國家發(fā)起虛假信息戰(zhàn)爭的最新武器。

聽證會上，Watts則表示了其對國家安全的擔(dān)憂：深度偽造技術(shù)可以讓虛假的信息以高度可信的方式呈現(xiàn)給社會公眾，從而操縱觀眾的情緒反應(yīng)，引發(fā)社會廣泛的不信任。它很可能被外國競爭對手利用，作為詆毀國內(nèi)政黨、煽動恐怖和暴力活動、挑撥西方內(nèi)部矛盾的工具。同時，Watts指出深度偽造技術(shù)對美國2020大選的潛在威脅——若放任偽造視頻擴散，則會對美國民主選舉產(chǎn)生不良影響，挫傷選民的積極性；從短期看，深度偽造還可能會對公共安全產(chǎn)生一定影響，讓虛假的信息打著真實的幌子煽動暴力沖突，成為不法者借以實施暴力的工具。例如在2018年，印度各地有20多人因為在WhatsApp上被謠傳綁架小孩或涉及其他罪案而被暴力打死。

4

新聞媒體行業(yè)的社會信任衰退

聽證會的專家們一致認為，深度偽造技術(shù)的影響不僅局限于政治領(lǐng)域，對新聞業(yè)亦如此。在一個社會公眾對記者和媒體普遍不信任的時代，深度偽造技術(shù)的誕生更是加劇了這種不信任。深度偽造不僅騙取公眾信任，其存在也表明了媒體報道并不可靠；Citron對此表示贊同，“難以證偽的報道會使記者質(zhì)疑有關(guān)真相的證據(jù)的真實性，從而阻礙該證據(jù)的呈現(xiàn)和報道?！碧摷傩畔⒆罱K會掩蓋并代替真相，Citron將此稱為“信任衰退效應(yīng)”。Watts進一步指出，“長期接觸虛假信息和深度偽造技術(shù)可能讓公眾在真真假假中迷失自我，從而做出比較極端的選擇。如果長期無法分辨真?zhèn)?，他們要么相信一切，要么不信任一切?！盬atts還提到了俄羅斯政府與人民之間的關(guān)系，稱克里姆林宮用“謊言之火”來控制公眾輿論。

此外，眾議院成員還關(guān)心深度偽造技術(shù)可能成為說謊者擺脫質(zhì)疑的工具。在深度偽造普遍運用的環(huán)境下，人們經(jīng)教育已不再輕易相信自己親眼所見，這種多疑的心理正好可以被說謊者利用。對于一個不利于自己的信息，盡管其沒有經(jīng)過任何加工，任何人都可以宣稱是偽造的，從而達到混淆公眾視聽的目的。Stewart議員提出假設(shè)：一名官員因貪污被抓，官員可以隨時狡辯稱作為證據(jù)的信息內(nèi)容是經(jīng)深度偽造合成的虛假內(nèi)容，“而事實是，證據(jù)不僅為真，那位官員所作所為遠比證據(jù)呈現(xiàn)出來的還要罪惡?！痹诨ハ嗝艿恼婕賰膳芍?，總有人愿意選擇相信假的一方。

二、應(yīng)對深度偽造風(fēng)險的措施

面對美國眾議院對深度偽造的種種擔(dān)憂，參加聽證會的議員和專家提出了不少可資參考的建議，以遏制深度偽造技術(shù)的負面影響，發(fā)揮其在生活、科技等方面的積極作用。

1

實施深度偽造的主體限制

為避免深度偽造技術(shù)對包括2020年競選在內(nèi)的民主政治活動造成影響，專家們認為應(yīng)當(dāng)對深度偽造的技術(shù)的實施主體進行限制。Watts認為，國會應(yīng)當(dāng)立法禁止官員和機構(gòu)創(chuàng)作、傳播合成的不真實信息，“美國政府必須是事實和真理的提供者”；此外，總統(tǒng)候選人和各自的競選團隊需要與社交媒體公司攜手合作，共同為虛假信息制定統(tǒng)一標(biāo)準(zhǔn)。Citron對此表示贊同，提議競選者做出不會在競選活動期間傳播或分享深度偽造的信息的承諾，并應(yīng)與社交媒體公司建立良好合作關(guān)系，以便直接駁斥網(wǎng)上的任何虛假信息。

2

深度偽造的內(nèi)容審核

Citron指出，并不是所有的深度偽造的虛假內(nèi)容都要被禁止的，有的內(nèi)容涉及到諷刺（satire）、或者戲仿（parody），如果深度偽造的內(nèi)容具備生產(chǎn)性（productive），那么其存在對社會是有益的。因為這類深度偽造內(nèi)容涉及到美國修正案中所要保護的言論自由，盡管不真實，但對于啟發(fā)民智具有重要作用。因此對深度偽造的內(nèi)容不能“一刀切”打死，不應(yīng)禁止以娛樂、社交等目的的合成內(nèi)容（synthetic media），對于此類內(nèi)容不應(yīng)給平臺施加“標(biāo)注為自動合成”等義務(wù)；對造成特定傷害（如影響政治、國家安全、公共安全等）的虛假信息才需要規(guī)制，需要審核。Watts認為網(wǎng)絡(luò)平臺應(yīng)針對合成內(nèi)容進行標(biāo)記和分類，標(biāo)記的事件和內(nèi)容類別應(yīng)跨平臺達成行業(yè)共識。當(dāng)然，標(biāo)記和分類的前提是平臺知道特定內(nèi)容是合成內(nèi)容，平臺沒有義務(wù)也沒有能力對用戶上傳內(nèi)容或第三方內(nèi)容是否屬于合成內(nèi)容進行判斷并加以標(biāo)注。他還提出一些關(guān)于分類的建議：如果網(wǎng)絡(luò)平臺看到與道德有關(guān)的深度偽造內(nèi)容在短時間內(nèi)熱度飆升，則應(yīng)該對其進行標(biāo)記并進入人工審查通道，降低其熱度排名，阻止其進入其他媒體平臺內(nèi)傳播；如果網(wǎng)絡(luò)平臺看到可能引發(fā)暴力事件、危害公共安全、或者與當(dāng)選官員或機構(gòu)相關(guān)的深度偽造內(nèi)容，應(yīng)當(dāng)對其進行標(biāo)記并強制下線審核。

議員們還提到了網(wǎng)絡(luò)平臺相關(guān)虛假違法內(nèi)容過濾篩選過程中可能存在的偏見問題。因為創(chuàng)建過濾機制的人往往會帶入主觀偏見，因此網(wǎng)絡(luò)平臺可能會被某一黨所控制，從而淪為黨派競爭、操縱輿論的工具。Clark因此建議，這個過濾機制應(yīng)避免政治勢力干預(yù)，而應(yīng)由學(xué)術(shù)界和企業(yè)平臺協(xié)同開發(fā)，以專業(yè)人士意見為準(zhǔn)，并以專業(yè)技術(shù)提供保障，從而更好保持中立性。

3

信息真實性的檢測

在深度偽造技術(shù)日益成熟的今天，信息真實性檢測的重要性不言而喻。Clark提出三點建議：其一，技術(shù)平臺應(yīng)大規(guī)模開發(fā)和共享檢測工具，或者共同合作互換、共享技術(shù)信息；其二，增加對檢測技術(shù)研發(fā)資金的投入，激發(fā)技術(shù)創(chuàng)新；其三，政府應(yīng)發(fā)展偽造信息危害評估和測量業(yè)務(wù)，通過研究相關(guān)科學(xué)文獻和發(fā)展知識儲備庫，決定對偽造信息的人應(yīng)采取的行動。Watts建議政府應(yīng)當(dāng)與私人部門合作，開發(fā)電子認證簽名工具，標(biāo)注信息內(nèi)容的日期和來源。Doermann也提議社交媒體平臺可以使用一定的技術(shù)手段將偽造內(nèi)容和可供驗證的音頻和視頻鏈接在一起，從而決定是否將其從網(wǎng)站中下線，“就像我們處理惡意軟件或者其他網(wǎng)絡(luò)問題一樣”。

對于信息真實性檢測時間，Watts主張應(yīng)及時反應(yīng)、迅速行動。“鼓勵行業(yè)合作打擊極端主義、虛假信息……要迅速反應(yīng)，以處理這些信息。任何在回應(yīng)上的滯后都會助長陰謀的實現(xiàn)，你行動越快，公眾了解的機會就會越小，主流媒體和其他官方人士就越方便提供幫助?！?/p>

3

網(wǎng)絡(luò)平臺的法律責(zé)任

對于深度偽造信息的受害者而言，尋求法律救濟的途徑較為局限。Citron指出，法律主要提供兩種途徑保障受害者權(quán)益。民事上，受害者可以訴請法院判處行為人構(gòu)成誹謗、故意實施侵權(quán)行為造成精神傷害，但訴訟成本較為高昂且訴訟進程較為緩慢；刑事上，州、聯(lián)邦提供兩個層級的法律保護：州層面有一些關(guān)于誹謗和假冒行為的刑事立法，聯(lián)邦也有相關(guān)假冒行為的官方立法?？梢姡芎φ咚苤鲝堎r償?shù)膶ο笾挥行畔⒛笤煺吆桶l(fā)布者，網(wǎng)絡(luò)平臺雖在信息傳播過程中扮演著十分重要角色，但是卻享有充分廣泛的豁免權(quán)，這歸因于美國的《通信規(guī)范法》(Communications Decency Act of 1996)中230條，其中規(guī)定，網(wǎng)絡(luò)服務(wù)商絕不可能被看作是第三方提供的內(nèi)容的出版商（publisher）。這意味著網(wǎng)絡(luò)平臺對第三方發(fā)布內(nèi)容沒有審核義務(wù)，因此受害者不能向網(wǎng)絡(luò)平臺主張權(quán)利。

Citron還說，1996年的法案并不是因為考慮到網(wǎng)絡(luò)平臺不能實施過濾行為而免除該義務(wù)，其旨在鼓勵行業(yè)自律。但96年的“國會和聯(lián)邦貿(mào)易委員會難以超越時代的局限，考慮到現(xiàn)在我們面臨的處境”。她認為應(yīng)該為網(wǎng)絡(luò)平臺的豁免權(quán)利設(shè)定一定的條件，比如可以對230條作一些靈活修改，將“任何在線服務(wù)平臺都不應(yīng)被視為第三方內(nèi)容的代言人（speaker）和出版商”修改為“任何從事合理內(nèi)容審核實踐的在線服務(wù)平臺都不應(yīng)被視為第三方內(nèi)容的代言人或出版商”，以更好地約束網(wǎng)絡(luò)服務(wù)平臺，保障受害者權(quán)利。議員Welch提問可否直接采納1996年前的立法，直接將網(wǎng)絡(luò)平臺服務(wù)者視為出版商，從而對其苛以更高的審查要求。Clark回應(yīng)，考慮到網(wǎng)絡(luò)服務(wù)平臺控制言論十分困難，且相關(guān)的文化習(xí)慣已經(jīng)形成，所以不宜作此修改。

5

對外國人實施深度偽造行為的制裁

針對外國人利用深度偽造技術(shù)危害美國國家安全和人民利益的行為，Citron提出兩點法律上的建議：一是考慮利用美國程序法中的長臂管轄原則。依據(jù)“最低限度接觸標(biāo)準(zhǔn)”將損害美國國家利益的行為納入美國司法機關(guān)管轄范圍；二是對于身處域外的違法行為人，美國還可以依據(jù)與他國的引渡條款，請求相關(guān)國家移交本國進行審判或處罰。Watts以美國對俄羅斯GRU情報機構(gòu)的制裁為例，在發(fā)現(xiàn)俄羅斯利用網(wǎng)絡(luò)攻擊干預(yù)美國大選后，美國采取了一系列強制措施，包括制裁俄羅斯情報機構(gòu)GRU、驅(qū)逐多名在美情報人員、關(guān)閉俄羅斯在美辦公場所等。對于身處引渡難度較大的國家的罪犯，Watts表示要建立威懾力，“要讓那些網(wǎng)絡(luò)黑客知道我們會以較為激進的方式作出回應(yīng)”。

6

批判性思維的教育

從社會心理學(xué)角度看，我們接觸到符合我們世界觀的信息越多，我們越傾向認為該信息是正確的，Citron指出。一旦深度偽造的信息內(nèi)容印證了大眾的認證偏見，此虛假信息就很難被駁斥和證實。因此對公眾的批判性思維的教育尤其重要。對于深度偽造的信息，要教育公眾要持批判性眼光判斷信息真?zhèn)?，不要輕易相信“眼見為實”；要教育社會公眾在進行信息檢索時，主流輿論并不一定代表著正確，要多對其提出質(zhì)疑；同時，也要告知公眾深度偽造技術(shù)可能被騙子加以利用成為洗清嫌疑的借口，因此即使眼見“為虛”亦可能為實。Dormann也表示，不要輕易相信來源單一的信息，要充分利用檢索工具，進行多方印證才可以獲得較為真實可靠的信息內(nèi)容。

三、深度偽造技術(shù)的未來

既然深度偽造技術(shù)可能給個人、社會和國家?guī)矸N種威脅，那這項技術(shù)是否應(yīng)被國家嚴(yán)格管控而不應(yīng)作為面向社會開放的資源？Doermann表示，當(dāng)下我們總會接觸到這個技術(shù)。目前深度偽造技術(shù)并不限于在AI實驗室里運作，任何一個擁有一部性能較好電腦的高中生都可以在免費開放的互聯(lián)網(wǎng)中接觸到該技術(shù)、并能將其下載到自己電腦中運行?！霸摷夹g(shù)實際上與深度學(xué)習(xí)運用的技術(shù)一樣，應(yīng)該向社會開放?！边@意味著在面對深度偽造帶來的潛在風(fēng)險時，不是“一刀切”地禁止深度偽造技術(shù)的應(yīng)用，而是有效管控其風(fēng)險，尤其是對可能造成特定傷害的深度偽造的虛假信息進行規(guī)制，同時不妨礙其在教育、藝術(shù)、社交、虛擬現(xiàn)實、個人發(fā)展、醫(yī)療等等領(lǐng)域的應(yīng)用。

深度偽造技術(shù)是AI發(fā)展到一定階段的產(chǎn)物，技術(shù)本是中立的。技術(shù)并不導(dǎo)致社會矛盾，只是技術(shù)的出現(xiàn)加劇了這種社會矛盾。所以我們不應(yīng)該因此而禁止深度偽造技術(shù)。與此相比，更重要的是提高針對深度偽造的檢測技術(shù)、完善相關(guān)認證機制。專家們承認，深度偽造技術(shù)正變得越來越復(fù)雜，在互聯(lián)網(wǎng)上也越來越容易被大眾接觸，但與此同時也有越來越多人在學(xué)習(xí)、研發(fā)相關(guān)的檢測技術(shù)，掌握判斷真?zhèn)蔚募寄?。但是，隨著深度偽造技術(shù)越來越成熟，相應(yīng)的檢測深度偽造的技術(shù)也會越來越先進——這將是一場永無休止的競賽，Doermann將其比喻為“貓抓老鼠的游戲”。

聽證會的主席Adam Schiff說：“我不知道我們能否為此做好充分準(zhǔn)備，但是，我們還可以做更多的工作，確定敵人的計劃和意圖，盡早找出并揭露它，告知公眾他們需要關(guān)注什么，應(yīng)當(dāng)做什么，而不僅僅忽略他們所看到的一切。”雖然沒有一招制勝的方法，但阻止深度偽造負面影響蔓延的方法并不有限，Citron說，“法律、市場和社會恢復(fù)力（society resilience）的結(jié)合是解決問題的必要條件?！?/p>

整體而言，美國立法者當(dāng)前對深度偽造的擔(dān)憂主要集中于國家安全、公共安全、政治選舉等方面，同時承認深度偽造等合成媒體內(nèi)容在娛樂、藝術(shù)表達、社交等方面具有積極意義，所以不應(yīng)對深度偽造內(nèi)容“一刀切”禁止，一竿子打死。考慮到《通信規(guī)范法》和保護言論自由以及深度偽造檢測識別技術(shù)的發(fā)展?fàn)顩r，美國立法者并沒有要求平臺對用戶上傳、發(fā)布的內(nèi)容進行是否屬于深度偽造內(nèi)容的檢索識別并予以標(biāo)注。由于生成對抗網(wǎng)絡(luò)（GAN）等深度學(xué)習(xí)技術(shù)的持續(xù)發(fā)展，深度偽造技術(shù)還在快速進化，其檢測識別難度很大，當(dāng)前的技術(shù)發(fā)展?fàn)顩r還無法對深度偽造內(nèi)容進行準(zhǔn)確識別，雖然檢測技術(shù)也一直在發(fā)展。例如，瑞士科學(xué)家在一篇論文中就首次對人臉識別方法檢測Deepfake的效果進行了較為全面的測評，嘗試用最前沿的人臉識別系統(tǒng)去識別假視頻，結(jié)果錯誤率高達95%。所以當(dāng)前如果要求平臺對深度偽造等合成媒體內(nèi)容進行識別和標(biāo)注，在技術(shù)上幾乎是不可能實現(xiàn)的。

因此，正如Citron所言，對深度偽造的內(nèi)容不能“一刀切”打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對影響國家安全、公共安全、民主政治的虛假信息才需要加強監(jiān)管和規(guī)制。此外，涉及刑事犯罪和一般網(wǎng)絡(luò)侵權(quán)的深度偽造適用不同的規(guī)制，監(jiān)管應(yīng)區(qū)別對待，美國相關(guān)立法目前主要從刑事犯罪角度對深度偽造予以規(guī)制。