經(jīng)過一個周末的發(fā)酵，一夜爆紅的換臉APP“ZAO”已經(jīng)被推到了輿論的風(fēng)口浪尖，在娛樂的同時，涉及的技術(shù)問題、隱私問題、安全問題備受關(guān)注?，F(xiàn)在我們冷靜下來再審視這個ZAO。

周末你ZAO了嗎？

8月30日晚間，一個名為“ZAO”的APP一夜爆紅，有的人嘗鮮樂此不疲、有的人則對其中涉及到的隱私問題憂心忡忡。到了第二天，這個APP已經(jīng)被推到了輿論的風(fēng)口浪尖。 目前，ZAO的微信分享鏈接顯示已停止訪問，頁面顯示“網(wǎng)頁存在安全風(fēng)險，被多人投訴，為維護(hù)綠色上網(wǎng)環(huán)境，已停止訪問”。

經(jīng)過一個周末的發(fā)酵，我們現(xiàn)在冷靜下來再審視這個ZAO。

ZAO是做什么的？

“僅需一張照片，出演天下好戲”，正如這句廣告語，ZAO其實是一個換臉APP。用戶只需上傳一張面部照片，再選一個自己喜歡的影片片段和角色，就可以把這些角色的面孔換成自己的模樣，簡直是不費(fèi)吹灰之力過了一把“明星”癮。

因此，ZAO瞬間走紅的原因不外乎兩個：第一，使用門檻低；第二，可以滿足大家的“明星夢”。 從一夜爆紅到幾乎全民聲討，ZAO的用戶協(xié)議“細(xì)思極恐”

從一夜爆紅到幾乎全民聲討，ZAO到底做錯了什么？其實，最主要的原因就是“隱私”二字。

知乎的一則相關(guān)提問：“如何看待 AI 換臉軟件「ZAO」的爆火？”已經(jīng)被瀏覽了576萬次，引發(fā)網(wǎng)友熱烈討論。

知乎網(wǎng)友“法山叔”看了ZAO的用戶協(xié)議后得出了兩個結(jié)論：

1、“ZAO”app涉嫌過度攫取用戶授權(quán)，讓你在無形中將自己的肖像權(quán)拱手讓人，以后你的臉將完全有可能被別人隨意使用，變換；

2、zao并未獲得換臉明星們的肖像權(quán)授權(quán)，你變臉涉嫌侵權(quán)，但當(dāng)明星認(rèn)為自己的權(quán)利受到侵害時，“ZAO”app將完全有可能將法律的鍋全部甩給你，讓你自己承擔(dān)侵權(quán)苦果。

“法山叔”為我們解讀了用戶協(xié)議中“細(xì)思極恐”的地方：

用戶協(xié)議第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實際權(quán)利人同意授予zao及其關(guān)聯(lián)公司以及zao用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進(jìn)行全部或部分的修改與編輯...”以及對修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利。"

這是什么意思呢？你在正式使用該app以前，是要上傳自己肖像的，不僅靜態(tài)，還有動態(tài)，而當(dāng)你選擇使用這個app以后，根據(jù)協(xié)議內(nèi)容，該app除了可免費(fèi)使用并修改你的肖像，還可以將它任意授權(quán)給自己想授權(quán)的第三方，當(dāng)做信息進(jìn)行販賣。所以當(dāng)有一天，你在zao或者其它關(guān)聯(lián)平臺上發(fā)現(xiàn)你的臉被隨意變換、不再屬于自己的時候，你想起訴zao，不好意思，它會拿出這個協(xié)議來堵你的嘴，告訴你你自己早已同意。

“法山叔”還為我們解讀了關(guān)于侵權(quán)的規(guī)定：

第6條第2款明確規(guī)定：“如果您把用戶內(nèi)容中的人臉換成您或其他人的臉，您同意或確保肖像權(quán)利人同意授予‘zao’及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利?！?/p>

這是什么意思呢，比如現(xiàn)在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費(fèi)給zao使用，還要保證楊冪同意zao及關(guān)聯(lián)公司使用她的肖像...但你又不是楊冪，你怎么能確保？這不搞笑嗎。而他這么做，說白了，就是因為自己沒錢拿到明星們的授權(quán)，日后侵權(quán)，他們可以將鍋甩給你們。

而在此情形下，協(xié)議第七條第7款規(guī)定：若您侵害他人名譽(yù)權(quán)、肖像權(quán)、知識產(chǎn)權(quán)等合法權(quán)利的...zao可以訴諸行政執(zhí)法機(jī)構(gòu)或司法機(jī)關(guān)，追究相應(yīng)法律責(zé)任。若因您違反本協(xié)議或zao平臺的其他規(guī)則導(dǎo)致任何第三方損害的，您應(yīng)當(dāng)獨立承擔(dān)法律責(zé)任并承擔(dān)損害賠償責(zé)任；zao及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當(dāng)一并賠償。

意思即，如果楊冪狀告zao，主張自己的肖像權(quán)被zao平臺濫用，那zao完全可能說這不怪我，技術(shù)無罪，要怪就怪這些換你臉的用戶，并且，即使zao承擔(dān)了平臺責(zé)任，其也完全可以起訴具體用戶進(jìn)行追償?？偟膩碚f，他們把自己的屁股擦得非常干凈，將侵權(quán)的苦果全部甩給了用戶。

“法山叔”還提醒道：現(xiàn)在人臉支付，手機(jī)人臉解鎖正逐漸普及，如果它擁有你的動態(tài)肖像權(quán)，那背后可能出現(xiàn)的問題豈不是更令人不堪設(shè)想。

新智元經(jīng)授權(quán)引用“法山叔”的知乎回答，原回答鏈接：
鏈接：https://www.zhihu.com/question/343647357/answer/808994379
這又引發(fā)了一個新問題，現(xiàn)在的人臉支付、手機(jī)人臉解鎖會因為ZAO的出現(xiàn)而有安全風(fēng)險嗎？玩這個軟件會不會導(dǎo)致自己的支付寶刷臉被冒充？

根據(jù)“支付寶”的回應(yīng)：不會的。因為“支付寶「刷臉支付」采用的是3D人臉識別技術(shù)：在進(jìn)行人臉識別前，會通過軟硬件結(jié)合的方式進(jìn)行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況?！倍遥Ц秾毐硎荆杭幢愠霈F(xiàn)賬戶被冒用的極小概率事件，資金損失也會通過保險公司進(jìn)行全額賠付。

“換臉”不新鮮，Deepfakes技術(shù)詳解

雖然ZAO沒有公布使用的具體技術(shù)，但其實，AI換臉并不是非常新鮮的技術(shù)了。前一陣子便有朱茵變楊冪，海王變徐錦江的相關(guān)報道。

《射雕英雄傳》中，朱茵變楊冪

海王變徐錦江

這些技術(shù)的背后，是2017年年底的Deepfakes軟件帶來的結(jié)果。當(dāng)時Reddit用戶Deepfakes，將《神奇女俠》的女主角蓋爾·加朵、以及艾瑪沃森、斯嘉麗等眾多女明星的臉跟AV***進(jìn)行了交換，制作出足以以假亂真的愛情動作片。

接下來我們來了解下Deepfakes的技術(shù)內(nèi)容：

Deepfakes 使用生成對抗網(wǎng)絡(luò)(GAN)，其中兩個機(jī)器學(xué)習(xí)模型進(jìn)行了較量。一個ML模型在數(shù)據(jù)集上進(jìn)行訓(xùn)練，然后創(chuàng)建偽造的視頻，而另一個模型嘗試檢測偽造。偽造者創(chuàng)建假視頻，直到另一個ML模型無法檢測到偽造。訓(xùn)練數(shù)據(jù)集越大，偽造者越容易創(chuàng)建可信的deepfake視頻。

上圖顯示了一個圖像(在本例中是一張臉)被輸入到編碼器(encoder)中。其結(jié)果是同一張臉的低維表示，有時被稱為latent face。根據(jù)網(wǎng)絡(luò)架構(gòu)的不同，latent face可能根本不像人臉。當(dāng)通過解碼器(decoder)時，latent face被重建。自動編碼器是有損的，因此重建的臉不太可能有原來的細(xì)節(jié)水平。

程序員可以完全控制網(wǎng)絡(luò)的形狀：有多少層，每層有多少節(jié)點，以及它們?nèi)绾芜B接。網(wǎng)絡(luò)的真實知識存儲在連接節(jié)點的邊緣。每條邊都有一個權(quán)重，找到使自動編碼器能夠像描述的那樣工作的正確權(quán)重集是一個耗時的過程。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)意味著優(yōu)化其權(quán)重以達(dá)到特定的目標(biāo)。在傳統(tǒng)的自動編碼器的情況下，網(wǎng)絡(luò)的性能取決于它如何根據(jù)其潛在空間的表示重建原始圖像。

訓(xùn)練Deepfakes

需要注意的是，如果我們單獨訓(xùn)練兩個自動編碼器，它們將互不兼容。latent faces基于每個網(wǎng)絡(luò)在其訓(xùn)練過程中認(rèn)為有意義的特定特征。但是如果將兩個自動編碼器分別在不同的人臉上訓(xùn)練，它們的潛在空間將代表不同的特征。

使人臉交換技術(shù)成為可能的是找到一種方法來強(qiáng)制將兩個潛在的人臉在相同的特征上編碼。Deepfakes通過讓兩個網(wǎng)絡(luò)共享相同的編碼器，然后使用兩個不同的解碼器來解決這個問題。

在訓(xùn)練階段，這兩個網(wǎng)絡(luò)需要分開處理。解碼器A僅用A的人臉來訓(xùn)練；解碼器B只用B的人臉來訓(xùn)練，但是所有的latent face都是由同一個編碼器產(chǎn)生的。這意味著編碼器本身必須識別兩個人臉中的共同特征。因為所有的人臉都具有相似的結(jié)構(gòu)，所以編碼器學(xué)習(xí)“人臉”本身的概念是合理的。

生成Deepfakes

當(dāng)訓(xùn)練過程完成后，我們可以將A生成的一個latent face傳遞給解碼器B。如下圖所示，解碼器B將嘗試從與A相關(guān)的信息中重構(gòu)B。

如果網(wǎng)絡(luò)已經(jīng)很好地概括了人臉的構(gòu)成，那么潛在空間將表示面部表情和方向。這意味著可以為B生成與A的表情和方向相同的人臉。

請看下面的動圖。左邊，UI藝術(shù)家Anisa Sanusi的臉被從一個視頻中提取并對齊。右邊，一個訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)正在重建游戲設(shè)計師Henry Hoffman的臉，以匹配Anisa的表情。

顯然，Deepfakes背后的技術(shù)并不受人臉的限制。例如，它可以用來把蘋果變成獼猴桃。

重要的是，訓(xùn)練中使用的兩個主體要有盡可能多的相似之處。這是為了確保共享編碼器能夠泛化易于傳輸?shù)挠幸饬x的特性。雖然這項技術(shù)對人臉和水果都有效，但不太可能將人臉變成水果。

你還敢“ZAO”嗎？

ZAO不僅國內(nèi)火爆，國外用戶也紛紛被這一APP驚艷到了，不少人也分享出自己用ZAO做的“好萊塢大片”。

比如這個在Twitter上已經(jīng)播放了50多萬次的視頻，就是一位印度游戲開發(fā)工程師用ZAO做出的《泰坦尼克號》，視頻中，他化身Jack，融入到一幕幕經(jīng)典場景中。

在評論中，外國網(wǎng)友也熱議這個APP。

“太瘋狂了...從現(xiàn)在開始，這個世界再也不知道什么是真的了”

“嘿伙計們，來玩有趣的新AI學(xué)習(xí)算法，絕對不會用來訓(xùn)練面部識別軟件帶來可怕的安全問題并奴役我們所有人！”

“說實話，每個允許用戶發(fā)布自拍的平臺都可以做到。問題是人們永遠(yuǎn)不會停止發(fā)布自拍。”

“deepfake的演變是不可思議的。該技術(shù)僅用了3年時間，現(xiàn)在它已經(jīng)用于公共應(yīng)用程序中。” 對于ZAO，你怎么看？