還記得去年在色情行業(yè)掀起一陣風暴的 Deepfakes 嗎？通過 AI 神經網絡和演員的照片，反復進行機器學習之后，就能讓 AI 自動識別和替換掉影片里某人的臉部數據。

后來 B 站也掀起了一陣「萬物皆可徐錦江」的熱潮，比如雷神和海王，乃至很多的經典電影的片段都出現了徐錦江的臉，甚至其中還包括《新白娘子傳奇》里的白素貞。

這一次花式操作確實秀，也讓更多人了解了什么是 Deepfakes 和 AI 換臉。

現在，「Deepfakes」已經泛指那些被人工智能改變過的媒體內容，只要是某人沒有做過的事被 AI 做出來都可以認為是 Deepfakes，而且不止是視頻，音頻同樣也可以通過 AI 來偽造。

但現在 Deepfakes 正在從過去的色情范圍進一步擴大到了犯罪的世界，現在有一些犯罪分子使用 Deepfakes 來冒充公司的高管進行詐騙，目前他們使用的是 Deepfakes 的音頻而非視頻來進行詐騙。

相關的技術其實早已經有所應用，比如網絡上那些偽造的 Trump 講話，這一段喬丹·皮爾「配音」的奧巴馬演講也堪稱經典案例

而這種詐騙，要比「小 X，明天來我辦公室一趟」可要厲害不知多少倍，用被忽悠瘸的范偉老師的話說就是「哎呀，防不勝防！」

作為一家網絡安全公司，賽門鐵克表示已經發(fā)生了至少三起對私營企業(yè)成功的音頻詐騙，都是將自己偽裝成 CEO 的聲音要求財務進行緊急匯款。

當然，犯罪分子也為此做了很多訓練，用人工智能偽裝聲音不必多說，他們還通過電話、Youtube 視頻和 TED 演講視頻來模仿該公司 CEO 說話習慣，在進行數小時的演練和計劃之后才會實施。

這三起詐騙讓每家公司都損失了數百萬美元，但公司的名稱目前并沒有被披露出來，BBC 最先報道了這些攻擊事件。

顯然，Deepfakes 對企業(yè)的威脅是切實存在的，尤其是在已經有三起成功案例之后。但目前這樣的運用方法仍然只是「小兒科」的簡單手法，真正令人膽寒的是這樣技術能用于更大的破壞。比如你想要拉低蘋果公司的股價怎么辦，只要一份刻意偽造的音頻剪輯，并放出一些類似庫克私人談話等不利信息，蘋果的股價恐怕很容易就能蒸發(fā)數十億美元。

然而目前并沒有非常好的方式去監(jiān)測這些造假音頻，因為技術的越發(fā)成熟，這些Deepfakes 的音視頻制作正在變得越來越容易，同時破綻也越來越少。但絕大多數企業(yè)都對此沒有準備。

更糟糕的是，從行業(yè)上說，對于 AI 造假的媒體來說，目前來看尚沒有高效的檢測和抵御解決方案。

技術方面，賽門鐵克表示他們正在開發(fā)檢測音頻造假的技術。購買第三方公司服務的話也同樣不便宜，New Knowledge 是一家?guī)椭镜钟摷傩畔⒌墓?，但它們的服務費用可能從 5 萬到數百萬美元不等。

而最讓人頭疼的是，當這些 AI 造假的音視頻被揭穿時，通常損失已經造成了。