來(lái)源： 21ic電子網(wǎng)，謝謝

編輯：感知芯視界

隨著信息和互聯(lián)網(wǎng)科技的進(jìn)步，人工智能（AI）也隨之得到了極大發(fā)展，ChatGPT 的爆火更是讓 AI 從幕后徹底走向臺(tái)前。

海量數(shù)據(jù)訓(xùn)練下的 AI 確實(shí)更容易理解人類(lèi)的意圖，畢竟擁有智能的工具會(huì)更好地幫助人類(lèi)發(fā)展，但是當(dāng)這樣強(qiáng)大的工具被用于反面的時(shí)候，同樣也會(huì)產(chǎn)生巨大的破壞力。

近日，一位老板遭遇了 AI 換臉新騙局，在 10 分鐘內(nèi)被騙 430 萬(wàn)的新聞沖上熱搜。

據(jù)悉， 這是包頭警方兩周前破獲的通過(guò) AI 實(shí)施的新型電信詐騙典型案例，該案件中騙子使用了 AI 換臉+聲音模擬等科技手段，使受害方確信無(wú)疑。

4 月 20 日 11:40 左右，福建省福州市某科技公司法人代表郭先生突然收到了好友的微信視頻電話(huà)，接通后確實(shí)是好友本人，然后聲音也一樣，很難讓人懷疑。

短暫寒暄后，好友告訴郭先生：自己的朋友在外地投標(biāo)，需要對(duì)公賬戶(hù)過(guò)賬的 430 萬(wàn)元保證金，所以想要借用郭先生公司的賬戶(hù)走一下賬。

隨后，好友就對(duì)郭先生說(shuō)已經(jīng)把錢(qián)打到了郭先生的對(duì)公賬戶(hù)上，還把銀行轉(zhuǎn)賬底單的截圖通過(guò)微信發(fā)給了郭先生。

基于朋友本人視頻聊天的前提下，郭先生沒(méi)有核實(shí)錢(qián)是否到賬，于 11:49 先后分兩筆將 430 萬(wàn)元給對(duì)方匯了過(guò)去，然后郭先生準(zhǔn)備給好友微信通知一下已經(jīng)轉(zhuǎn)賬成功，但讓他詫異的是，好友回過(guò)來(lái)的消息竟然是一個(gè)問(wèn)號(hào)。

然后郭先生趕緊撥打好友電話(huà)確認(rèn)，對(duì)方說(shuō)沒(méi)有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，最后才知道對(duì)方是通過(guò) AI 換臉技術(shù)佯裝成好友對(duì)他實(shí)施了詐騙。

“從頭到尾都沒(méi)有和我提借錢(qián)的事情，就說(shuō)會(huì)先把錢(qián)給我打過(guò)來(lái)，再讓我給他朋友賬戶(hù)轉(zhuǎn)過(guò)去，而且當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備！”郭先生說(shuō)。

4 月 20 日 12:21，包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊(duì)的外協(xié)請(qǐng)求，稱(chēng)福建當(dāng)?shù)匾?a target="_blank">知名民營(yíng)企業(yè)負(fù)責(zé)人被騙走 430 萬(wàn)元，涉案的銀行卡為包頭市蒙商銀行對(duì)公賬戶(hù)，希望包頭警方能夠幫忙進(jìn)行緊急止付。

包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動(dòng)“包頭市警銀聯(lián)動(dòng)綠色查詢(xún)機(jī)制”，當(dāng)班民警以最快速度完成核查、報(bào)審程序，第一時(shí)間將涉案卡的信息通報(bào)至蒙商銀行相關(guān)部門(mén)。

最后在銀行的全力協(xié)助下，10 分鐘將該詐騙賬戶(hù)內(nèi)的 336.84 萬(wàn)元被騙資金成功攔截，然后向福州市公安局警方提供了剩余款項(xiàng) 93.16 萬(wàn)元資金流出信息，目前福建警方與包頭警方對(duì)剩余資金正在全力追繳當(dāng)中。

在大家享受科技成果帶來(lái)的方便時(shí)，難免有一些不法分子將這些科技成果用于非法渠道上，目前可以很容易地通過(guò)聲音采集和圖像采集得到模擬聲音+AI 換臉。

其實(shí) AI 換臉幾年前就有了，隨著科技的不斷進(jìn)步會(huì)越來(lái)越逼真，除了 AI 換臉之外還有通過(guò)虛擬攝像頭實(shí)施詐騙的，就是通過(guò)一個(gè) APP 就可以在視頻通話(huà)過(guò)程中使用本地的任意視頻。

而且接通后對(duì)方也看不到播放、暫停等對(duì)視頻的具體操作，只會(huì)看到操作的結(jié)果，反正在對(duì)方的視角來(lái)看就是一個(gè)正常的人。

模擬聲音也非常容易，通過(guò)和你語(yǔ)音通話(huà)或者直接打電話(huà)采集到你一些關(guān)鍵的發(fā)音，然后合成之后就可以輸出任何你想說(shuō)的話(huà)。

科技是一把雙刃劍是老生常談的話(huà)題了，因?yàn)槿祟?lèi)是無(wú)數(shù)個(gè)體的統(tǒng)稱(chēng)，全世界有那么多人，沒(méi)有任何兩個(gè)人思想和三觀完全一致的，就像世界上沒(méi)有兩片完全相同的樹(shù)葉一樣。

所以有好人就會(huì)有壞人，主要是看科技掌握在了誰(shuí)的手中，所以我們大可不必因此而排斥科技的發(fā)展。

當(dāng)然，本次 AI 換臉 10 分鐘就騙了 430 萬(wàn)確實(shí)值得每一個(gè)人引以為戒，我們也應(yīng)該深思是否對(duì)科技的應(yīng)用進(jìn)行某種程度的限制，或者由政府針對(duì)性立法。

對(duì)此，警方表示公眾要提高防范意識(shí)，不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過(guò)度公開(kāi)或分享動(dòng)圖、視頻等；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過(guò)電話(huà)等多種溝通渠道核驗(yàn)對(duì)方身份，一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，及時(shí)報(bào)警求助。

如果有人自稱(chēng)“熟人”、“領(lǐng)導(dǎo)”通過(guò)社交軟件、短信以各種理由誘導(dǎo)你匯款，務(wù)必通過(guò)電話(huà)、見(jiàn)面等途徑核實(shí)確認(rèn)，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息。

*免責(zé)聲明：本文版權(quán)歸原作者所有，本文所用圖片、文字如涉及作品版權(quán)，請(qǐng)第一時(shí)間聯(lián)系我們刪除。本平臺(tái)旨在提供行業(yè)資訊，僅代表作者觀點(diǎn)，不代表感知芯視界立場(chǎng)。

審核編輯黃宇