“如果一臺機器能夠與人類展開對話（通過電傳設(shè)備）而不能被辨別出其機器身份，那么稱這臺機器具有智能”——1950年，艾倫·圖靈提出了著名的圖靈測試。

圖靈測試不僅首次從行為的角度對“智能”做出了清晰定義，也直接引申出了科技發(fā)展所具有的兩面性，一方面機器智能會越發(fā)接近或超過人類，而另一方面更強的AI也不可避免會帶來更多人類無法辨別的風(fēng)險。

2023年以來，伴隨各類生成式超大模型爆發(fā)，“通過AI換臉和擬聲技術(shù)佯裝熟人實施詐騙”等AI新型騙局頻繁登上新聞頭條，引發(fā)廣泛社會關(guān)注。

除了提高全民反詐意識，還有哪些方法可以預(yù)防“新科技”騙局？

推動AI可信，強化新技術(shù)安全治理。針對“AI深度偽造（DeepFake）內(nèi)容”在全球范圍內(nèi)病毒式傳播，商湯科技從技術(shù)源頭出發(fā)，針對性打造兩把技術(shù)盾牌，并快速應(yīng)用于各類AI產(chǎn)品中。 ▎深偽檢測+數(shù)字水印，讓AI詐騙顯行

商湯在涉及隱私保護(hù)、數(shù)字取證及偽造檢測等領(lǐng)域的人像合成技術(shù)有著廣泛積累，并逐步開發(fā)了基于生成、鑒偽和溯源三位一體的綜合鑒偽解決方案。

為在偽造鑒別這場“攻防戰(zhàn)”中奪得先機，商湯打造了高效的對抗體系。

包括自建囊括數(shù)十種先進(jìn)攻擊手段的偽造生成平臺，為鑒偽檢測和溯源提供豐富多樣的攻擊案例和海量數(shù)據(jù)支持。并可通過持續(xù)集成先進(jìn)偽造算法，在zero/few-shot場景下快速響應(yīng)難例樣本和長尾類型，幫助提升鑒偽算法的泛化性。

“防”的層面，商湯訓(xùn)練的偽造檢測大模型，可充分利用面部表情一致性、動作序列連貫性，并結(jié)合頻譜、聲音和文字等多模態(tài)信息，準(zhǔn)確鑒別包括PS、換臉、活化以及各種先進(jìn)擴散模型（如：Stable Diffusion）合成的高清人像。主流評測數(shù)據(jù)集上算法檢測精度可達(dá)到99%以上，在應(yīng)對新技術(shù)復(fù)合偽造方法上（如：通過MidJourney），檢測能力也高出行業(yè)同類產(chǎn)品20%以上。

作為偽造鑒別中的最后一環(huán)，溯源可追蹤偽造數(shù)據(jù)的數(shù)據(jù)物料源頭、偽造過程以及核心偽造方法。商湯通過自研基于解耦-重建的偽造檢測算法，能夠從偽造數(shù)據(jù)中分離出真實內(nèi)容及偽影痕跡。在針對10余種主流偽造算法溯源上，準(zhǔn)確率超過90%，同時還可給出數(shù)據(jù)中的相關(guān)偽造痕跡，提高檢測算法的可解釋性和可信度。這一技術(shù)為行業(yè)首創(chuàng)，并作為數(shù)字取證技術(shù)成功落地司法領(lǐng)域。目前，商湯綜合鑒偽解決方案已投入實戰(zhàn)，為十余家銀行的安全系統(tǒng)提供服務(wù)，對各類灰黑產(chǎn)攻擊攔截成功率超行業(yè)同類產(chǎn)品20%以上，有效防范了灰黑產(chǎn)身份盜取、支付盜刷等網(wǎng)絡(luò)詐騙。

在AIGC技術(shù)大爆發(fā)時代，每天都會出現(xiàn)新的生成方法，僅僅依靠深偽檢測技術(shù)存在一定漏檢風(fēng)險，從生成平臺源頭加入數(shù)字水印技術(shù)可以構(gòu)成強力雙保險。

商湯數(shù)字水印結(jié)合頻域分析、深度學(xué)習(xí)、擴散模型等技術(shù)，將特定信息嵌入到數(shù)字載體中，同時不影響載體的使用價值，也不易被人的知覺系統(tǒng)察覺，只有通過特定的解碼器和專屬密鑰才能提取，可實現(xiàn)篡改內(nèi)容的檢測且水印不可竊取。 數(shù)字水印技術(shù)可在AIGC相關(guān)產(chǎn)品發(fā)布時加入，能夠有效增強深偽檢測的可靠性，甚至進(jìn)一步影響生成效果，從源頭上遏制深度偽造，實現(xiàn)主動防御。具體應(yīng)用中，商湯數(shù)字水印技術(shù)可用于版權(quán)保護(hù)，防偽溯源等場景，支持圖像、視頻、音頻、文本等各種模態(tài)的數(shù)字載體，在不同程度的干擾下(裁剪、壓縮等)能保證99%+的水印提取精度，且不影響數(shù)據(jù)本身質(zhì)量(如高清圖畫質(zhì))，在保證水印信息容量大(256位)以及安全性(通過密鑰加密)的同時具備足夠的隱蔽性以及魯棒性。此外，數(shù)字水印技術(shù)也響應(yīng)了《生成式人工智能服務(wù)管理辦法（征求意見稿）》監(jiān)管要求。

目前，商湯數(shù)字水印技術(shù)已服務(wù)于“商湯秒畫SenseMirage”、 “商湯如影SenseAvatar”等多個產(chǎn)品，以及內(nèi)容創(chuàng)作、大數(shù)據(jù)客戶。

▎持續(xù)推進(jìn)可信AI體系化建設(shè)

提升AI安全治理水平、推動AI可持續(xù)發(fā)展，是行業(yè)健康成長的根基，也是商湯科技的責(zé)任。

多年來，商湯積極釋放在可信AI領(lǐng)域的技術(shù)沉淀和實踐經(jīng)驗，產(chǎn)生一系列成果：

構(gòu)建“商湯AI安全治理開放平臺”，提供可持續(xù)發(fā)展的AI安全公益平臺；
參與國家人工智能標(biāo)準(zhǔn)化總體組和全國信標(biāo)委人工智能分委會組織編寫的《人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）》，助力人工智能研發(fā)及應(yīng)用更健康發(fā)展；
成為新加坡“人工智能驗證基金會”（AI Verify Foundation）一員，促進(jìn)新加坡可信AI建設(shè)，樹立具有積極社會影響力的國際實踐標(biāo)桿；
榮獲隱私信息管理體系認(rèn)證全部三項認(rèn)證，并獲評中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）頒發(fā)的“可信AI 2022年突出貢獻(xiàn)企業(yè)”；

波瀾壯闊的人工智能發(fā)展浪潮中，AI技術(shù)將不斷帶來巨大的創(chuàng)新和改變，但只有可信、符合倫理的AI產(chǎn)品才能造福人類。

相關(guān)閱讀，戳這里

《商湯獲評“可信AI 2022年突出貢獻(xiàn)企業(yè)”》

《多維度打造可信AI，商湯斬獲三項權(quán)威獎項》

原文標(biāo)題：強化AI安全應(yīng)用，商湯打造“深偽檢測+數(shù)字水印”防火墻

文章出處：【微信公眾號：商湯科技SenseTime】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。舉報投訴