不同產業(yè)在應用人工智能合成技術時，普遍存在現(xiàn)行規(guī)定不適用或應用風險不可控的問題。

立法實施分類監(jiān)管，依據(jù)不同的應用場景精準施策，防止技術濫用。

加快制定行業(yè)規(guī)范和技術標準，為反制技術奠定基礎。

AI技術是否安全可控、AI對個人信息和隱私權的威脅、如何防止利用AI技術實施詐騙等議題，成為當前社會熱議的焦點。而相比于技術的快速發(fā)展和公眾對風險的高度關注，人工智能領域的法律法規(guī)及政策標準還較為滯后，行業(yè)發(fā)展缺乏有效的引導和規(guī)制。

《新一代人工智能發(fā)展規(guī)劃》提出了我國人工智能發(fā)展的“三步走”戰(zhàn)略目標，建立人工智能技術標準、法律法規(guī)、倫理規(guī)范和政策體系在每一步中都是重要的組成部分。合成技術作為人工智能的一個分支，已經(jīng)進入相對成熟的階段。有效引導及適當規(guī)范對于促進行業(yè)長久發(fā)展和推動新技術與傳統(tǒng)產業(yè)融合具有迫切性，也有利于為人工智能其他細分領域政策及標準的制定提供借鑒。

王小川在提案中提到，目前針對人工智能合成技術做出規(guī)定的政策都較為籠統(tǒng)，沒有依據(jù)不同場景實施分類指導，也并未提及對技術濫用的防偽、鑒別和反制。受此影響，不同產業(yè)在應用合成技術時，普遍存在現(xiàn)行規(guī)定不適用或應用風險不可控的問題，成為制約新技術與傳統(tǒng)產業(yè)融合發(fā)展的因素。AI合成技術雖然已經(jīng)歷一段時間的快速發(fā)展，有大量的市場參與者，但真正有效的、反映行業(yè)發(fā)展現(xiàn)狀的技術標準，還沒有確立。這導致對虛假合成音視頻的防偽鑒別，無章可循。對此，王小川建議：

一是通過立法實施分類監(jiān)管，依據(jù)不同的應用場景精準施策，防止技術濫用。建議通過立法形式，根據(jù)人工智能合成技術的使用場景、影響范圍、可能的危害程度，鼓勵各行業(yè)各領域主管部門加強研究、分類監(jiān)管，打擊非法利用，鼓勵開發(fā)鑒別防偽技術，為人工智能技術的普及營造健康有利的環(huán)境。在傳媒、金融、教育、醫(yī)療等領域，注意防范特定風險，鼓勵利用合成技術增加供給、提高效率、豐富形態(tài)，不斷提高監(jiān)管的精細化、精準化水平。

二是加快制定行業(yè)規(guī)范和技術標準。建議由行業(yè)協(xié)會和聯(lián)盟牽頭，廣泛聯(lián)合人工智能合成領域重點企業(yè)、領先企業(yè)共同制定可行的行業(yè)規(guī)范和技術標準，建立行業(yè)參與者廣泛認同的框架協(xié)議，為反制技術奠定基礎。例如，對于人工智能合成技術服務提供方，在服務器安全、API接口調用、數(shù)據(jù)安全管理等方面提出限制性要求；針對合成類視頻，通過技術標準，使用視頻水印等方式，限定技術的輸出渠道，做到非法視頻的可監(jiān)控、可追溯。
責任編輯：tzh