根據(jù)MIT Technology Review2023年2月27日報道，由人工智能研究非營利組織Partnership on AI （PAI）發(fā)起，OpenAI、TikTok、Adobe、BBC等在內(nèi)的10家公司簽署了一套新的AI指南，就如何負(fù)責(zé)任地構(gòu)建和分享人工智能生成內(nèi)容（AI Generated Content，簡稱AIGC）給出明確指導(dǎo)建議。

一、簡介

PAI根據(jù)過去4年與工業(yè)界、民間社會、媒體和學(xué)術(shù)屆的合作，廣泛征集全球100多個利益相關(guān)者的反饋，制定本指南。該指南最重要的一點是，這些簽署公司達(dá)成了一項協(xié)議，他們將著手研究一個重要問題：即告訴用戶他們正在與人工智能生成的東西互動。

該指南呼吁技術(shù)的建設(shè)者如OpenAI，和合成內(nèi)容的創(chuàng)造者和分銷商如BBC和TikTok，以更透明的態(tài)度對待技術(shù)能做什么和不能做什么，以指導(dǎo)合成媒體負(fù)責(zé)任地開發(fā)和部署人工智能生成內(nèi)容。目標(biāo)受眾為合成媒體技術(shù)和基礎(chǔ)設(shè)施建設(shè)者、合成媒體創(chuàng)建者和合成媒體傳播者。

二、指南主要內(nèi)容

1. 合成媒體的技術(shù)和基礎(chǔ)設(shè)施建設(shè)者包括B2B和B2C工具制造商、開源開發(fā)者、學(xué)者和合成媒體初創(chuàng)公司等，應(yīng)采取措施為合成媒體的傳播者提供披露機(jī)制；在開發(fā)代碼和數(shù)據(jù)集、培訓(xùn)模型以及制作合成媒體時，盡可能應(yīng)用簡介披露元素；促進(jìn)進(jìn)一步研究，制定未來數(shù)據(jù)共享計劃，平衡透明度和隱私保護(hù)等因素等。

2. 合成媒體創(chuàng)造者規(guī)模不一，既可是B2B內(nèi)容生產(chǎn)者等大生產(chǎn)者，又可包括藝術(shù)家、業(yè)余愛好者和作家等小生產(chǎn)者，應(yīng)就內(nèi)容來源、使用規(guī)范和潛在風(fēng)險對內(nèi)容消費(fèi)者保持透明；披露和公開其創(chuàng)造的合成媒體中的合成因素等。

3. 合成媒體傳播者包括廣播公司和社交媒體平臺，應(yīng)在檢測到合成內(nèi)容后，進(jìn)行直接或間接披露；當(dāng)認(rèn)識到在不知情的情況下傳播有害的合成內(nèi)容后，應(yīng)立即作出調(diào)整；避免傳播來源不明的合成媒體內(nèi)容；尊重創(chuàng)建者的知情權(quán)等。

三、各國的人工智能監(jiān)管實踐

生成式人工智能目前仍處于野蠻生長時期，面對生成式人工智能可能帶來的潛在危害，各國家和地區(qū)陸續(xù)出臺相關(guān)的管控和監(jiān)管措施，例如歐盟試圖將生成式人工智能納入其即將出臺的《人工智能法案》其中可能包括對深度偽造等技術(shù)的披露，以及要求公司滿足某些透明度要求。

1. 歐盟：據(jù)預(yù)計，備受關(guān)注的歐盟《人工智能法案》將于2023年3月底在歐洲議會進(jìn)行投票。隨著大型聊天機(jī)器人軟件ChatGPT的橫空出世，大型科技公司即將在AI領(lǐng)域展開新一輪競賽。與此同時，各國監(jiān)管機(jī)構(gòu)已經(jīng)注意到了ChatGPT引發(fā)的現(xiàn)象級效應(yīng)，也在關(guān)注這一技術(shù)的潛在風(fēng)險。該法案將解決圍繞ChatGPT和AI技術(shù)風(fēng)險的擔(dān)憂。

2. 中國：2022年1月28日，國家網(wǎng)信辦最新公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，對作為元宇宙基石的深度合成技術(shù)做出了一系列較為明確的規(guī)定和指引，明確深度合成技術(shù)定義，劃定深度合成服務(wù)提供者和使用者的責(zé)任和義務(wù)。

3. 美國：2023年1月26日，美國國家標(biāo)準(zhǔn)和技術(shù)研究院（NIST）發(fā)布NIST AI 100-1《AI風(fēng)險管理框架1.0》（Artificial Intelligence Risk Management Framework，AI RMF），其目標(biāo)在于為設(shè)計、開發(fā)、部署、應(yīng)用AI系統(tǒng)的組織提供參考，以使之能夠在控制多樣性風(fēng)險的同時，促進(jìn)可信賴、負(fù)責(zé)任AI系統(tǒng)的開發(fā)與應(yīng)用。同時，NIST出版了與之配套的AI風(fēng)險管理框架行動手冊、講解視頻等，協(xié)助理解和使用AI RMF。AI RMF具有自愿性、基于權(quán)益保護(hù)原則、普遍適用性等特征，從而能夠為不同規(guī)模、不同領(lǐng)域乃至全社會的各相關(guān)組織提供參考。

人工智能技術(shù)具有廣泛滲透性和顛覆性，帶來的科技倫理與法律問題更加復(fù)雜多元，可能引發(fā)潛在倫理和法律風(fēng)險，需要引起高度重視。人工智能的健康發(fā)展，必須回答人工智能到底該由誰掌控、人工智能發(fā)展的基本準(zhǔn)則是什么、人工智能發(fā)展的禁區(qū)在哪里等問題，必須通過建立理性的倫理規(guī)則和法律規(guī)范為人工智能發(fā)展的風(fēng)險防范設(shè)置“控制閥”，不斷強(qiáng)調(diào)“人本視角”，確保其體現(xiàn)在AI開發(fā)的各個階段中，讓AI技術(shù)適用性更強(qiáng)、更具協(xié)作性、負(fù)面影響更小，讓越來越多的人類受益于未來的技術(shù)進(jìn)步。

審核編輯 ：李倩