很多家庭使用交互式音箱，但用戶在家里的竊竊私語會(huì)不會(huì)被家里的音響“偷走”呢？人工智能時(shí)代如何實(shí)現(xiàn)用戶的隱私保護(hù)？

科大訊飛董事長(zhǎng)劉慶峰在世界人工智能大會(huì)產(chǎn)業(yè)發(fā)展全體會(huì)議上表達(dá)了上述擔(dān)憂。

算法歧視、非法移動(dòng)跟蹤、數(shù)據(jù)隱私侵犯……人工智能在帶給人類巨大進(jìn)步與福利的同時(shí)，也帶來了不可忽視的風(fēng)險(xiǎn)。

7月10日，以“人工智能的權(quán)利義務(wù)與法律實(shí)踐”為主題的世界人工智能大會(huì)法治論壇（下稱“論壇”）舉行。論壇上，上海市法學(xué)會(huì)、浙江清華長(zhǎng)三角研究院、華東政法大學(xué)、上海政法學(xué)院聯(lián)合發(fā)布《世界人工智能法治藍(lán)皮書（2020）》（下稱《藍(lán)皮書（2020）》）、《人工智能法治發(fā)展指數(shù)》（下稱《指數(shù)》）和《2019中國(guó)人工智能法治發(fā)展評(píng)估報(bào)告》，關(guān)注人工智能發(fā)展中的熱點(diǎn)、核心法律問題。

人工智能立法如何突破？

《藍(lán)皮書（2020）》的內(nèi)容由前言、人工智能法治綜述、人工智能法治發(fā)展指數(shù)、2019年中國(guó)人工智能法治發(fā)展報(bào)告、專題報(bào)告等11個(gè)部分組成。

其中6篇專題報(bào)告分別聚焦區(qū)塊鏈技術(shù)、醫(yī)療領(lǐng)域人工智能應(yīng)用、人臉識(shí)別與隱私權(quán)保護(hù)、數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)保護(hù)、復(fù)合型人才培養(yǎng)等人工智能發(fā)展和應(yīng)用中的熱點(diǎn)、核心法律問題。

如何用法律和科技來保護(hù)用戶隱私安全、數(shù)據(jù)安全？

韓國(guó)梨花大學(xué)法學(xué)院教授李元馥認(rèn)為，要設(shè)計(jì)一個(gè)法律體系，來激勵(lì)并鼓勵(lì)開發(fā)者開發(fā)出更清晰、更透明的人工智能。其中一種方法是使用侵權(quán)責(zé)任來激勵(lì)和約束人工智能開發(fā)者。

“如果我們能在侵權(quán)法的設(shè)計(jì)上，讓開發(fā)者的責(zé)任與其開發(fā)的人工智能的可解釋性成反比，將有利于社會(huì)。因?yàn)樗鼘⒓?lì)人工智能開發(fā)者努力開發(fā)更易于解釋和審查的人工智能?！?李元馥說。

上海交通大學(xué)凱原法學(xué)院訪問特聘教授秦裕林認(rèn)為，在預(yù)防人工智能可能帶來危害的同時(shí)，也應(yīng)當(dāng)建立相應(yīng)的法律法規(guī)，且與市場(chǎng)的力量相結(jié)合，倡導(dǎo)能自覺守法，友好地為人類服務(wù)的人工智能技術(shù)和系統(tǒng)的研究與開發(fā)。

人工智能立法已經(jīng)提上日程，立法具體要遵循哪些規(guī)則？

中國(guó)法學(xué)會(huì)學(xué)術(shù)委員會(huì)主任張文顯認(rèn)為，智能社會(huì)是科技賦能型社會(huì)。法律要以激勵(lì)和保護(hù)大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、人工智能創(chuàng)新發(fā)展為首要原則，推進(jìn)中國(guó)智能科技占領(lǐng)世界科技的制高點(diǎn)。

美國(guó)康奈爾大學(xué)法學(xué)院王氏中國(guó)法講席教授於興中表示，如果我們要制定有關(guān)人工智能的法律，就必須制定反映人類道德的法律。

“社會(huì)倫理、職業(yè)倫理、生物學(xué)研究倫理、機(jī)器人倫理、人工智能倫理等都與法律有關(guān)。道德原則將作為立法和執(zhí)法的指導(dǎo)，可以被視為人工智能開發(fā)人員的內(nèi)部約束，也可能成為人工智能開發(fā)人員的設(shè)計(jì)參數(shù)?！膘杜d中說。

瑞典隆德大學(xué)法律社會(huì)學(xué)教授哈坎·海登（Hkan Hydn）則認(rèn)為，機(jī)器學(xué)習(xí)也將給法治帶來突破。

“隨著數(shù)字化技術(shù)的出現(xiàn)，技術(shù)本身也已成為法規(guī)的來源。規(guī)范的出發(fā)點(diǎn)已變更。當(dāng)技術(shù)自身開始成為規(guī)范時(shí)，數(shù)字化過程將進(jìn)一步發(fā)展?！?海登稱。

人工智能司法應(yīng)用正在推廣

與《藍(lán)皮書（2019）》相比，《藍(lán)皮書（2020）》的另一大特點(diǎn)是制定了《人工智能法治發(fā)展指數(shù)》。

《指數(shù)》確定了政策文件、理論支撐、執(zhí)法實(shí)施、市場(chǎng)規(guī)模、社會(huì)關(guān)注、法治環(huán)境等6個(gè)一級(jí)指標(biāo)，旨在客觀、準(zhǔn)確、全面反映我國(guó)人工智能法治發(fā)展?fàn)顩r，引領(lǐng)、推進(jìn)人工智能法治研究。

“可量化、可視化的形式較準(zhǔn)確、客觀、全面反映人工智能法治發(fā)展情況，為人工智能法治研究提供支撐，推動(dòng)人工智能法治建設(shè)?！?上海政法學(xué)院校長(zhǎng)、藍(lán)皮書編委會(huì)副主任劉曉紅表示。

《2019中國(guó)人工智能法治發(fā)展評(píng)估報(bào)告》顯示，2019年中國(guó)人工智能法治發(fā)展評(píng)估得分 83.79 分，總體水平較高，但相對(duì)薄弱環(huán)節(jié)在于執(zhí)法領(lǐng)域具體場(chǎng)景化人工智能產(chǎn)品的運(yùn)用。

實(shí)際上，上海在人工智能與司法的深度融合方面已經(jīng)做出了表率。

上海市法學(xué)會(huì)黨組書記、會(huì)長(zhǎng)，上海市高級(jí)人民法院原院長(zhǎng)、二級(jí)大法官崔亞東在論壇上介紹，經(jīng)過三年多的努力，集中700余人合力攻關(guān)，上海在2019年底成功完成研發(fā)“推進(jìn)以審判為中心的訴訟制度改革——上海刑事案件智能輔助辦案系統(tǒng)”（下稱“206系統(tǒng)”），先后獲國(guó)家批準(zhǔn)六項(xiàng)知識(shí)產(chǎn)權(quán)。上海刑事案件辦理從立案、偵查、報(bào)捕、起訴、審判均在“206系統(tǒng)”內(nèi)運(yùn)行。

據(jù)統(tǒng)計(jì)，2019年1月至2020年6月，206系統(tǒng)累計(jì)錄入證據(jù)材料14，047，275頁、提供證據(jù)指引541，754次（依系統(tǒng)點(diǎn)擊量統(tǒng)計(jì)）、提供知識(shí)索引8，331次、提示證據(jù)瑕疵28，309個(gè)。

“智能輔助審訊系統(tǒng)研發(fā)應(yīng)用，推動(dòng)了審訊工作的改革，是傳統(tǒng)的審訊工作模式向現(xiàn)代化智能化審訊模式質(zhì)的飛躍。這是人工智能等新技術(shù)與刑事司法實(shí)踐深度融合的重大成果，使我國(guó)憲法、刑法、刑訴法確立的刑事法律原則得以落地，體現(xiàn)了中國(guó)法治的進(jìn)步?！?崔亞東表示。

目前，該系統(tǒng)在安徽、山西、貴州、新疆生產(chǎn)建設(shè)兵團(tuán)、云南等省市已推廣應(yīng)用。