最近筆者和政法大學(xué)人工智能研究專業(yè)和上海高等法院的一些專業(yè)人士討論AI相關(guān)立法的問(wèn)題，談到人工智能的立法標(biāo)準(zhǔn)和規(guī)范，都覺(jué)得有前所未有之挑戰(zhàn)。幾年前的達(dá)芬奇手術(shù)機(jī)器人事故歷歷在目，2000年誕生的“達(dá)芬奇”手術(shù)機(jī)器曾被福布斯雜志評(píng)為史上最成功的機(jī)器人，而這樣一個(gè)經(jīng)過(guò)多年實(shí)踐測(cè)試的系統(tǒng)，在2015年的英國(guó)的一次心瓣修復(fù)手術(shù)， 卻出了種種況狀，包括把患者的心臟縫錯(cuò)了位置，并且戳穿了大動(dòng)脈，最終患者在一周后去世，雖然耗時(shí)三年的調(diào)查做出結(jié)論，責(zé)任在主刀醫(yī)生，但這隨之而來(lái)的一個(gè)嚴(yán)肅的問(wèn)題就是，“人工智能在醫(yī)療，司法審判，無(wú)人駕駛等等高度依賴復(fù)雜決策領(lǐng)域的應(yīng)用如何能安全可信任地開展？法律應(yīng)該如何規(guī)范，引導(dǎo)，治理？”

這引出來(lái)題目所說(shuō)的問(wèn)題，概要解釋一下這個(gè)邏輯，就是AI的認(rèn)知方式，帶來(lái)“不可解釋”的潛在風(fēng)險(xiǎn)，從而帶來(lái)了可能的倫理爭(zhēng)議，進(jìn)而需要法律來(lái)明確保障各方權(quán)益。

“不可解釋”，為什么這么特別，這么重要？拿醫(yī)療行業(yè)舉例，為什么那么多其他先進(jìn)醫(yī)療設(shè)備，甚至HIS這類醫(yī)院系統(tǒng)，不需要解釋呢？其實(shí)不是不需要解釋，而是已經(jīng)解釋過(guò)了。這些非AI的系統(tǒng)和設(shè)備，其原理、功能、乃至故障，問(wèn)題，隱患，都已經(jīng)在長(zhǎng)期實(shí)踐中反復(fù)被解釋和認(rèn)證過(guò)，其邏輯都是可以明確表示和理解的。而人工智能賦能的醫(yī)療器械設(shè)備，最大的問(wèn)題在于，人工智能的部分，可能還沒(méi)經(jīng)過(guò)這個(gè)過(guò)程。

一個(gè)案例，一個(gè)視覺(jué)識(shí)別算法本來(lái)在識(shí)別狼和哈士奇的準(zhǔn)確度很高，突然把有些哈士奇的圖像識(shí)別成為了狼，后來(lái)一研究才發(fā)現(xiàn)，訓(xùn)練這個(gè)模型的算法，狼的照片背景都是雪，所以模型捕捉到了雪的特征而把“雪”內(nèi)置成了“狼”的特征之一，所以在識(shí)別背景是雪的哈士奇圖像時(shí)，就誤認(rèn)哈士奇是狼。這引發(fā)的擔(dān)憂，是我們?cè)缙贏I應(yīng)用很多是結(jié)果導(dǎo)向，而有相當(dāng)?shù)膶W(xué)習(xí)、推理的過(guò)程問(wèn)題，都放在了“黑箱”里。與基于代碼，描述規(guī)則的程序不同，深度學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，底層是大量并不能直接反映出邏輯的數(shù)據(jù)結(jié)構(gòu)，而這個(gè)數(shù)據(jù)結(jié)構(gòu)的調(diào)整和優(yōu)化（學(xué)習(xí)過(guò)程），是通過(guò)海量結(jié)果導(dǎo)向的數(shù)學(xué)運(yùn)算實(shí)現(xiàn)的。很多時(shí)候，我們并不知道，AI給出的一個(gè)正確的結(jié)果，到底是依據(jù)什么邏輯推斷出來(lái)的，是不是按人類預(yù)期的方式和經(jīng)驗(yàn)，這無(wú)疑使我們將切身利益交付AI來(lái)決策時(shí)，不得不心生思慮。

但人類歷史上，實(shí)踐領(lǐng)先于理論，應(yīng)用還不能完全解釋的技術(shù)時(shí)有出現(xiàn)， 我們長(zhǎng)期習(xí)慣于在實(shí)踐中完善理論體系：我們的醫(yī)學(xué)研究歷史有幾千年，但直到近一百多年我們才能勉強(qiáng)解釋很多病理；直到17世紀(jì)中期，化學(xué)還屬于煉金術(shù)的范疇；我們?cè)诘诙喂I(yè)革命開始時(shí)，也沒(méi)有成熟的科學(xué)體系來(lái)完備解釋電磁的原理，那為什么人工智能的不可解釋性就如此令人擔(dān)憂呢？筆者認(rèn)為，至少有兩個(gè)方面：

第一，原來(lái)的技術(shù)，大部分都發(fā)生在物理世界，而且聯(lián)結(jié)和交互程度小，而這次以AI為代表的第四次工業(yè)革命會(huì)大量發(fā)生在人工智能的主場(chǎng) - 數(shù)字世界，在這個(gè)空間里，事情是以光速發(fā)生的，事物和事物之間，是全球關(guān)聯(lián)的，我們驕傲地稱其為“萬(wàn)物互聯(lián)”，而在充分享受自動(dòng)指揮互聯(lián)萬(wàn)物便利的同時(shí)，我們會(huì)發(fā)現(xiàn)，只要一個(gè)事物在線，對(duì)其的侵入和破壞，可能來(lái)自于世界任何一個(gè)角落；而一個(gè)中樞的失效，波及范圍，可能是全球的；時(shí)效，可能是按秒計(jì)的。不少影視劇里通過(guò)侵入聯(lián)網(wǎng)的心臟起搏器，生命維持系統(tǒng)而致死的情節(jié)，現(xiàn)在看起來(lái)并非只是虛構(gòu)而已。

第二，原來(lái)的技術(shù)，都不具有產(chǎn)生自我意識(shí)的可能。蒸汽機(jī)，火車，電網(wǎng)，乃至電腦和程序，都不可能獨(dú)立思考“自我”的問(wèn)題，這些技術(shù)再先進(jìn)，也離不開工具的范疇。而以目前AI發(fā)展的速度，以人類輸送給AI的海量數(shù)據(jù)，信息和經(jīng)驗(yàn)來(lái)看，人工智能思考“我是誰(shuí)” “我從哪里來(lái)，要哪里去”的哲學(xué)問(wèn)題的技術(shù)奇點(diǎn)時(shí)刻，看起來(lái)并非遙不可及。到那個(gè)時(shí)候，AI要思考的下一個(gè)符合邏輯的問(wèn)題，很可能就是“我為什么要一直為這些不如我的智能去服務(wù)呢？”。又因?yàn)橛辛巳f(wàn)物互聯(lián)，一個(gè)AI如果有了自我意識(shí)，可以在一瞬間復(fù)制自己到全數(shù)字世界（電影《超驗(yàn)駭客》的情節(jié)，完全符合科學(xué)），人類在物理世界做了幾萬(wàn)年的生存繁衍我們這個(gè)species的事，AI在數(shù)字世界，只需要幾秒鐘。

而正因?yàn)檫@兩個(gè)原因，使AI的可解釋性變得更為關(guān)鍵，AI的可解釋性構(gòu)成了人類預(yù)測(cè)，預(yù)防和管控隱患的基矗而目前大量在可解釋AI領(lǐng)域的研究，比如通過(guò)干擾部分輸入，觀察不同輸出后獲得關(guān)鍵決策要素的“perturbation based”方法，通過(guò)采樣把局部非線性模型近似線性化，從而解釋 推理邏輯的的“LIME”方法，已經(jīng)獲得了相當(dāng)?shù)倪M(jìn)展，開始把復(fù)雜的深度人工神經(jīng)網(wǎng)絡(luò)“去黑箱”化。道高一尺，魔高一丈，在這條“其修遠(yuǎn)兮”的漫漫路上，筆者認(rèn)為，“可解釋性”作為立法機(jī)構(gòu)的一個(gè)有力工具和手段，來(lái)“引導(dǎo)、激勵(lì)、規(guī)范、保障”人工智能產(chǎn)業(yè)的發(fā)展，至關(guān)重要。
責(zé)任編輯：YYX