“天津機(jī)器人”是天津機(jī)器人產(chǎn)業(yè)協(xié)會(huì)的官方訂閱號(hào)，關(guān)注我們，了解津內(nèi)外、國(guó)內(nèi)外機(jī)器人行業(yè)資訊。協(xié)會(huì)內(nèi)單位可將最新動(dòng)態(tài)、成果以及活動(dòng)發(fā)送至weixin@TJRIA.com。

本報(bào)見(jiàn)習(xí)記者 陳瑜

不論是弱人工智能時(shí)代，還是強(qiáng)人工智能時(shí)代，人工智能與大數(shù)據(jù)對(duì)法學(xué)和法律實(shí)踐所造成的變革都已是不爭(zhēng)的事實(shí)。法學(xué)研究對(duì)人工智能時(shí)代所提出的新課題的回應(yīng)，將會(huì)為未來(lái)的司法實(shí)踐贏(yíng)得主動(dòng)權(quán)。

關(guān)于人工智能和法律，前美國(guó)國(guó)家安全顧問(wèn)和國(guó)務(wù)卿基辛格在近日發(fā)表于 《大西洋月刊》的文章中曾談及一個(gè)自動(dòng)駕駛汽車(chē)版本的 “電車(chē)難題”：如果自動(dòng)駕駛汽車(chē)因突發(fā)情況，被迫在殺害老人和殺害孩子之間作出選擇，它會(huì)選擇誰(shuí)？為什么？再進(jìn)一步思考，如果這輛汽車(chē)撞死撞傷了人，誰(shuí)又該為此負(fù)刑事責(zé)任？是這輛車(chē)，還是這輛車(chē)的設(shè)計(jì)者？

這個(gè)假設(shè)的場(chǎng)景只是人工智能面對(duì)法律問(wèn)題的一個(gè)縮影。伴隨著人工智能和大數(shù)據(jù)技術(shù)的迅速發(fā)展，一系列類(lèi)似的問(wèn)題也接踵而來(lái)：人類(lèi)生產(chǎn)生活方式的深刻變革將會(huì)給法律制度和社會(huì)治理帶來(lái)哪些挑戰(zhàn)？現(xiàn)行法治體系又該如何調(diào)整和應(yīng)對(duì)？近日，由華東政法大學(xué)人工智能與大數(shù)據(jù)指數(shù)研究院主辦，上海市大數(shù)據(jù)社會(huì)應(yīng)用研究會(huì)和律新社協(xié)辦的“人工智能、國(guó)家治理與法治論壇”在華東政法大學(xué)舉行，與會(huì)專(zhuān)家們針對(duì)上述問(wèn)題展開(kāi)了討論，為我們勾勒了人工智能時(shí)代下法治世界的圖景。

人工智能如何實(shí)現(xiàn)未來(lái)的精準(zhǔn)法治

在美劇《西部世界》中，主角福特有一句著名臺(tái)詞：“我們給機(jī)器編碼，是為了解碼人類(lèi)?！痹谌斯ぶ悄軙r(shí)代，隨著越來(lái)越多的社會(huì)活動(dòng)轉(zhuǎn)移到互聯(lián)網(wǎng)上進(jìn)行，人們?cè)诨ヂ?lián)網(wǎng)上留下海量數(shù)據(jù)，使得原本不可預(yù)測(cè)和追蹤的社會(huì)行為變得可以被計(jì)算。無(wú)論是對(duì)企業(yè)的經(jīng)營(yíng)還是政府的管理來(lái)說(shuō)，這種“社會(huì)的計(jì)算化”都意義重大：企業(yè)可以通過(guò)分析客戶(hù)數(shù)據(jù)、投放定制化廣告來(lái)兜售自己的產(chǎn)品，政府可以利用海量數(shù)據(jù)對(duì)個(gè)人進(jìn)行分類(lèi)、評(píng)分和社會(huì)信用評(píng)級(jí)來(lái)實(shí)現(xiàn)預(yù)測(cè)性執(zhí)法，從而更好地進(jìn)行精準(zhǔn)化治理。

但是，由于如今的“社會(huì)計(jì)算化”主要由商業(yè)力量推動(dòng)和控制，這給政府的治理工作帶來(lái)了新的問(wèn)題。上海交通大學(xué)凱原法學(xué)院教授鄭戈就指出，傳統(tǒng)上人們認(rèn)為，政府掌握了最充分的個(gè)人數(shù)據(jù)，從出生、入學(xué)、就業(yè)、婚姻、生育到死亡，但這些數(shù)據(jù)都是靜止的，它并不能生成對(duì)一個(gè)人動(dòng)態(tài)的行為模式的分析?，F(xiàn)在，由于人的大部分線(xiàn)上活動(dòng)不是在政府平臺(tái)上進(jìn)行，而是在搜索引擎、購(gòu)物平臺(tái)、社交網(wǎng)絡(luò)等由私人企業(yè)運(yùn)營(yíng)的商業(yè)平臺(tái)進(jìn)行，因此大量的數(shù)據(jù)實(shí)際是掌握在私人企業(yè)手里。政府雖然可以在行政、司法和執(zhí)法的過(guò)程中要求企業(yè)提供特定的個(gè)人數(shù)據(jù)，但這種要求只能在具體個(gè)案中針對(duì)特定人物，不能成為可供機(jī)器學(xué)習(xí)的大數(shù)據(jù)。而且，也可能遭到企業(yè)以保護(hù)商業(yè)秘密或合同關(guān)系為由的拒絕。

鄭戈的擔(dān)憂(yōu)并非空穴來(lái)風(fēng)。在近日發(fā)生的“女孩坐滴滴順風(fēng)車(chē)遇害案”中，滴滴公司就以保護(hù)司機(jī)隱私為由，未在第一時(shí)間向警方提供車(chē)牌、駕駛?cè)诵畔?，致使救援行?dòng)延誤。更為“諷刺”的是，滴滴一方面拒絕與政府合作披露用戶(hù)信息，另一方面又偷偷地濫用用戶(hù)的個(gè)人信息，典型的例子即是前不久因“空姐遇害案”引發(fā)爭(zhēng)議而下線(xiàn)的順風(fēng)車(chē)用戶(hù)標(biāo)簽和車(chē)主評(píng)價(jià)功能。

“從法律的角度來(lái)看，我們?cè)诳紤]人工智能在所謂的精準(zhǔn)治理中的應(yīng)用時(shí)，首先要面對(duì)的就是政府和企業(yè)的關(guān)系問(wèn)題——政府既需要與企業(yè)合作來(lái)獲取數(shù)據(jù)、購(gòu)買(mǎi)產(chǎn)品和服務(wù)，又需要作為企業(yè)與消費(fèi)者之間的中立第三方來(lái)對(duì)企業(yè)進(jìn)行監(jiān)管，保護(hù)消費(fèi)者的個(gè)人數(shù)據(jù)?！痹卩嵏昕磥?lái)，基本公共服務(wù)領(lǐng)域的公、私權(quán)力關(guān)系是未來(lái)治理需要解決的首要問(wèn)題：“一方面，要將透明、公開(kāi)、程序合法、說(shuō)明理由等對(duì)公權(quán)力行使者的要求延伸到實(shí)際上行使著 ‘準(zhǔn)公權(quán)力’的企業(yè)，使算法等技術(shù)化的監(jiān)控和決策手段不再是無(wú)法被問(wèn)責(zé)的‘黑箱’；另一方面，要調(diào)整傳統(tǒng)的公法概念和規(guī)制手段，以應(yīng)對(duì)現(xiàn)時(shí)代公私合作、公私共治的普遍現(xiàn)象?！?/p>

人工智能可以替代法律工作者嗎

如今，“智慧司法”已然是大勢(shì)所趨：已在上海市全面推廣應(yīng)用、覆蓋上海刑事案件的90%以上的“刑事案件智能輔助辦案系統(tǒng)”，就是人工智能新科技和司法改革深度融合的典范。在對(duì)上海幾萬(wàn)份刑事案件的卷宗、文書(shū)數(shù)據(jù)進(jìn)行“深度學(xué)習(xí)”后，該系統(tǒng)已具備初步的證據(jù)信息抓取、校驗(yàn)和邏輯分析能力。今年8月，一場(chǎng)法律界的“人機(jī)大賽”在重慶舉行，由重慶研發(fā)的人工智能法律機(jī)器人“大?！迸c從全國(guó)公開(kāi)招募的6名資深律師進(jìn)行了法律服務(wù)比拼，比賽結(jié)果令人瞠目結(jié)舌——“大?！钡牡梅诌h(yuǎn)遠(yuǎn)高于這6位資深律師。

上述這些例子都表明，法律從業(yè)人員的許多具體工作可以被人工智能所取代，這是否意味著人工智能會(huì)全面取代法律工作者？答案顯然是否定的?！叭斯ぶ悄芩w現(xiàn)的技術(shù)理性有明顯的化約主義傾向，我們可以借助它來(lái)提高效率，取代一部分無(wú)需創(chuàng)造性和價(jià)值判斷的工作，比如闖紅燈罰款，但不能由它來(lái)做出事關(guān)人類(lèi)福祉的最終決策。在涉及事實(shí)爭(zhēng)議和價(jià)值選擇的復(fù)雜問(wèn)題上，人工智能只能被用來(lái)強(qiáng)化人類(lèi)智能，而由人來(lái)作出最終的選擇和判斷。”鄭戈這樣說(shuō)。

上海市法學(xué)會(huì)黨組書(shū)記崔亞?wèn)|則進(jìn)一步指出：“在未來(lái)的法律人才培養(yǎng)上，一方面要在高校設(shè)立法律人工智能研究中心，開(kāi)設(shè)相關(guān)法律科技等方面的課程，培養(yǎng)法律和科技的復(fù)合高端人才。另一方面，我們也要明確在人工智能時(shí)代，法學(xué)教育的主業(yè)仍然是法律，人工智能的引入應(yīng)該是輔助法律從業(yè)人員更加高效、便捷、公正公開(kāi)地處理法律事務(wù)，至于這個(gè)證據(jù)能不能用、怎么用，如何量刑等問(wèn)題，最終的決定權(quán)仍在法官、檢察官手中，這一點(diǎn)決不能走偏?！?/p>

人工智能偏離人類(lèi)的預(yù)設(shè)怎么辦

美國(guó)波士頓動(dòng)力公司曾設(shè)計(jì)出一款可以 “隨機(jī)應(yīng)變”的機(jī)器人：給它設(shè)定一個(gè)“搬箱子”的任務(wù)，無(wú)論實(shí)驗(yàn)人員怎么妨礙它（把箱子移到別處，或者直接把機(jī)器人推倒），它還是會(huì)“頑強(qiáng)地”爬起來(lái)完成任務(wù)。但是，有學(xué)者擔(dān)心，給機(jī)器人植入一個(gè) “排查妨礙”的程序，如果它突然產(chǎn)生意識(shí)、學(xué)會(huì)自我學(xué)習(xí)，它發(fā)現(xiàn)每次害自己完不成任務(wù)的人是這個(gè)實(shí)驗(yàn)人員，那它會(huì)不會(huì)為了完成任務(wù)直接把這個(gè)實(shí)驗(yàn)人員撂倒？可見(jiàn)，當(dāng)智能機(jī)器人被設(shè)定為一種由程序編碼而成并由此產(chǎn)生深度學(xué)習(xí)能力的物體時(shí)，它完全有可能超越人類(lèi)對(duì)它的預(yù)設(shè)，獨(dú)立實(shí)施某些犯罪行為，這就對(duì)現(xiàn)有的刑罰體系產(chǎn)生了沖擊。

對(duì)此，華東政法大學(xué)刑事法學(xué)研究院院長(zhǎng)劉憲權(quán)教授在他的新書(shū)《人工智能時(shí)代刑事責(zé)任的演變》中指出，人工智能已經(jīng)遠(yuǎn)遠(yuǎn)不是作為犯罪工具那么簡(jiǎn)單，它影響著刑事責(zé)任的分配。他這樣說(shuō)：“現(xiàn)在一般將人工智能時(shí)代分為三類(lèi)：前人工智能時(shí)代、弱人工智能時(shí)代、強(qiáng)人工智能時(shí)代。前人工智能時(shí)代中的機(jī)器人，我們稱(chēng)之為普通機(jī)器人，比較典型的是ATM機(jī)和工業(yè)機(jī)械手。如果ATM機(jī)出了問(wèn)題，我們不太可能去追究它的研發(fā)者和使用者。但在我們正處于的弱人工智能時(shí)代中，在自動(dòng)駕駛技術(shù)日益普及的當(dāng)下，我們對(duì)研發(fā)者和使用者的責(zé)任定義就有了很大變化。比如，委內(nèi)瑞拉無(wú)人駕駛的***，還有韓國(guó)的殺人機(jī)器，從法律的角度來(lái)看，這應(yīng)當(dāng)是研發(fā)者的責(zé)任。未來(lái)，如果強(qiáng)人工智能時(shí)代到來(lái)，機(jī)器人擁有了自由意志，就需要獨(dú)立承擔(dān)刑事責(zé)任?！北M管目前在“強(qiáng)人工智能時(shí)代是否會(huì)到來(lái)”這一問(wèn)題仍有很大的爭(zhēng)議，但劉教授認(rèn)為法律工作者的態(tài)度應(yīng)是寧可信其有、不可信其無(wú)：“我們必須預(yù)先設(shè)定一些應(yīng)對(duì)的法律，否則一旦強(qiáng)人工智能時(shí)代到來(lái)，關(guān)于人類(lèi)的顛覆性問(wèn)題就會(huì)出現(xiàn)，甚至到時(shí)候，不是人類(lèi)制定法律規(guī)制它，而是它制定法律規(guī)制人類(lèi)，這并不是天方夜譚?！?/p>

類(lèi)似地，《華東政法大學(xué)學(xué)報(bào)》主編馬長(zhǎng)山教授也強(qiáng)調(diào)了要對(duì)現(xiàn)有法學(xué)理論進(jìn)行顛覆性創(chuàng)新來(lái)應(yīng)對(duì)眼下的這場(chǎng)人工智能革命，他指出：“這個(gè)重建分為以下幾個(gè)方面：一是研究理念的轉(zhuǎn)向。我們傳統(tǒng)的研究理念是建立在以羅馬法學(xué)為基礎(chǔ)的法律體系，羅馬體系是以人和人、人和物的關(guān)系為重要基礎(chǔ)，但隨著生產(chǎn)關(guān)系的變化，當(dāng)下的智能社會(huì)是以數(shù)據(jù)、信息、算法為基礎(chǔ)，這意味著整個(gè)生產(chǎn)管理和人們的生活方式都發(fā)生了巨大變化，沿用傳統(tǒng)的理念可能無(wú)法解決許多問(wèn)題。二是知識(shí)譜系的更新。現(xiàn)代法律體系是建立在理性主義和個(gè)人主義的基礎(chǔ)之上，但現(xiàn)在社會(huì)發(fā)展的去中心化、扁平化趨勢(shì)使得原先的‘理性人假設(shè)’等基礎(chǔ)理論被顛覆。此外，如果將來(lái)機(jī)器人產(chǎn)生意識(shí)，我們還需重新考慮主客體關(guān)系。三是理論與邏輯的重建。我們現(xiàn)在處理一些網(wǎng)絡(luò)信息、人工智能的案件是完全套用原本物理空間的邏輯而進(jìn)行，但存在許多問(wèn)題，比如網(wǎng)絡(luò)賭博案件，很難找到合適的管轄范圍，因此必須重建適用于智能互聯(lián)網(wǎng)時(shí)代的新邏輯?！?/p>

由此可見(jiàn)，不論是弱人工智能時(shí)代，還是強(qiáng)人工智能時(shí)代，人工智能與大數(shù)據(jù)對(duì)法學(xué)和法律實(shí)踐所造成的變革都已是不爭(zhēng)的事實(shí)。法學(xué)研究回應(yīng)人工智能時(shí)代提出的新課題，將會(huì)為司法實(shí)踐贏(yíng)得主動(dòng)權(quán)。未來(lái)已來(lái)，法律工作者們將手執(zhí)正義女神朱斯提提亞的長(zhǎng)劍，用法治為人工智能的健康發(fā)展護(hù)航。