人工智能犯罪：先行預(yù)防還是事后嚴(yán)懲

◇刑法規(guī)定了多種生產(chǎn)不符合標(biāo)準(zhǔn)的產(chǎn)品的犯罪，只要責(zé)任主體仍然是人，人在設(shè)計(jì)人工智能產(chǎn)品過(guò)程中就仍然受到刑罰威懾效果的影響。然而，當(dāng)AI致人損害而由其自負(fù)刑事責(zé)任時(shí)，人類的上述責(zé)任便被轉(zhuǎn)移，為機(jī)器人研發(fā)者、使用者推卸責(zé)任提供了絕佳的借口。

◇以風(fēng)險(xiǎn)防控為由造就的人工智能犯罪主體，實(shí)際上加劇了源頭風(fēng)險(xiǎn);刑事責(zé)任體系表面上因新犯罪主體的加入而更嚴(yán)密，事實(shí)上寬縱了人類義務(wù)，得不償失。

冀洋

自然科學(xué)的發(fā)展不斷影響著法學(xué)的思考對(duì)象與思考方式，人工智能技術(shù)的勃興如今喚起了更多法律人的熱情。在刑法領(lǐng)域，以“將機(jī)器人納入刑事責(zé)任主體”為代表的研究自2018年以來(lái)呈現(xiàn)急速增長(zhǎng)，其基本看法是：人工智能可與人類一樣接受獨(dú)立的處罰，并可承擔(dān)刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰種類（肯定論）。然而，承認(rèn)人工智能的犯罪主體地位，將面臨五大悖論。

第一，“技術(shù)失控—技術(shù)可控”之悖論。人工智能刑法研究的憂患意識(shí)來(lái)源于“人工智能的失控”：智能機(jī)器人將來(lái)具有辨認(rèn)和控制能力，能夠超越設(shè)計(jì)程序?qū)嵤┬袨?。然而，肯定論又提出了針?duì)人工智能的專有刑罰種類，除了永久銷毀或許可以僅通過(guò)蠻力完成之外，其余兩種刑罰均只能借助于高超的計(jì)算機(jī)技術(shù)以改造人工智能的“大腦”。那么，這里的問(wèn)題就很明顯了：既然刑罰技術(shù)能夠?qū)θ斯ぶ悄艿姆缸锬芰ψ龀鲇行拗?、能夠通過(guò)這種先進(jìn)技術(shù)刑罰將其框定在安全軌道，為何還會(huì)存在人工智能超脫人類控制的情形？上述刑罰設(shè)計(jì)表明的不正是人類可以實(shí)現(xiàn)對(duì)人工智能的控制？若此，人工智能就永遠(yuǎn)不會(huì)失控。若能夠從數(shù)據(jù)程序上消滅人工智能的犯罪能力，為何人類不在研發(fā)階段就做出這種技術(shù)干預(yù)？若沒(méi)有這種技術(shù)，這種技術(shù)刑罰又有何用？肯定論既斷言存在人工智能不可控的情況，又在刑罰上主張人工智能的運(yùn)行程序能夠被操縱，這存在先承認(rèn)“技術(shù)設(shè)計(jì)失敗”又承認(rèn)“技術(shù)設(shè)計(jì)可靠”的悖論。

第二，“特殊預(yù)防無(wú)效—特殊預(yù)防有效”之悖論?？隙ㄕ撝鲝堎x予人工智能犯罪主體身份，是為了給予其一定的刑罰，從前述三種刑罰種類可以看出，他們最看重的刑罰目的不是報(bào)應(yīng)、不是一般預(yù)防而是特殊預(yù)防：通過(guò)刪除數(shù)據(jù)、修改程序等技術(shù)手段剝奪其實(shí)施犯罪行為的可能性;若人工智能無(wú)法被矯正，那么就可以直接永久消滅之。概言之，這完全屬于李斯特式的預(yù)防論：矯正可以矯正的罪犯，不能矯正的罪犯不使為害。但是，智能機(jī)器的運(yùn)行不像人類那樣具有先天的、自然的行動(dòng)力，它是通過(guò)精密的程序計(jì)算來(lái)實(shí)現(xiàn)的，因而一個(gè)可能的技術(shù)操作便是，直接在設(shè)計(jì)階段對(duì)人工智能的“大腦”預(yù)設(shè)危險(xiǎn)避免措施、消除犯罪條件。可為何要等到犯罪之后再介入？如果設(shè)計(jì)編程可以實(shí)現(xiàn)特殊預(yù)防，那么在研發(fā)過(guò)程中植入這樣的控制程序才是最可靠的;如果人類沒(méi)有這種編程，那么設(shè)定這種刑罰又有何用，在犯罪后修改數(shù)據(jù)也同樣是不可實(shí)現(xiàn)的。因此，在“技術(shù)失控—技術(shù)可控”的悖論之后，肯定論在刑罰目的及其實(shí)現(xiàn)路徑上面臨又一悖論：以消除犯罪能力為目的，在能夠采取特殊預(yù)防措施的情況下，故意不采取措施而坐等犯罪之后才大談矯治之道。

第三，“刑罰設(shè)計(jì)—非刑罰性”之悖論。雖然刑罰能夠?qū)崿F(xiàn)報(bào)應(yīng)功能和預(yù)防功能，但這些功能卻并非刑罰所專屬，具有上述功能的處罰措施并非都可以被稱為刑罰，其他法律中的行政處分、民事賠償?shù)却胧┮卜謸?dān)著這些功能，如吊銷營(yíng)業(yè)許可證、吊銷駕駛證、損害賠償?shù)?。刑罰與行政處分、民事賠償在本質(zhì)上是完全不同的：刑罰的本質(zhì)是從國(guó)家立場(chǎng)對(duì)犯罪進(jìn)行的非難，行政處分是行政取締上的保安處置，民事賠償則是損失的公平分配。吊銷證照、損害賠償?shù)榷疾皇切塘P種類，即便這些措施被規(guī)定在刑法典中，它們也只能被稱為“非刑罰措施”，如刑法第37條規(guī)定的“訓(xùn)誡、責(zé)令具結(jié)悔過(guò)、賠禮道歉、賠償損失”“禁止從事相關(guān)職業(yè)”等?？隙ㄕ撛O(shè)計(jì)的刪除數(shù)據(jù)等所謂的“刑罰種類”，在當(dāng)前階段甚至幾百年前就是機(jī)器設(shè)備出現(xiàn)故障時(shí)的最普通的修理方式，通過(guò)刪除拆解零部件、修改某項(xiàng)設(shè)計(jì)甚至直接將之報(bào)廢，根本不需要什么法律甚至刑法上的正當(dāng)化根據(jù)以及司法程序，而只需要一本“使用說(shuō)明”“檢修指南”而已。這無(wú)異于將刑法貶低為技術(shù)管理法甚至“機(jī)器維修手冊(cè)”：能修就修，不能修就報(bào)廢。

第四，“AI主體性—AI工具性”之悖論。人們本來(lái)是為了生活的便利化而研制AI，但賦予其刑事主體地位就等于必須承認(rèn)其擁有一定的平等權(quán)利空間，那么就對(duì)人類權(quán)利的行使提出更多限制，這實(shí)際上為人類設(shè)立了一個(gè)新的競(jìng)爭(zhēng)物種，結(jié)局是：人類必須時(shí)刻為保障人工智能的權(quán)利、為人工智能的健康運(yùn)轉(zhuǎn)而服務(wù)，這加重了個(gè)人生活負(fù)擔(dān)，最終消解了前述便捷性。因此，不少肯定論者不承認(rèn)AI與人類在法律面前平等。但法律的強(qiáng)大之處就在于將事實(shí)上的不平等以法律擬制的方式強(qiáng)行彌合，如果人類與AI在法律上都不平等，那么二者將在任何時(shí)空都不會(huì)平等，二者就不可能并存于某一法律主體系統(tǒng)內(nèi)，而只能區(qū)分為“主體—工具”。此外，不少肯定論主張建構(gòu)強(qiáng)制保險(xiǎn)制度、建立賠償基金等以彌補(bǔ)機(jī)器人造成的損害，可如果AI是法律主體，那么為何需要另一個(gè)主體（人類）為之繳納保險(xiǎn)費(fèi)或基金？AI連獨(dú)立的財(cái)產(chǎn)權(quán)都沒(méi)有，其在致人損害時(shí)如何承擔(dān)義務(wù)？最終而言，這些責(zé)任還是要被推到人類自身，這與當(dāng)下的產(chǎn)品致?lián)p責(zé)任、汽車交強(qiáng)險(xiǎn)制度并無(wú)不同。

第五，“消減風(fēng)險(xiǎn)（追求責(zé)任體系嚴(yán)密化）—加劇風(fēng)險(xiǎn)（轉(zhuǎn)移人類責(zé)任）”之悖論。如果人類在制造這些機(jī)器人時(shí)設(shè)定的是“與人無(wú)害”模式，但在后期運(yùn)行中機(jī)器人在編程外實(shí)施法益侵害行為，這難道不正表明人類的技術(shù)依然不成熟？人類為機(jī)器人設(shè)定的框架很容易被突破，繼而在失控之后發(fā)生法益侵害，被非難對(duì)象難道不正是人類自己？如果我們把機(jī)器人的失控看作傳統(tǒng)產(chǎn)品缺陷或管理過(guò)失等，即將責(zé)任歸之于人類，則更有助于實(shí)現(xiàn)“風(fēng)險(xiǎn)防控”。例如，侵權(quán)責(zé)任法第41條有關(guān)產(chǎn)品缺陷責(zé)任規(guī)定實(shí)行無(wú)過(guò)錯(cuò)原則，民法正是以此升級(jí)對(duì)產(chǎn)品生產(chǎn)設(shè)計(jì)者的責(zé)任、降低產(chǎn)品缺陷及其損害風(fēng)險(xiǎn)。再如，刑法規(guī)定了多種生產(chǎn)不符合標(biāo)準(zhǔn)的產(chǎn)品犯罪，只要責(zé)任主體仍然是人類，人類在設(shè)計(jì)AI產(chǎn)品過(guò)程中就仍然受到刑罰威懾效果的影響，刑法在風(fēng)險(xiǎn)應(yīng)對(duì)上仍有所作為。然而，當(dāng)AI致人損害而由其自負(fù)刑事責(zé)任時(shí)，人類的上述責(zé)任便被轉(zhuǎn)移，為機(jī)器人研發(fā)者、使用者推卸責(zé)任提供了絕佳的借口。當(dāng)人類以“機(jī)器人已經(jīng)有自我意識(shí)，其法益侵害行為與我無(wú)關(guān)”作為擋箭牌成功推卸掉法律責(zé)任時(shí)，如何期望他們嚴(yán)格控制人工智能研發(fā)風(fēng)險(xiǎn)、使用風(fēng)險(xiǎn)？只有將機(jī)器人失控之情形仍然作為產(chǎn)品缺陷范疇，才能夠促進(jìn)人類謹(jǐn)慎研制人工智能、不斷提升人工智能技術(shù)，主動(dòng)減少技術(shù)造福人類時(shí)的技術(shù)風(fēng)險(xiǎn)。如果研發(fā)者既能靠AI技術(shù)謀取利潤(rùn)，在發(fā)生侵權(quán)損害時(shí)又不用承擔(dān)法律責(zé)任，他們內(nèi)心不知得有多狂喜，被害人不知得有多倒霉。所以這里存在第五個(gè)悖論：以風(fēng)險(xiǎn)防控為由造就的“AI犯罪主體”，實(shí)際上加劇了源頭風(fēng)險(xiǎn);刑事責(zé)任體系表面上因新犯罪主體的加入而更嚴(yán)密，事實(shí)上寬縱了人類義務(wù)，得不償失。