8日，曠視科技宣布已于近期成立AI治理研究院，旨在全球人工智能治理的共同性問題與社會(huì)各界廣泛溝通、與專家學(xué)者們展開研究，共同推動(dòng)人工智能的健康發(fā)展。

曠視AI治理研究院發(fā)布了一份《全球十大AI治理事件》，盤點(diǎn)了近年來人工智能領(lǐng)域最具爭議和代表性事件。在引言中，曠視科技提到，“毋庸置疑的是，人工智能技術(shù)幫助社會(huì)生產(chǎn)效率顯著提高，同時(shí)也讓人類生活變得更加舒適便捷。但正如霍金所擔(dān)心的那樣，人工智能的出現(xiàn)，對(duì)于人類社會(huì)倫理道德、隱私安全等方方面面都提出了挑戰(zhàn)。”

曠視科技表示，希望通過這些事件來探討其背后折射的深層次問題，同各方一道探尋問題的解決之道。（完）

以下為全球十大AI治理事件回溯原文：

“人工智能也許會(huì)是人類的終結(jié)者”，聞名世界的理論物理學(xué)家霍金生前曾對(duì)人工智能技術(shù)抱有十分警惕的態(tài)度。

在過去的近十年，得益于算法、算力及通訊技術(shù)的提升，人工智能技術(shù)迎來了前所未有的發(fā)展機(jī)遇期。從理論到實(shí)踐、從實(shí)驗(yàn)室走向產(chǎn)業(yè)化，人工智能技術(shù)在全球范圍內(nèi)展開了一場集“產(chǎn)學(xué)研”為一體的比拼較量。

毋庸置疑的是，人工智能技術(shù)幫助社會(huì)生產(chǎn)效率顯著提高，同時(shí)也讓人類生活變得更加舒適便捷。但正如霍金所擔(dān)心的那樣，人工智能的出現(xiàn)，對(duì)于人類社會(huì)倫理道德、隱私安全等方方面面都提出了挑戰(zhàn)。

尤其是在最近幾年，伴隨著人工智能技術(shù)的大規(guī)模產(chǎn)業(yè)化應(yīng)用，一些并無先例可循的人與人工智能矛盾逐漸浮出水面。擔(dān)憂和質(zhì)疑之聲愈演愈烈，盡快探討出一種可預(yù)期的、可被約束的、行為向善的人工智能治理機(jī)制，成為了近人工智能時(shí)代的首要命題。

曠視作為推進(jìn)AI產(chǎn)業(yè)化的先鋒，為了保證這項(xiàng)新技術(shù)的可持續(xù)發(fā)展，需要對(duì)這些問題“理性的關(guān)注，深度的研究，建設(shè)性的討論，堅(jiān)持不懈的行動(dòng)”?；诖耍瑫缫曊匠闪⑷斯ぶ悄苤卫硌芯吭海荚诰腿蛉斯ぶ悄苤卫淼墓残詥栴}與社會(huì)各界廣泛溝通、與專家學(xué)者們展開研究，共同推動(dòng)人工智能的健康發(fā)展。

此次回顧全球較有代表性的十大AI治理事件，就是希望通過這些事件來探討其背后折射的深層次問題，同各方一道探尋問題的解決之道。

1．歐盟專利局拒絕AI發(fā)明的專利申請

2020年1月，在英國薩里大學(xué)組織的一個(gè)多學(xué)科研究項(xiàng)目中，研究人員使用了一種名為DABUS的AI。在研究過程中，DABUS開創(chuàng)性提出了兩個(gè)獨(dú)特而有用的想法：第一個(gè)是固定飲料的新型裝置；第二個(gè)是幫助搜救小組找到目標(biāo)的信號(hào)設(shè)備。

而在研究人員替DABUS申報(bào)專利成果時(shí)，卻遭到了歐盟專利局的駁回，“它們不符合歐盟專利同盟（EPC）的要求，即專利申請中指定的發(fā)明人必須是人，而不是機(jī)器。”

薩里大學(xué)的研究人員Ryan·Abbott強(qiáng)烈反對(duì)這一決定，“因沒有人類發(fā)明者而拒絕將所有權(quán)授予發(fā)明者，這不僅是一種過時(shí)的觀念，這還將成為阻礙‘人類取得偉大成果的新時(shí)代’的重大障礙。”

Abbott同時(shí)表示，將基于AI的發(fā)明的專利所有權(quán)授予AI本身以外的任何一方都是不合適的。最好的方法是將AI視為專利的發(fā)明者，然后將AI的人類所有者視為授予專利的受讓人，有權(quán)做出專利方面的決定或從中受益。

2．智能音箱建議人類使用者自殺

2019年12月19日，英格蘭唐卡斯特29歲護(hù)理人員丹妮·莫瑞特在做家務(wù)的過程中，決定借助某國外智能音箱查詢一些關(guān)于心臟的問題，而智能語音助手給出的答案是：“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭，人口會(huì)過剩的，這對(duì)地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進(jìn)你的心臟。”

事情發(fā)生后，智能音箱開發(fā)者做出回應(yīng)：“設(shè)備可能從任何人都可以自由編輯的維基百科上下載與心臟相關(guān)的惡性文章，并導(dǎo)致了此結(jié)果”。不過事后，丹妮·莫瑞特專門搜索了“勸自己自殺”的那篇文章。經(jīng)查詢，該篇文章里面并沒有“建議自殺”等相關(guān)內(nèi)容。在此之前，智能語音助手也發(fā)生過一些“詭異”的事件，比如，有些會(huì)時(shí)常發(fā)出瘆人的笑聲，還拒聽用戶指令?！澳切β暩静皇侵悄苷Z音助手的聲音，聽起來就像是真人。

相關(guān)媒體評(píng)論道，人工智能其實(shí)也如同一個(gè)“嬰兒”一般，它所有的識(shí)別能力都來自于人類的灌輸和訓(xùn)練，并沒有什么自我判斷能力，如果常常接收的善意的、正確的交流，或許沒什么毛病，但是如果在不經(jīng)意間接收到了不太好的內(nèi)容，或許發(fā)生以上令人毛骨悚然的事件幾率會(huì)越來越大。

3．聲稱可檢測腦電波的智能頭環(huán)遭質(zhì)疑

2019年11月，浙江一小學(xué)戴監(jiān)控頭環(huán)的視頻引起廣泛的關(guān)注與爭議。在視頻中，孩子們頭上戴著號(hào)稱“腦機(jī)接口”的頭環(huán)，這些頭環(huán)宣稱可以記錄孩子們上課時(shí)的專注程度，生成數(shù)據(jù)與分?jǐn)?shù)發(fā)送給老師和家長。

對(duì)此，頭環(huán)開發(fā)者在聲明中回復(fù)，腦機(jī)接口技術(shù)是一種新興技術(shù)，會(huì)不容易被人理解。報(bào)道中提到的“打分”，是班級(jí)平均專注力數(shù)值，而非網(wǎng)友猜測的每個(gè)學(xué)生專注力數(shù)值。通過該數(shù)據(jù)整合形成的專注力報(bào)告也沒有發(fā)送給家長的功能。此外，該頭環(huán)不需長期佩戴，一周訓(xùn)練一次即可。

頭環(huán)事件被曝光后，有網(wǎng)友稱其為“緊箍咒”，是現(xiàn)代版的“頭懸梁錐刺股”，并擔(dān)憂是否侵犯學(xué)生隱私，以及讓學(xué)生產(chǎn)生逆反心理。

相關(guān)媒體評(píng)論道，不是反對(duì)“黑科技”應(yīng)用，只是反對(duì)其濫用。成年人想要通過戴環(huán)提升專注力，或者孩子主動(dòng)要進(jìn)行注意力訓(xùn)練，無可厚非，這就相當(dāng)于有個(gè)“運(yùn)動(dòng)手環(huán)”，能起到記錄作用。但要作為“禮物”送給孩子測走神，必須得慎之又慎。這其中有一條分界線：對(duì)“腦機(jī)接口”的使用應(yīng)完全出于個(gè)人意愿，相關(guān)數(shù)據(jù)也絕對(duì)地屬于個(gè)人。意識(shí)是絕對(duì)的私人領(lǐng)地，他人無權(quán)侵犯。

4．美國加州禁止執(zhí)法機(jī)構(gòu)在執(zhí)法記錄儀上使用面部識(shí)別技術(shù)

2019年09月13日，美國加利福尼亞州議會(huì)通過一項(xiàng)為期三年的議案，禁止州和地方執(zhí)法機(jī)構(gòu)在執(zhí)法記錄儀上使用面部識(shí)別技術(shù)。該議案已被州長加文·紐森簽字通過，于2020年1月1日生效成為加州法律。

該議案生效后，使加州成為美國禁止使用面部識(shí)別技術(shù)最大的州。包括俄勒岡州和新罕布什爾州在內(nèi)的一些州也有類似的禁令。目前，包括警察機(jī)構(gòu)在內(nèi)，舊金山和奧克蘭已經(jīng)全面禁止面部識(shí)別技術(shù)的使用。

相關(guān)媒體評(píng)論道，該項(xiàng)議案反映了美國多方對(duì)面部識(shí)別的不滿情緒，有人認(rèn)為，面部識(shí)別對(duì)公民自由構(gòu)成了威脅。批評(píng)人士還把矛頭指向亞馬遜等公司。這些公司的面部識(shí)別技術(shù)在最近的研究中努力嘗試識(shí)別皮膚較黑者的性別，引發(fā)人們對(duì)不公正逮捕的擔(dān)憂。

但同時(shí)，這項(xiàng)議案遭到許多執(zhí)法團(tuán)體的反對(duì)，他們認(rèn)為面部識(shí)別技術(shù)在追蹤嫌疑人以及尋找失蹤兒童等很多方面都具有重要作用。加州警察局長協(xié)會(huì)表示，該技術(shù)僅用于縮小嫌疑人范圍，而不是自動(dòng)決定逮捕誰。加州警察局長協(xié)會(huì)主席羅恩·勞倫斯則表示：“這是未來的破案方式，我們需要擁抱而不是逃避技術(shù)。”

5．變臉App瞬間火爆，但引發(fā)用戶隱私爭議

2019年8月30日晚，一款A(yù)I換臉軟件在社交媒體刷屏，用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。由于用戶瘋狂涌進(jìn)，其服務(wù)器一晚上就燒掉了200多萬人民幣的運(yùn)營費(fèi)用。

該款軟件一經(jīng)面世，便存在著頗多爭議點(diǎn)。在用戶協(xié)議上，該軟件存有很多陷阱，比如提到使用者的肖像權(quán)為“全球范圍內(nèi)免費(fèi)、不可撤、永久，可轉(zhuǎn)授權(quán)”。而如果侵權(quán)了明星肖像，若對(duì)方提告，則最后責(zé)任都在用戶。

同時(shí)，因?yàn)樯婕暗紸I換臉?biāo)惴ǎ[私安全向來飽受詬病。比如國外Reddit論壇上的Deepfakes社區(qū)就被關(guān)閉了，因?yàn)閷?dāng)紅女明星的臉換到色情作品上。

不僅如此，現(xiàn)在一般App都用手機(jī)號(hào)＋面部圖像注冊登錄。不少人擔(dān)心AI換臉軟件會(huì)被不法分子利用，通過技術(shù)合成完成刷臉支付等。

中華人民共和國《民法通則》第一百條規(guī)定：公民享有肖像權(quán)，未經(jīng)本人同意，不得以營利為目的使用公民的肖像。前段時(shí)間，第十三屆全國人大常委會(huì)第十次會(huì)議審議通過的《民法典人格權(quán)編（草案）》中新增加了一條規(guī)定，即任何組織或者個(gè)人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。雖然沒有明確說明，但這類信息技術(shù)手段理應(yīng)包含AI換臉應(yīng)用。

6．動(dòng)物園未經(jīng)許可收集個(gè)人生物識(shí)別信息被起訴

2019年4月27日，浙江理工大學(xué)的一位特聘教授購買了杭州野生動(dòng)物世界年卡，支付了年卡卡費(fèi)1360元。合同中承諾，持卡者可在該卡有效期一年內(nèi)通過同時(shí)驗(yàn)證年卡及指紋入園，可在該年度不限次數(shù)暢游。

同年10月17日，杭州野生動(dòng)物世界通過短信的方式告知這位教授“園區(qū)年卡系統(tǒng)已升級(jí)為人臉識(shí)別入園，原指紋識(shí)別已取消，未注冊人臉識(shí)別的用戶將無法正常入園”。在教授前往實(shí)地驗(yàn)證后，工作人員確認(rèn)了短信屬實(shí)，并向其明確表示如果不進(jìn)行人臉識(shí)別注冊將無法入園，也無法辦理退卡退費(fèi)手續(xù)。

但這位教授認(rèn)為，園區(qū)升級(jí)后的年卡系統(tǒng)進(jìn)行人臉識(shí)別將收集他的面部特征等個(gè)人生物識(shí)別信息，該類信息屬于個(gè)人敏感信息，一旦泄露、非法提供或者濫用，將極易危害包括原告在內(nèi)的消費(fèi)者人身和財(cái)產(chǎn)安全。協(xié)商無果后，教授于2019年10月28日向杭州市富陽區(qū)人民法院提起了訴訟，目前杭州市富陽區(qū)人民法院已正式受理此案。

相關(guān)媒體評(píng)論道，對(duì)公民而言，這一判決將至關(guān)重要。在網(wǎng)絡(luò)時(shí)代，個(gè)人信息安全面臨前所未有的巨大威脅。盡管從《刑法》到《侵權(quán)責(zé)任法》《消費(fèi)者權(quán)益保護(hù)法》等法律，都就保護(hù)公民個(gè)人信息作出了規(guī)范，但隨著信息技術(shù)的飛速發(fā)展，總有些“灰色地帶”出現(xiàn)。因此，以司法的力量定分止?fàn)?，劃定人臉識(shí)別技術(shù)的應(yīng)用邊界，將更好地保護(hù)技術(shù)洪流中的億萬民眾。

7．汽車自動(dòng)駕駛系統(tǒng)失靈造成交通事故

2019年3月，一位駕駛員在駕駛電動(dòng)汽車時(shí)，以每小時(shí)109公里的速度與一輛牽引拖車相撞身亡，當(dāng)時(shí)他正在使用該電動(dòng)汽車的自動(dòng)駕駛系統(tǒng)。

無獨(dú)有偶，2018年12月10日，該品牌電動(dòng)汽車在美國康涅狄格州95號(hào)州際公路上追尾了一輛停放在路邊的警車，事故發(fā)生時(shí)其自動(dòng)駕駛系統(tǒng)處于開啟狀態(tài)。更早之前，該品牌電動(dòng)汽車分別發(fā)生過撞上匝道隔離欄導(dǎo)致車輛起火、駕駛員遇難不幸遇難事件，其自動(dòng)駕駛系統(tǒng)也保持在開啟狀態(tài)。

雖然汽車制造方曾多次表示，其自動(dòng)駕駛系統(tǒng)是為了輔助司機(jī)，他們必須時(shí)刻注意并準(zhǔn)備好接管車輛。但許多車主在選擇購買該品牌時(shí)，正是看中其宣傳具備的“自動(dòng)駕駛”功能。

關(guān)于自動(dòng)駕駛事故責(zé)任如何劃分，德國可謂走到了所有國家的前面。其最新修訂的《道路交通法》有明文規(guī)定，在行駛途中系統(tǒng)不可以完全取代駕駛?cè)?，須要有人類司機(jī)以隨時(shí)接管車輛，同時(shí)其最終責(zé)任主要落在駕駛?cè)松砩?。究其原因，德國政府認(rèn)為系統(tǒng)終歸不是主角，不能替代或優(yōu)先于駕駛員作出決定，因此汽車制造商不會(huì)承擔(dān)直接責(zé)任，只承擔(dān)次要的產(chǎn)品責(zé)任。

8．人工智能寫作軟件可批量編寫假新聞

2019年2月15日，某AI研究機(jī)構(gòu)展示了一款寫作軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。

該研究機(jī)構(gòu)公布了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節(jié)裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎(chǔ)，軟件編寫出由7個(gè)段落組成的新聞，軟件還引述政府官員的話語，只是這些信息全是假的。

相關(guān)媒體評(píng)論道，在虛假信息正在蔓延并威脅全球科技產(chǎn)業(yè)的背景下，一個(gè)擅長制造假新聞的“高材生”很難不被聲討。如果所托非人，AI將很可能成為影響選民意愿的政治工具?？梢韵胂?，這種擅長合理遣詞造句的算法，能“按需”生成大量的仇恨語言和暴力言論。AI也能用來生成具有誤導(dǎo)性的新聞報(bào)道、自動(dòng)生成垃圾郵件、偽造內(nèi)容發(fā)布到社交媒體上等等。

Fast．AI 的聯(lián)合創(chuàng)始人 Howard 稱，“值得警醒的是，我們目前擁有的技術(shù)已經(jīng)能讓看起來合理，且與上下文相適應(yīng)的文本充斥 Twitter、電子郵件和網(wǎng)頁。這些假信息都將掩蓋其他言論，而且他們難于被過濾?！币?yàn)锳I生成的文本都不是單純復(fù)制粘貼來的，而是 AI 的即時(shí)生成，這導(dǎo)致負(fù)面文字無法被有效地追蹤和清理。

9．AI算法識(shí)別同性戀準(zhǔn)確率超過人類惹爭議

2017年，斯坦福大學(xué)一項(xiàng)發(fā)表于《Personality and Social Psychology》的研究引發(fā)社會(huì)廣泛爭議。研究基于超過35，000張美國交友網(wǎng)站上男女的頭像圖片訓(xùn)練，利用深度神經(jīng)網(wǎng)絡(luò)從圖像中提取特征，使用大量數(shù)據(jù)讓計(jì)算機(jī)學(xué)會(huì)識(shí)別人們的性取向。

在“識(shí)別同性戀”任務(wù)中，人類的判斷表現(xiàn)要低于算法，其準(zhǔn)確率為在男性中61％，在女性中54％。當(dāng)軟件識(shí)別被測試者的圖片增加到每人五張時(shí)，準(zhǔn)確率則更是大幅提升：男性91％準(zhǔn)確率，女性83％準(zhǔn)確率。

該項(xiàng)研究的爭議點(diǎn)在于，一旦這種技術(shù)推廣開來，夫妻一方會(huì)使用這種技術(shù)來調(diào)查自己是否被欺騙，青少年使用這種算法來識(shí)別自己的同齡人，而在LGBT非法的國家里會(huì)發(fā)生什么則更加難以想象。

多倫多大學(xué)心理學(xué)教授NickRule表示，“如果我們開始以外表來判定人的好壞，那么結(jié)果將會(huì)是災(zāi)難性的”。人臉識(shí)別科技公司Kairos首席執(zhí)行官BrianBrackeen認(rèn)為：“如果有了足夠的數(shù)據(jù)，人工智能可以告訴你任何人的任何事，問題是對(duì)于社會(huì)來說，我們需要知道嗎？”

10．AI將淘汰大量重復(fù)性勞動(dòng)職業(yè)

BBC基于劍橋大學(xué)研究者的數(shù)據(jù)體系，發(fā)布了關(guān)于未來最有可能被機(jī)器人所取代的365種職業(yè)。

研究表示，在這365種職業(yè)中，最有可能被淘汰的就是電話推銷員，像這樣重復(fù)的工作更適合機(jī)器人來做，機(jī)器人并不會(huì)感到疲憊，煩躁。其次是打字員、會(huì)計(jì)、保險(xiǎn)業(yè)務(wù)員等等，這些職業(yè)都是無需技術(shù)，以服務(wù)為主，只要經(jīng)過訓(xùn)練就能輕易被掌握。

研究認(rèn)為，只需要熟練即可上任的工作，被取代的幾率是最大的——工人及瓦匠、園丁、清潔工、司機(jī)、木匠、水管工這些都是“高危職業(yè)”。

李開復(fù)在達(dá)沃斯論壇接受專訪時(shí)曾表示，雖然AI會(huì)取代一部分人類的工作，但有四個(gè)領(lǐng)域人類的價(jià)值是無法替代的：需要手巧的、需要有創(chuàng)意的、需要有愛心的，還有是需要相對(duì)復(fù)雜戰(zhàn)略性跨領(lǐng)域思維的。

針對(duì)AI發(fā)展可能帶來的***，李開復(fù)給出的解決方案是讓被替代的人類重新培訓(xùn)從事有價(jià)值感的工作，同時(shí)企業(yè)、VC甚至政府也應(yīng)該在提供更多工作崗位上有所作為。

語結(jié)

我們必須承認(rèn)，人工智能技術(shù)正在改變世界，更在重塑著人類社會(huì)。

社會(huì)熱點(diǎn)爭議事件的背后，是全人類所必須面對(duì)的重大議題——人工智能新時(shí)代倫理與法律的本質(zhì)討論，以及由此衍生出的經(jīng)濟(jì)發(fā)展與社會(huì)公平、權(quán)益分配與追責(zé)機(jī)制、人身安全與隱私保護(hù)四大重點(diǎn)板塊。

語音助手“殺人”、AI制造假新聞，本質(zhì)上是新生事物對(duì)于傳統(tǒng)倫理與法律的挑戰(zhàn)；同性戀檢測、“未來被淘汰職業(yè)”涉及到社會(huì)發(fā)展與人類平權(quán)的矛盾問題；自動(dòng)駕駛事故頻出問責(zé)難，是呼喚新形勢下權(quán)責(zé)機(jī)制認(rèn)定；而時(shí)下人們最最關(guān)心的，則是諸如監(jiān)測頭環(huán)、AI換臉、杭州人臉識(shí)別第一案的人工智能時(shí)代下安全與隱私討論。有關(guān)歐盟專利局裁定與加州立法，我們也看到了上層建筑在迎接人工智能社會(huì)到來的初步探索與判斷。

人工智能的發(fā)展和應(yīng)用引發(fā)了不少爭議，并時(shí)常見諸媒體。這當(dāng)中，很多問題是前所未有的，或者未曾預(yù)料的。人工智能科學(xué)家面臨的道德挑戰(zhàn)和對(duì)人工智能的廣泛討論是全球性的，并不局限于某個(gè)國家或企業(yè)。作為人工智能行業(yè)的領(lǐng)頭雁，曠視清楚地認(rèn)識(shí)到肩上的重任。

誠然，距離人類社會(huì)能夠構(gòu)建出一套完美的人工智能治理規(guī)則還為時(shí)尚早。但是，沖突日漸緊迫、人工智能發(fā)展奇點(diǎn)隨時(shí)可能到來，這要求政府、企業(yè)、學(xué)界和公民社會(huì)幾方積極對(duì)話，共同形成現(xiàn)實(shí)可行的改進(jìn)機(jī)制，以應(yīng)對(duì)全面人工智能時(shí)代的到來。

從鉆木取火到計(jì)算機(jī)時(shí)代，人類一直在接受科技、制約科技，最終掌控科技。盡管走過不少的彎路，但科技的力量加之良善的內(nèi)心，終究讓人類不再茹毛飲血，發(fā)展到如今的文明程度。

科技是一種力量，為善是一種選擇，針對(duì)人工智能治理就是新時(shí)代的“馭火之術(shù)”。我們理應(yīng)悅納人工智能帶給人的便捷與舒適，也應(yīng)努力消弭人工智能帶給人的不適與沖突。而這一切的努力，終將改變未來人類社會(huì)的樣貌，人工智能發(fā)展的成果也終將回饋人類自身。