日前，人民智庫與曠視AI治理研究院成立聯(lián)合課題組，邀請中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)為課題支持，共同開展“2021 年度全球十大人工智能治理事件”遴選、評議，過程中得到了許多位行業(yè)權威專家和企業(yè)代表的大力支持。

通過此次梳理總結，力圖從喧嘩的輿論聲音以及理性的專家點評中透析出 AI 治理未來發(fā)展趨勢，研判 AI 在各領域、各場景應用的新空間、新作為，使其可控可靠可信服務于人類對科技改善生活、增進福祉的美好愿景。

接下來我們將把各位專家針對具體事件的精彩點評陸續(xù)發(fā)布出來，與所有 AI 從業(yè)者和關注負責任 AI 發(fā)展的朋友共勉。

事件五、強化算法綜合治理，防范算法濫用風險，用戶可選擇關閉算法推薦

案例描述

2021 年 9 月底，九部委印發(fā)《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》，要求防范算法濫用風險，維護網(wǎng)絡空間傳播秩序、市場秩序和社會秩序。2021 年 8 月 27 日，國家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定(征求意見稿)》向社會公開征求意見，提出應當向用戶提供不針對其個人特征的選項，或向用戶提供便捷的關閉算法推薦服務的選項等內(nèi)容。

專家點評

張凌寒 北京科技大學法學院副教授、國家人工智能倫理與道德標準小組成員

2021 年堪稱中國算法治理元年。2021 年伊始算法進入監(jiān)管視野，監(jiān)管部門展開系列算法執(zhí)法活動。世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件《算法推薦管理規(guī)定》出臺實施?！吨笇б庖姟沸嘉覈鴮⒃谌陜?nèi)建立起算法綜合治理體系。歐盟和美國在數(shù)據(jù)保護立法領域走在了中國之前，算法規(guī)制方面中國則當仁不讓地開世界先河。我國的算法治理體系以信息安全、市場競爭秩序和消費者權益保護為指導思想，《算法推薦管理規(guī)定》則確立了算法提供服務者的算法全生命流程監(jiān)管責任，并構建了用戶權益，尤其是未成年人、老年人和平臺勞工等社會弱勢群體的保護制度。2021 年的算法綜合治理活動與相關立法，使得我國率先建立了世界上最為完備的囊括數(shù)據(jù)安全、個人信息保護和算法安全的互聯(lián)網(wǎng)治理體系。

郭兵 浙江理工大學法政學院特聘副教授、杭州長三角大數(shù)據(jù)研究院副院長

當前，算法推薦等技術已經(jīng)被廣泛應用于電商平臺、新聞平臺、視聽平臺、社交平臺等諸多應用場景中。算法推薦等技術為網(wǎng)絡用戶和網(wǎng)絡平臺帶來便利和經(jīng)濟利益的同時，也引發(fā)了一系列新的法律問題。如果平衡好算法推薦等技術的創(chuàng)新發(fā)展與安全風險，成為了算法治理的一大難題。無論是已經(jīng)出臺的《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》，還是正在制定中的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》都是應對算法濫用風險等難題的有益制度探索。

張軍平 復旦大學計算機科學技術學院教授、博士生導師

由于存在人工智能算法上的偏見以及有意操縱大數(shù)據(jù)的采集，算法有可能會誤導公民的輿論傾向，甚至打壓競爭對手和侵害網(wǎng)民權益。因此，立法來杜絕這一事件，有利于公平化。

潘天群 南京大學哲學系教授、博導，南京大學科學技術與社會研究所所長

當前人們被各種網(wǎng)絡信息所包裹，這些輿論、信息影響并控制人們的情緒、認知與行為。然而，這些輿論、信息等的產(chǎn)生、放大已經(jīng)不是“自然”的，它們是被背后的人和組織通過技術手段所操縱，通過這種操縱，操縱人們的情緒、思維、行為，從而達到某種目的——無下限獲利、打壓競爭對手乃至實現(xiàn)某種政治目的。這種操縱已經(jīng)成了公害。該《意見》的出臺一定程度上能夠抑制信息的操控，但是這可能遠遠不夠。未來對網(wǎng)絡信息的治理任重道遠。

徐英瑾 復旦大學哲學學院教授、博導

近年來中國的互聯(lián)網(wǎng)技術的發(fā)展的一個特點，即以免費提供應用軟件下載服務為交換，大量獲取網(wǎng)民的個人信息，而相關的互聯(lián)網(wǎng)公司又以相關信息為基礎，通過推送軟件的推送服務獲得更大的流量。這樣的做法所帶來的倫理上的負面效應，便是加強了傳播學意義上的“信息繭房”效應，使得廣大用戶無法從互聯(lián)網(wǎng)獲得全面客觀的信息。同時，這種做法也在客觀上威脅到了廣大用戶的隱私安全。國家網(wǎng)信辦的這一規(guī)定，使得廣大用戶能夠自主選擇不上傳自身的特定數(shù)據(jù)，以此保護網(wǎng)民的隱私。從倫理角度看，國家對于互聯(lián)網(wǎng)行業(yè)經(jīng)營方式的這一干預是十分必要的。同時，這也為國內(nèi)互聯(lián)網(wǎng)公司對于基于大數(shù)據(jù)技術的人工智能開發(fā)路線敲響了警鐘。

事件六、自動駕駛汽車 2021 年或?qū)⒃谟戏ɑ?/p>

案例描述

英國《衛(wèi)報》報道，英國將推行計劃，允許安裝自動車道保持系統(tǒng)(Alks)技術的新車型在沒有司機插手的情況下上路行駛。英國交通部長麥克萊恩(Rachel Maclean)表示，這是“英國安全使用自動駕駛車輛的一大進步，它使未來的出行更加綠色、便捷和可靠?！?/p>

專家點評

聶長海 南京大學計算機科學與技術系教授

這是人類邁出的一大步，必將推動這個領域的更大進步：除了道路等基礎設施建設、自動駕駛汽車能力等自動駕駛相關的技術的進步，以此為示范和契機，將會帶動更多的無人系統(tǒng)和自治系統(tǒng)的繁榮和發(fā)展。

寧陽 華北電力大學教授

自動駕駛汽車將在英國合法化，入選 2021 年全球十大人工智能治理事件，引起各方高度關注。這一方面標志著自動駕駛技術越來越走向成熟，它可能使未來出行變得更加綠色、便捷和可靠，并將促使道路交通和商業(yè)保險等相關法規(guī)的重新修訂。但另一方面，也會帶來人們對于自動駕駛安全性的擔憂和喪失駕駛體驗感的顧慮，但不管對其作出何種評價，這無疑是一項嶄新的技術革命，自動駕駛市場前景廣闊，自動駕駛領域必將成為科技巨頭角逐的下一個行業(yè)藍海。

王飛躍 中國科學院自動化研究所復雜系統(tǒng)管理與控制國家重點實驗室主任、研究員

對于開放場景下的無人駕駛，歐美在法律制定、標準及政策等方面相比較中國更加靈活，而中國則因為對監(jiān)管、人權和安全更加看重，目前仍處于「道路測試」或者「試運營」階段。但在提升行業(yè)智能化水平等需求的推動下，在封閉或半封閉場景(如礦區(qū)、港口等)正在逐步落地無人駕駛，并已從技術上實現(xiàn)無安全員。

有人和無人駕駛的車輛共同上路面臨著工程復雜性和社會復雜性所帶來的巨大建模鴻溝。而通過平行駕駛，讓人工系統(tǒng)對真實世界車輛和道路建模，構建軟件定義的車輛及車路系統(tǒng)，同時建立控制計算中心，對真實數(shù)據(jù)及虛擬數(shù)據(jù)進行聯(lián)合優(yōu)化，虛實結合的方式保證無人駕駛的安全性，加速無人駕駛的商業(yè)化和規(guī)模化落地。

原文標題：事件五、六專家觀點 | 2021年度全球十大人工智能治理事件

文章出處：【微信公眾號：曠視MEGVII】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅