今天，人工智能逐漸從科幻走向現(xiàn)實，人們對人工智能可能產(chǎn)生的危害也愈加警惕，希望能夠為其制定準(zhǔn)則以確保人工智能科技和產(chǎn)業(yè)向?qū)ι鐣幸娴姆较蝽樌l(fā)展。

1

以和諧互補的方式鏈接不同的人工智能準(zhǔn)則提案

人工智能既是經(jīng)過數(shù)十年錘煉發(fā)展出來的科學(xué)領(lǐng)域，又是改變未來的重要顛覆性技術(shù)。人工智能的研究與發(fā)展不僅關(guān)系到國家科技、經(jīng)濟發(fā)展、社會穩(wěn)定，更關(guān)系到國家在科技、產(chǎn)業(yè)領(lǐng)域的國際影響與國際局勢。

人工智能在帶來機遇的同時也帶來潛在的風(fēng)險與隱患。例如應(yīng)用最為廣泛的深度神經(jīng)網(wǎng)絡(luò)模型在對輸入引入極小的噪聲（如改變圖像輸入中某個關(guān)鍵的一個像素值）情況下，就有可能使網(wǎng)絡(luò)的識別和預(yù)測結(jié)果產(chǎn)生顛覆性的錯誤（如將青蛙識別為卡車、烏龜識別為槍支）。若沒有充分的風(fēng)險評估，新興技術(shù)在對社會發(fā)展帶來機遇的同時，很有可能引入不可預(yù)計的安全隱患與風(fēng)險。

現(xiàn)在對于人工智能的發(fā)展而言，首要的問題是選擇正確的道路。創(chuàng)新、價值、倫理是一個鐵三角，創(chuàng)新性技術(shù)對社會帶來潛在價值的同時，可能存在難以預(yù)期的風(fēng)險，并對社會倫理提出重大挑戰(zhàn)。因此，發(fā)展人工智能技術(shù)普惠經(jīng)濟與社會的同時，關(guān)注人工智能的社會屬性，從社會風(fēng)險、倫理準(zhǔn)則與治理角度確保人工智能科學(xué)、技術(shù)、產(chǎn)業(yè)的健康、良性發(fā)展至關(guān)重要。

為了確保發(fā)展有益的人工智能，世界上各國政府、非政府組織、科學(xué)團體、科研機構(gòu)、非營利性組織、企業(yè)都提出了人工智能發(fā)展準(zhǔn)則。包括英國政府、國際電子電器工程學(xué)會、國際勞工組織。至今，于公開渠道可見的人工智能準(zhǔn)則提案已接近40個，涉及以人為本、合作、共享、公平、透明、隱私、安全、信任、權(quán)利、偏見、教育、通用人工智能等主題。例如，美國生命未來研究所倡導(dǎo)的阿西洛瑪人工智能準(zhǔn)則（Asilomar AI Principles）、英國上議院提出的人工智能準(zhǔn)則（AI Code）等，都希望通過在人工智能倫理與準(zhǔn)則制定方面的領(lǐng)先來引領(lǐng)人工智能的發(fā)展。

事實上目前任何一個國家、機構(gòu)、組織提出的人工智能準(zhǔn)則都僅覆蓋了少部分主題（更為具體的層面，人工智能準(zhǔn)則提案涉及超過50個主要議題），雖然不少準(zhǔn)則提案都有自身的特色，有其他方案未能覆蓋的考量，但想要構(gòu)建統(tǒng)一、全面、完善的人工智能準(zhǔn)則既是難以實現(xiàn)的，又是沒有必要的——難以實現(xiàn)的原因是人工智能這門科學(xué)技術(shù)本身、人工智能準(zhǔn)則、倫理的內(nèi)涵和外延都是在不斷完善的；沒有必要的原因是每個國家、組織與機構(gòu)的準(zhǔn)則提案都結(jié)合自身實際情況，有組織目標(biāo)、環(huán)境、文化、倫理傳統(tǒng)相關(guān)的特殊考慮。

筆者認為，真正有價值的做法是認可每一個國家、機構(gòu)提案在一定范圍的意義，而為了更好地實現(xiàn)人工智能的全球治理，重點將不是統(tǒng)一人工智能的準(zhǔn)則，而是以更和諧互補的方式鏈接不同的人工智能準(zhǔn)則提案，使其在局部（如國家、組織機構(gòu)等）有序與一致，世界的全局范圍內(nèi)不同的準(zhǔn)則提案仍可交互和協(xié)商，最終實現(xiàn)和諧互補、優(yōu)化共生。

2

調(diào)和政府與企業(yè)在準(zhǔn)則制定上的現(xiàn)存差異

在對不同人工智能準(zhǔn)則提案的量化分析中可以看到：相對而言，各國政府對人工智能的潛在風(fēng)險與安全高度重視，但企業(yè)的重視程度相對薄弱。這反映了在企業(yè)從事人工智能創(chuàng)新過程中對于潛在風(fēng)險與安全隱患可能估計不足。例如，在對人工智能風(fēng)險的評估中，部分企業(yè)認為如果總體可能的利益遠遠超過可預(yù)見的風(fēng)險和不利因素，則可以進行相關(guān)探索。但從學(xué)術(shù)的視角看，一方面，依據(jù)潛在利益與風(fēng)險之間的量化差異決定企業(yè)是否采取相關(guān)行動本身就是一個危險的視角；另一方面，如果沒有站在全社會的全局視角進行綜合研判與分析，僅從企業(yè)自身視角進行預(yù)測與判斷，則很有可能因為局限的思考與行動對社會造成潛在的巨大危害。

因此，應(yīng)當(dāng)看到政府重視與企業(yè)相對不足的考慮之間的差距，并采取引導(dǎo)、監(jiān)管、建立人工智能產(chǎn)品與服務(wù)的風(fēng)險與安全評估體系等有效措施彌補政府期望與企業(yè)實踐之間的鴻溝。

同時，一些準(zhǔn)則在相關(guān)技術(shù)途徑可能引發(fā)風(fēng)險的方面可能估計不足。例如某些提案中對通用人工智能（各個認知功能達到人類水平，簡稱AGI）、超級智能（所有認知功能超過人類水平，簡稱ASI）涉及很有限。

這方面學(xué)術(shù)機構(gòu)的討論和相關(guān)研究應(yīng)當(dāng)為政府決策提供有力支撐，例如阿西洛瑪人工智能準(zhǔn)則中提出超級智能以全人類受益為標(biāo)準(zhǔn)來發(fā)展，劍橋大學(xué)近期提出并正在進行一項名為“通用人工智能的實現(xiàn)途徑及潛在風(fēng)險”的研究。

3

兼顧專用人工智能和通用人工智能的發(fā)展

在人工智能頂層設(shè)計當(dāng)中，是否發(fā)展通用人工智能，還是僅限于發(fā)展領(lǐng)域特定的專用人工智能？這是諸多人工智能準(zhǔn)則提案中主要存在的巨大分歧。

例如，歐盟人工智能研究實驗室聯(lián)合會（CLAIRE）就明確提出應(yīng)限制人類水平智能、通用智能以及超級智能的發(fā)展。德國的人工智能計劃也集中于發(fā)展專用人工智能。而阿西洛瑪人工智能準(zhǔn)則、OpenAI等機構(gòu)提出的人工智能準(zhǔn)則中則明確提出應(yīng)當(dāng)對更安全的通用人工智能進行充分考慮與發(fā)展。

事實上發(fā)展專用智能并不一定能夠完全避免風(fēng)險，因為專用智能系統(tǒng)在應(yīng)用中很可能遇到不可預(yù)期的場景， 具備一定的通用能力反而有可能提升智能系統(tǒng)的魯棒性和自適應(yīng)能力。因此應(yīng)針對智能的通用性這個主題鏈接不同國家、組織、機構(gòu)的考慮，實現(xiàn)頂層設(shè)計的互補。

人類認知功能的多樣性以及人工智能應(yīng)用場景的復(fù)雜性使得很難對人工智能的風(fēng)險、安全以及倫理體系進行絕對完善的建模，特別是涉及到人工智能產(chǎn)品、服務(wù)與具有不同文化背景的人類群體交互。任何國家都應(yīng)制定適應(yīng)本國的實際社會、科技、經(jīng)濟發(fā)展與文化需求的人工智能準(zhǔn)則。但更關(guān)鍵的是需要全世界不同政府、學(xué)術(shù)組織、產(chǎn)業(yè)界深度交互與協(xié)同，對人工智能的發(fā)展進行對全社會有益的戰(zhàn)略性設(shè)計，對其潛在的社會風(fēng)險與倫理挑戰(zhàn)進行系統(tǒng)性評估與預(yù)測，并構(gòu)建世界范圍內(nèi)總體和諧、互為補充、優(yōu)化共生的發(fā)展準(zhǔn)則。