外媒DefenseOne網(wǎng)站報(bào)道稱(chēng)，來(lái)自14家業(yè)界、學(xué)術(shù)界機(jī)構(gòu)的26名人工智能專(zhuān)家撰寫(xiě)了《人工智能的惡意使用：預(yù)測(cè)、預(yù)防和緩解》報(bào)告。這份長(zhǎng)達(dá)100頁(yè)的報(bào)告指出AI技術(shù)是一把“雙刃劍”，具有“雙重用途”屬性，即該技術(shù)能夠每秒做出成千上萬(wàn)個(gè)復(fù)雜的決策，這種能力既可用于造福人類(lèi)，也可用于擾亂秩序，完全取決于設(shè)計(jì)該系統(tǒng)的人。報(bào)告中，專(zhuān)家們探討了現(xiàn)存的或可能在未來(lái)五年內(nèi)出現(xiàn)的人工智能的惡意用例，及其所帶來(lái)的潛在安全威脅，并將其分成數(shù)字威脅、物理威脅和政治威脅三組進(jìn)行了研究，最后提出了更好地預(yù)測(cè)、預(yù)防和減輕這些威脅的方法。

1. AI技術(shù)的潛在安全威脅

（1）數(shù)字威脅：①通過(guò)自動(dòng)釣魚(yú)或創(chuàng)建虛假電子郵件、網(wǎng)站、鏈接等手段竊取信息；②通過(guò)自動(dòng)發(fā)現(xiàn)軟件漏洞進(jìn)行更快速的黑客攻擊；③利用人工智能對(duì)于外界的理解缺陷，欺騙人工智能系統(tǒng)。

（2）物理威脅：①利用商用無(wú)人機(jī)或無(wú)人駕駛車(chē)輛作為武器，實(shí)現(xiàn)恐怖主義的自動(dòng)化；②機(jī)器人集群，即由許多自主機(jī)器人圍繞共同目標(biāo)開(kāi)展行動(dòng)；③遠(yuǎn)程攻擊，由于自動(dòng)機(jī)器人無(wú)需在任何設(shè)置距離內(nèi)進(jìn)行控制，因此得以實(shí)施遠(yuǎn)程攻擊。

（3）政治威脅：①通過(guò)易于生成的假圖像和視頻進(jìn)行宣傳；②通過(guò)自動(dòng)查找、刪除文本或圖像等技術(shù)自動(dòng)清除異議；③個(gè)人觀(guān)點(diǎn)說(shuō)服，利用公開(kāi)的信息針對(duì)個(gè)人觀(guān)點(diǎn)進(jìn)行說(shuō)服。

2.相關(guān)建議

隨著人工智能技術(shù)的日益強(qiáng)大和普及，報(bào)告預(yù)測(cè)，人工智能系統(tǒng)帶來(lái)的威脅將不斷變化，如現(xiàn)有威脅的擴(kuò)大、新威脅的產(chǎn)生、典型威脅的特征發(fā)生變化等。為了應(yīng)對(duì)不斷變化的威脅環(huán)境，報(bào)告提出了四項(xiàng)高級(jí)建議：

（1）決策者應(yīng)與技術(shù)研究人員緊密合作，調(diào)查、預(yù)防和減輕人工智能的潛在惡意使用；

（2）人工智能的研究人員和工程師應(yīng)認(rèn)真看待其工作的“雙刃劍”性質(zhì)，考慮誤用等因素的影響，調(diào)整相應(yīng)研究重點(diǎn)和規(guī)范，并在可預(yù)見(jiàn)有害應(yīng)用程序時(shí)主動(dòng)聯(lián)系相關(guān)組織；

（3）對(duì)于能夠成熟妥當(dāng)?shù)亟鉀Q“雙刃劍”問(wèn)題的研究領(lǐng)域，如計(jì)算機(jī)安全等，應(yīng)識(shí)別最佳實(shí)踐案例，并將其引入人工智能領(lǐng)域加以應(yīng)用；

（4）擴(kuò)大利益相關(guān)方與領(lǐng)域?qū)＜业姆秶e極探討相關(guān)挑戰(zhàn)。

此外，報(bào)告還建議在四個(gè)優(yōu)先研究領(lǐng)域內(nèi)探討開(kāi)放性問(wèn)題和潛在的干預(yù)措施：向網(wǎng)絡(luò)安全社區(qū)學(xué)習(xí)；探索不同的開(kāi)放模式；營(yíng)造負(fù)責(zé)的文化氛圍；制定技術(shù)和政策解決方案。

報(bào)告指出，對(duì)AI雙重用途的干預(yù)行動(dòng)不僅需要人工智能研究人員和企業(yè)的關(guān)注和行動(dòng)，還需要立法者、公務(wù)人員、監(jiān)管機(jī)構(gòu)、安全研究人員和教育工作者的關(guān)注和行動(dòng)。