人工智能目前存在哪些技術(shù)瓶頸？未來(lái)是否可能對(duì)人類帶來(lái)威脅？今天下午舉行的2020浦江創(chuàng)新論壇全體大會(huì)上，圖靈獎(jiǎng)獲得者、中國(guó)科學(xué)院院士姚期智做了題為《人工智能面對(duì)的一些挑戰(zhàn)》的演講。在他看來(lái)，人工智能有三大技術(shù)瓶頸亟待突破，需要科學(xué)家“從0到1”的原創(chuàng)研究。

作為現(xiàn)代密碼學(xué)的奠基人，姚期智創(chuàng)立的上海期智研究院今年初在滬成立。目前，這家新型研發(fā)機(jī)構(gòu)已匯聚4位兩院院士、20多位科學(xué)家和多所高校的青年人才。上海期智研究院依托清華大學(xué)和復(fù)旦大學(xué)、上海交通大學(xué)、同濟(jì)大學(xué)等滬上高校和科研機(jī)構(gòu)，瞄準(zhǔn)人工智能、現(xiàn)代密碼學(xué)、高性能計(jì)算系統(tǒng)、量子計(jì)算及量子人工智能、物理器件與計(jì)算、生物智能等6個(gè)方向開展前沿研究，旨在打造中國(guó)人工智能“夢(mèng)之隊(duì)”，推動(dòng)以人工智能為主導(dǎo)的交叉學(xué)科發(fā)展。

在姚期智看來(lái)，脆弱性是人工智能面臨的第一大技術(shù)瓶頸。人眼識(shí)別十分穩(wěn)定，一個(gè)圖像如有微小改變，人仍能一眼看出它是什么。然而，人工智能在圖像識(shí)別方面有點(diǎn)“人工智障”，比如將一只小豬的照片加入一些圖像“雜音”，一些機(jī)器視覺(jué)系統(tǒng)居然會(huì)把它識(shí)別為飛機(jī)。“小豬變飛機(jī)”這種漏洞會(huì)給人工智能應(yīng)用帶來(lái)安全隱患，比如黑客可以攻擊汽車自動(dòng)駕駛系統(tǒng)，誘導(dǎo)它將馬路上的“停止”標(biāo)識(shí)當(dāng)作“通行”，從而引發(fā)交通事故。

第二大技術(shù)瓶頸是機(jī)器學(xué)習(xí)算法缺乏可解釋性，很多算法處于“黑盒子”狀態(tài)。例如一個(gè)科研團(tuán)隊(duì)開發(fā)了一個(gè)房地產(chǎn)估價(jià)系統(tǒng)，這個(gè)系統(tǒng)通過(guò)一套算法學(xué)習(xí)了有關(guān)各地房地產(chǎn)價(jià)格的大數(shù)據(jù)，從而能自動(dòng)評(píng)估房地產(chǎn)價(jià)格。然而，這套算法像黑盒子一樣，很難給出估價(jià)的完整依據(jù)。這在商業(yè)應(yīng)用上是一塊很大的短板，房地產(chǎn)商會(huì)懷疑：人工智能系統(tǒng)是否低估了價(jià)格？是不是有利益相關(guān)方對(duì)系統(tǒng)做了手腳，故意壓價(jià)？因此，算法的可解釋性問(wèn)題亟待科研突破，否則會(huì)大幅限制人工智能的商業(yè)應(yīng)用進(jìn)程。

第三大技術(shù)瓶頸是人工智能的對(duì)抗性較弱。如今，一個(gè)無(wú)人機(jī)群可以輕松完成燈光秀、農(nóng)林作業(yè)等任務(wù)，但要看到，這些任務(wù)都是在自然環(huán)境下完成的，如果是處于高對(duì)抗的人為環(huán)境中呢？比如在電子競(jìng)技和軍事戰(zhàn)斗中，無(wú)人機(jī)群的協(xié)同作戰(zhàn)能力就會(huì)受到很大考驗(yàn)，要在對(duì)抗中勝出，需要計(jì)算機(jī)科學(xué)、數(shù)學(xué)等領(lǐng)域的科學(xué)家進(jìn)行深入的強(qiáng)化學(xué)習(xí)、博弈論研究，讓無(wú)人機(jī)群能夠在高對(duì)抗環(huán)境中自主找到最優(yōu)策略?！斑@是一個(gè)很重要的科研方向，需要從到1的突破。”姚期智說(shuō)。

隨著人工智能技術(shù)的快速發(fā)展，未來(lái)是否會(huì)產(chǎn)生“超級(jí)人工智能”，進(jìn)而對(duì)人類產(chǎn)生威脅？姚期智引用了人工智能先驅(qū)約翰麥卡錫1977年對(duì)這個(gè)問(wèn)題的回答：“我們需要概念上的突破，需要1.7個(gè)愛(ài)因斯坦和0.3個(gè)曼哈頓項(xiàng)目，可能需要5年至500年時(shí)間?！边@句話意味著，“超級(jí)人工智能”是否會(huì)產(chǎn)生、何時(shí)產(chǎn)生，存在很大的不確定性。

為應(yīng)對(duì)這種潛在的威脅，姚期智給出了制約智能機(jī)器的三個(gè)原則：一是利他，即人的利益應(yīng)凌駕于機(jī)器利益；二是謙卑，即機(jī)器不能自以為是；三是盡心，即機(jī)器能學(xué)懂人的偏好?！懊總€(gè)原則都要用嚴(yán)格的算法來(lái)實(shí)現(xiàn)，并貫穿于設(shè)計(jì)之中，這樣就能有效駕馭人工智能。”
責(zé)任編輯：YYX