對(duì)話MIT人工智能實(shí)驗(yàn)室主任：AI不是雙刃劍，都是人類惹的禍

隨著機(jī)器學(xué)習(xí)與人工智能技術(shù)的發(fā)展，如今，越來(lái)越多的公司、個(gè)人開(kāi)始利用 AI 技術(shù)，為未來(lái)下著重要“賭注”。但是，人一旦動(dòng)了歪腦筋，AI 也可能會(huì)作惡，如何好好利用技術(shù)這把雙刃劍，是我們最為關(guān)注的。

5 月 25 日，由學(xué)教育-松鼠 AI、IEEE 教育工程和自適應(yīng)教育標(biāo)準(zhǔn)工作組、中國(guó)自動(dòng)化學(xué)會(huì)、新東方、好未來(lái)等共同舉辦了第三屆 AIAED 人工智能智適應(yīng)教育峰會(huì)。在會(huì)上，來(lái)自麻省理工學(xué)院（以下稱 MIT）計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室主任 Daniela Rus 發(fā)表了相關(guān)主題演講。

她在演講中表示，人類需要找到真正產(chǎn)生影響的資源，影響科技改變世界的方式，而這是 21 世紀(jì)當(dāng)中最為重要的課題。

對(duì)于未來(lái)人工智能技術(shù)與算法的發(fā)展，她認(rèn)為人類需要謹(jǐn)慎、仔細(xì)地看待。

Daniela Rus 是機(jī)器人領(lǐng)域的權(quán)威專家，MIT 計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室（CSAIL）主任，曾經(jīng)一手創(chuàng)辦了達(dá)特茅斯學(xué)院機(jī)器人實(shí)驗(yàn)室。DeepTech 和麻省理工科技評(píng)論曾報(bào)道的“抓取式”軟體機(jī)器人、折紙機(jī)器人等重要論文與技術(shù)成就，都是由 Daniela Rus 和她的團(tuán)隊(duì)一起研發(fā)的。

在 AIAED 大會(huì)上，Daniela Rus 對(duì)目前 AI 與機(jī)器人領(lǐng)域的技術(shù)前景進(jìn)行了評(píng)估，并表示樂(lè)觀，她認(rèn)為這當(dāng)中充滿機(jī)遇。

“大家想象一下，有一天我們?nèi)粘Ｉ畹乃腥蝿?wù)都由機(jī)器人來(lái)代替了，無(wú)人機(jī)把食物送到門(mén)口，垃圾能夠自動(dòng)被回收。想象一下這些智能系統(tǒng)使得生活的方方面面都自動(dòng)化，保證我們生活得很好，工作更加高效?！彼浅Ｅd奮地說(shuō)。

其實(shí)，這種場(chǎng)景已經(jīng)在逐步實(shí)現(xiàn)中。早前外媒曾報(bào)道，美國(guó)喬治梅森大學(xué)（George Mason Uniersity，簡(jiǎn)稱GMU）打造了全球規(guī)模最大的校園機(jī)器人送餐服務(wù)。送餐機(jī)器人在路上行走，可以將食物送到指定位置，學(xué)生自主取出熱騰騰的食物。

圖 | 送餐機(jī)器人，

與此同時(shí)，亞馬遜、京東、阿里巴巴等電商巨頭，也在不斷嘗試通過(guò)無(wú)人機(jī)等多種方式，將物品送到用戶手中。所以，時(shí)代在不斷發(fā)展，而人類正在享受著技術(shù)帶來(lái)的便捷與美好。

但大眾也要意識(shí)到，技術(shù)是中立的，最終的結(jié)果取決于控制技術(shù)的人。若數(shù)據(jù)與算力存在很大的偏差，可能會(huì)造成難以想象的慘烈后果。

Daniela Rus 對(duì)此感到擔(dān)憂，她表示，雖然 AI 有諸多優(yōu)勢(shì)，但是要警惕人類“抄近道”，該弄的東西沒(méi)有弄，欺騙技術(shù)與系統(tǒng)，造成很大的困擾。同時(shí)她又指出，這一切其實(shí)跟 AI 技術(shù)的關(guān)系并不大，而是與人類的控制有關(guān)。

人類需要善于利用技術(shù)上的優(yōu)勢(shì)。人做人最擅長(zhǎng)的事情，機(jī)器做機(jī)器最擅長(zhǎng)的事情，“耍小聰明”不是正經(jīng)之道。

在 AIAED 大會(huì)后，Daniela Rus 教授接受了 DeepTech 的采訪，聊了聊目前人工智能技術(shù)難點(diǎn)以及未來(lái)她想研究的機(jī)器人是哪種類型等。以下是采訪實(shí)錄整理：

中美在AI領(lǐng)域各有千秋

DeepTech：中國(guó)和國(guó)外在 AI 技術(shù)與人才方面還存在哪些差異？中國(guó)的 AI 興起還有什么創(chuàng)新的機(jī)會(huì)？

Daniela Rus：你可能看過(guò)李開(kāi)復(fù)的《AI未來(lái)》，講到中國(guó)有一定的優(yōu)勢(shì)，比如中國(guó)的數(shù)據(jù)采集量比較大，使得中國(guó)有更多的 AI 技術(shù)空間可以發(fā)揮。但從 AI 人才教育的角度來(lái)說(shuō)，中國(guó)相對(duì)還比較僵化，應(yīng)試教育的氛圍較為濃厚，小孩可能更重視考上哪個(gè)大學(xué)；美國(guó)則相對(duì)更靈活一些，更想著我要去解決什么樣的問(wèn)題。

中國(guó)從教育體制，包括從學(xué)生對(duì) AI 的態(tài)度來(lái)說(shuō)，可能還是有一些地方需要改善。但總的來(lái)說(shuō)，中美 AI 技術(shù)人才與研究能力都是非常強(qiáng)大的，各有千秋，中國(guó)在這一領(lǐng)域還是有許多發(fā)展空間的。

技術(shù)難點(diǎn)與解決方案

問(wèn)：AI 技術(shù)研究中有遇到什么困難嗎？

Daniela Rus：以前，我們想象中的機(jī)器人可能都是金屬的、塑料的，或者長(zhǎng)得像人，或者像人一樣動(dòng)作。但實(shí)際上，當(dāng)我從事這項(xiàng)工作的時(shí)候，從一位制造機(jī)器人的研究者角度看，機(jī)器人可能有不同的形狀，也可以有不同的功能，可能是木頭做的，也可能是布、紙做的，或者可以用食物做機(jī)器人。

用那些東西做成機(jī)器人，人可以把機(jī)器人吃到肚子里，在肚子里面工作，工作完了就消化掉了。所以，在技術(shù)研究中，更多要考慮的是理想與實(shí)際之間的應(yīng)用關(guān)系。

問(wèn)：在研究機(jī)器人技術(shù)的時(shí)候，有哪些挑戰(zhàn)值得和我們一起分享？

Daniela Rus：三個(gè)很重要的挑戰(zhàn)，第一個(gè)，如何制作大腦，機(jī)器人怎么思考，怎么找到問(wèn)題解決方案；第二個(gè)，怎么制造機(jī)器人的語(yǔ)言；第三個(gè)，人機(jī)交互。

第一個(gè)，大腦。機(jī)器人的思考過(guò)程與人類不太一樣，運(yùn)行環(huán)境并沒(méi)有那么多樣化。但在機(jī)器人實(shí)際應(yīng)用中，復(fù)雜的環(huán)境挑戰(zhàn)，無(wú)法在實(shí)驗(yàn)室中進(jìn)行提前預(yù)知問(wèn)題的解決方案，機(jī)器人的大腦在推理、思考、認(rèn)知上都具有很大的挑戰(zhàn)。

第二個(gè)，制造機(jī)器人的語(yǔ)言化。機(jī)器人本身第一語(yǔ)言還是非常底層的語(yǔ)言，所以彼此做一個(gè)東西，需要相當(dāng)長(zhǎng)的開(kāi)發(fā)時(shí)間來(lái)做底層的語(yǔ)言。另外，制作本身還是沒(méi)有一個(gè)非常容易的東西。

第三個(gè)，人機(jī)交互。怎么能夠了解人的反應(yīng)，這本身還是很有挑戰(zhàn)的。

問(wèn)：人工智能的計(jì)算結(jié)果常常是隨機(jī)的，不可解釋的，如何解決這個(gè)問(wèn)題？

Daniela Rus：我們已經(jīng)有了許多方法來(lái)解決此類問(wèn)題，比如剛才提到的神經(jīng)網(wǎng)絡(luò)。目前來(lái)說(shuō)，神經(jīng)網(wǎng)絡(luò)還是有很多黑盒子過(guò)程，我們無(wú)法直接解釋，也無(wú)法從數(shù)據(jù)角度給出一個(gè)解決方案，這實(shí)際是人工智能的一個(gè)很大的課題。

但是從某種角度來(lái)說(shuō)，這也是一個(gè)必然的過(guò)程。從人工智能領(lǐng)域來(lái)說(shuō)，打破黑盒子，解釋并給出解決方案，是一個(gè)探索過(guò)程。另外，剛才也談到，現(xiàn)在數(shù)據(jù)量很大，如果一個(gè)神經(jīng)網(wǎng)絡(luò)有特別多的節(jié)點(diǎn)，本身的復(fù)雜性就會(huì)非常高?，F(xiàn)在有些方法可以把節(jié)點(diǎn)壓縮，把復(fù)雜的內(nèi)容壓縮到相對(duì)簡(jiǎn)單，比如說(shuō)從 200 萬(wàn)壓縮到 20 個(gè)節(jié)點(diǎn)等方式。

問(wèn)：AI 是一把雙刃劍，在數(shù)據(jù)和算力之間存在一定偏差，在某種場(chǎng)景，AI 也存在一定的危險(xiǎn)性。那么，AI 技術(shù)在教育領(lǐng)域下會(huì)發(fā)生哪些的極端情形？

Daniela Rus：我們一直聽(tīng)到，AI 的優(yōu)勢(shì)是什么，能夠帶來(lái)多少收益等正向的話題。當(dāng)然，人有無(wú)限可能，人類可能會(huì)采取作弊、欺騙等態(tài)度，也就是所謂“抄近道”，該弄的東西沒(méi)有弄，欺騙系統(tǒng)與技術(shù)。

這種情形是一定存在的，但實(shí)際上騙的是自己，最后呈現(xiàn)出的惡果并不是 AI 的問(wèn)題，而是人類最終自食其果，搞垮罷了。

問(wèn)：數(shù)據(jù)、算法的歧視問(wèn)題，怎么能做到盡可能“數(shù)字公平”？

Daniela Rus：現(xiàn)在大家對(duì)算法歧視問(wèn)題表示關(guān)心，這是很正常的，大眾確實(shí)有這樣那樣的顧慮，我認(rèn)為，這也是研究人員亟待解決的一個(gè)問(wèn)題。

今年，我的項(xiàng)目組里出了不同的論文，但話題都是一致的，就是怎么解決機(jī)器學(xué)習(xí)里面產(chǎn)生的偏見(jiàn)。我們知道，面部識(shí)別出現(xiàn)過(guò)很多問(wèn)題，就是所謂偏見(jiàn)性的東西。目前來(lái)看，解決此問(wèn)題的辦法，仍是深度研究。

問(wèn)：AI 需要很多數(shù)據(jù)，歐洲很多國(guó)家都會(huì)覺(jué)得太侵犯隱私了，會(huì)有一些阻力。你如何判斷 AI 技術(shù)對(duì)隱私的保護(hù)產(chǎn)生沖突問(wèn)題？

Daniela Rus：這個(gè)可能還是更容易一些，因?yàn)楹芏嗍虑槭请p刃劍。

談未來(lái)研究方向

問(wèn)：你覺(jué)得在分布式機(jī)器人領(lǐng)域會(huì)有哪些發(fā)展，它的趨勢(shì)是什么？

Daniela Rus：未來(lái)我們的生活環(huán)境里會(huì)有很多機(jī)器人，這種情況下一定是分布式的，互相有協(xié)調(diào)問(wèn)題。

比如：自動(dòng)駕駛汽車(chē)，每一輛自動(dòng)駕駛汽車(chē)都相當(dāng)于一個(gè)機(jī)器人，它們互相之間的協(xié)調(diào)，在實(shí)際道路環(huán)境中能不能通過(guò)監(jiān)測(cè)的方式，互相感知，了解相互位置，并互相協(xié)調(diào)。

問(wèn)：您的下一步研究方向是什么？

Daniela Rus：聚焦機(jī)器人研究的幾大方面，第一個(gè)是不同形狀、不同材料的機(jī)器人；第二個(gè)，把一個(gè)人有目標(biāo)性的想法，直接轉(zhuǎn)化成機(jī)器能夠執(zhí)行的命令、語(yǔ)句；第三個(gè)，機(jī)器人更像人，會(huì)穿衣服，這樣很好看，將機(jī)器人變得更加時(shí)尚。

問(wèn)：當(dāng)機(jī)器人取代人類的功能時(shí)，會(huì)產(chǎn)生什么影響？

Daniela Rus：其實(shí)現(xiàn)在沒(méi)有必要擔(dān)憂取代的事情，首先人工智能還沒(méi)有真正達(dá)到“人類智能”，還差得特別遠(yuǎn)。

另外，其實(shí)現(xiàn)在我們看到機(jī)器人所替代的事情，更多是可以預(yù)見(jiàn)的，輔助性質(zhì)大于取代性質(zhì)的。比如，理療師按摩要 30 分鐘，結(jié)果使用機(jī)器人方式，花 10 分鐘就結(jié)束了。

其實(shí)，重復(fù)性很強(qiáng)的東西，可以用機(jī)器人替代，這些都是可預(yù)見(jiàn)的，并沒(méi)有真正的智能在里面。所以，機(jī)器人取代不了人類，還差的非常遠(yuǎn)。