6月14日，F(xiàn)acebook發(fā)布了一項(xiàng)關(guān)于人工智能機(jī)器人的研究。這個(gè)已經(jīng)發(fā)布一個(gè)多月的研究卻在本周引起廣泛關(guān)注，并迅速登上全球各大媒體科技頭條：Facebook的人工智能機(jī)器人以人類不能理解的語言自行對話，嚇得Facebook趕緊關(guān)停項(xiàng)目。

　　關(guān)于人工智能失控的恐怖聯(lián)想更是由此發(fā)散：“難道我們?nèi)祟惤K于創(chuàng)造了弗蘭肯斯坦（英國小說中，科學(xué)家弗蘭肯斯坦最終被他創(chuàng)造的‘人’毀滅）？”

　　試想，當(dāng)機(jī)器人以人類聽不懂的語言對話，一個(gè)提議發(fā)射導(dǎo)彈，一個(gè)說好……這能不讓人類細(xì)思恐極嗎？

　　英國《太陽報(bào)》還稱，現(xiàn)實(shí)版“鋼鐵俠”——特斯拉創(chuàng)始人埃隆?馬斯克最近才警告過扎克伯格。馬斯克稱，人工智能對人類文明有著根本性的威脅，而小扎對人工智能的理解太“有限”！

　　幾天之內(nèi)，關(guān)于“機(jī)器人革命”，殺人機(jī)器人，邪惡的人類終結(jié)者等各種言論接連出現(xiàn)，似乎機(jī)器人控制人類，占領(lǐng)地球的科幻場景即將出現(xiàn)。機(jī)器人到底有沒有“背著人類造物主”創(chuàng)造出新語言，是不是能悄悄“串聯(lián)”威脅人類文明，還是媒體反應(yīng)過激了？紅星新聞?dòng)浾邔Υ诉M(jìn)行了深入了解。

　　引發(fā)“恐慌”的實(shí)驗(yàn)

　　兩機(jī)器人以人類無法理解的“語言”對話

　　這一場恐慌，源于下面這段對話：

　　Bob： I can i i everything else

　　Alice： balls have zero to me to me to me to me to me to me to me to me to

　　Bob： you i everything else

　　Alice： balls have a ball to me to me to me to me to me to me to me to me

　　這段不明所以的對話發(fā)生在Facebook的FAIR項(xiàng)目中兩個(gè)人工智能機(jī)器人——Bob 和Alice之間。Facebook為了發(fā)展人工智能，研究人機(jī)或機(jī)器人之間的“談判”技能，讓這些機(jī)器人對球、帽子、書這些物品進(jìn)行你來我往的商討。他們想讓機(jī)器人不僅能進(jìn)行對話，還完全知道自己在說什么，能用上談判技巧，跟人討價(jià)還價(jià)。但這其實(shí)不算什么特別高深的實(shí)驗(yàn)。

　　一開始，研究人員以為Bob 和Alice之間是一段沒有意義的對話，后來發(fā)現(xiàn)，這段人類無法理解的對話其實(shí)是有其規(guī)則可循的，是完全有效的對話。這一發(fā)現(xiàn)震驚了媒體圈：機(jī)器人居然自行創(chuàng)造出了人類不能理解的語言！他們在說什么？他們可能會說什么？

　　根據(jù)美國著名商業(yè)媒體FastCo報(bào)道，Bob 和Alice確實(shí)是以人類不懂的語言進(jìn)行了無障礙溝通，但這只是編程者犯了一個(gè)錯(cuò)誤。研究人員沒有設(shè)定讓機(jī)器人按照人類可以理解的英文來溝通。于是，機(jī)器人在溝通中開始以一種類似“速記”的方式，簡化了它們的交流。這段機(jī)器人自發(fā)形成的相互理解的交流，看起來令人毛骨悚然，但其實(shí)可以理解為一個(gè)非常簡單的設(shè)計(jì)bug。

　　▲名為Han的人形機(jī)器人做表情。圖片來源路透社

　　關(guān)停真實(shí)原因

　　與預(yù)設(shè)研究目的不一致

　　李開復(fù)針對Facebook的這次AI項(xiàng)目關(guān)停事件還接受了外媒Quartz的約稿。他提到，F(xiàn)acebook官方解釋說了：“兩個(gè)機(jī)器人為實(shí)驗(yàn)性質(zhì)，且并沒有發(fā)明新的語言，因?yàn)樗麄冞€是在用‘i’、‘balls’、‘the’等英文單詞溝通，只是沒有了英語語法的這個(gè)激勵(lì)項(xiàng)，創(chuàng)造了一種新的表達(dá)方式而已?！?/p>

　　李開復(fù)稱，簡單來說，它們只是英語不太好。至于關(guān)停項(xiàng)目的原因，不是“失控”，而是無意義。

　　Facebook的確關(guān)停了這個(gè)項(xiàng)目，但并不是因?yàn)轫?xiàng)目出錯(cuò)而驚慌失措。Facebook研究員邁克?路易斯告訴FastCo，純粹是因?yàn)樗麄冞@個(gè)研究的目的就是“AI 與人溝通”，而不是研究機(jī)器人之間如何更有效率地相互溝通。

　　在結(jié)束這個(gè)研究后，F(xiàn)acebook稱在個(gè)性化的智能助手方面取得了重要進(jìn)展，其研究的人工智能有對話、推理和談判等關(guān)鍵能力，讓人感覺不出是在和機(jī)器人對話。

　　來自想象的危險(xiǎn)討論

　　這個(gè)“意外”沒有媒體認(rèn)為的那樣可怕

　　英國獨(dú)立報(bào)報(bào)道，軟件工程師道格拉斯?羅伯遜稱，看著一堆文章在那里意淫即將來臨的機(jī)器人革命是一件很搞笑的事情。

　　英國未來科技專家凱特?安德森也說：“這確實(shí)看起來有點(diǎn)像是終結(jié)者。”但是，這樣的“意外”其實(shí)到處都是?，F(xiàn)在股票市場上的超高頻率交易的運(yùn)算其實(shí)就是一回事。智能機(jī)器能夠獲得新知識，而且并不是每一分鐘都被精確控制。人工智能可以達(dá)到的復(fù)雜程度是遠(yuǎn)遠(yuǎn)超過你我能夠理解的程度。”但這個(gè)“意外”根本不是媒體認(rèn)為的那樣可怕。

　　而且，F(xiàn)acebook的這次實(shí)驗(yàn)也不是人工智能第一次創(chuàng)造出新的語言形式。之前，谷歌就曾披露，其用于翻譯的人工智能就創(chuàng)造出了自己的語言。不過，能翻進(jìn)翻出，還能更高效快捷，谷歌對這樣的意外發(fā)展很是滿意，也任其發(fā)展。硅谷人工智能非營利組織OpenAI的研究也發(fā)現(xiàn)，人工智能能自行創(chuàng)造語言，以便更加高效地溝通。

　　真正的風(fēng)險(xiǎn)在于人類如何使用人工智能

　　FastCo也稱，像這樣的情況確實(shí)可能帶來一些潛在問題，比如系統(tǒng)出錯(cuò)的時(shí)候可能很難解決，但這跟機(jī)器脫離人類控制也還是兩回事。

　　當(dāng)然，確實(shí)不能否認(rèn)智能機(jī)器人被用來作惡的可能，但風(fēng)險(xiǎn)在于人類如何使用人工智能的力量。這跟人類使用核武器或其他發(fā)明是一回事。至少，人工智能現(xiàn)在還遠(yuǎn)遠(yuǎn)沒有達(dá)到真正“智能”的程度，還只是人類在“鬧著玩”而已。如果有任何真的危險(xiǎn)，那就是人類的忽視和愚蠢，而不是機(jī)器人開悟而失去控制。希望人類可以足夠清醒，永遠(yuǎn)不要去做危險(xiǎn)的人工智能實(shí)驗(yàn)，像帶激光或者核反應(yīng)堆的機(jī)器人軍隊(duì)。

　　“數(shù)十年里不會出現(xiàn)‘全知全能人工智能’”

　　人工智能會隨著科技發(fā)展與時(shí)俱進(jìn)，但人工智能的各種“能”都不是自發(fā)性的。李開復(fù)稱：“在未來數(shù)十年，機(jī)器人還不能獨(dú)立進(jìn)行常識性的推理、創(chuàng)造及規(guī)劃工作，它們也不會擁有自我意識、情感及人類的欲望。那種‘全知全能人工智能’尚不存在，而且現(xiàn)在已知的開發(fā)技術(shù)也無法開發(fā)出此類機(jī)器人。這種技術(shù)在未來數(shù)十年都不會出現(xiàn)，也許永遠(yuǎn)都不會出現(xiàn)?！?/p>

　　▲李開復(fù)認(rèn)為，現(xiàn)在已知的開發(fā)技術(shù)還無法開發(fā)出全知全能人工智能。圖片來源：視覺中國

　　當(dāng)把具有學(xué)習(xí)能力的兩個(gè)機(jī)器人放在一起，出現(xiàn)Bob和Alice這樣的情況并不奇怪，但并沒有大家看起來的那么嚇人。

　　Facebook這次的AI事件中，機(jī)器人唯一能做的事情就是更有效地商討如何交易各自手中的球而已。如果說誰應(yīng)該為此恐慌，也只是可能會丟工作的談判專家而已。至少，到目前為止，人工智能還遠(yuǎn)遠(yuǎn)不能發(fā)動(dòng)“革命”。