社會產(chǎn)生前后，人類遭遇的進(jìn)化機制不同。產(chǎn)生之前，是純粹生態(tài)的進(jìn)化機制，由偶然性和適應(yīng)性控制，由創(chuàng)造性進(jìn)化的躍遷和適應(yīng)性進(jìn)化的分化構(gòu)成，循環(huán)往復(fù)。產(chǎn)生之后，人類認(rèn)知把想象變成現(xiàn)實，創(chuàng)造出社會，以應(yīng)對自然生態(tài)。

但人類的困境在于，我們會把自己的想象和創(chuàng)造當(dāng)真，讓想象成為實體，成為與自然一樣的客體。社會和自然兩個客體共同影響人。人，社會，自然的關(guān)系由人-工具-自然，轉(zhuǎn)變?yōu)樽匀?人-社會的三明治。這是協(xié)同進(jìn)化的基礎(chǔ)。我們的想象成為影響人類生物進(jìn)化的力量，與自然平齊。

想象，是人類進(jìn)化的自主能力，讓人以理想調(diào)整現(xiàn)實。 想象創(chuàng)造社會現(xiàn)實，社會現(xiàn)實影響生理機制，從而影響人的進(jìn)化。

AI是當(dāng)代人類的巔峰想象。

AI帶來的變革，已經(jīng)悄無聲息的進(jìn)入我們的生活，引領(lǐng)著時代，而我們對于AI的認(rèn)知到底有多少？在SELF講壇年度大會上的“AI·異變”圓桌對話中，四位來自不同領(lǐng)域的人工智能專家，帶領(lǐng)我們打開AI認(rèn)知的大門，深入探究AI背后更多耐人思考的問題。

嘉賓介紹（從左到右）：

葉盛 主持人 中科院生物物理所副研究員

蔡雄山 騰訊研究院法律研究中心副主任、首席研究員

陳孝良 聲智科技創(chuàng)始人

劉鋒《人工智能學(xué)家》主編

何清 中科院計算技術(shù)研究所研究員

以下內(nèi)容為圓桌對話實錄：

主持人：今天這場對話是關(guān)于AI的，我先講一個可能跟AI沒什么關(guān)系的事情。

我有一個朋友小有資產(chǎn)，2016年夏天他突然給我打電話，說最近有一個中科院專家找他投資項目，是有一個技術(shù)把普通的化肥變成量子化肥。這位朋友也不懂什么是量子科學(xué)，但他覺得這事聽起來不太靠譜，他就來問我，我說：“我不知道這位專家的名字，但是我可以負(fù)責(zé)任地告訴你，絕對沒有量子化肥這件事。”

這是一個很值得我們深思的現(xiàn)象，隨著中國科普事業(yè)做得越來越好，很多高科技名詞已經(jīng)深入人心了，可是我們真的了解這些高科技名詞背后的含義是什么嗎？就像量子進(jìn)軍化肥界，納米已經(jīng)被玩壞，我相信接下來的幾年，一些騙子和不法商販也會拿AI來忽悠人了。

今天有四位來自人工智能不同領(lǐng)域的專家坐在一起，能否請幾位專家給我們界定一下人工智能的概念，有沒有簡單的方法判斷一下，當(dāng)一個商品說自己有AI技術(shù)的時候是真還是假呢？

何清：關(guān)于AI這個概念可以說已經(jīng)被炒熱了，現(xiàn)在滿大街是AI的產(chǎn)品、投資人，到底AI是什么概念呢？人工智能本質(zhì)的特征，用一句話總結(jié)，就是在你的服務(wù)或者產(chǎn)品是否具備在不確定情況下，或者不確定的環(huán)境下，能夠自主做出行為的抉擇。如果是這樣，你的服務(wù)、產(chǎn)品才叫具有智能，核心的關(guān)鍵詞是不確定條件、環(huán)境。

比如下圍棋就有不確定的問題。首先在下棋的時候，你下完這一步，對手會下哪一步是不確定的，由于這個不確定導(dǎo)致了你當(dāng)前要確定走哪一步變得極其困難，機器人下圍棋這件事情，大家還是公認(rèn)有智能的。

但是并不是所有的事情看起來都有智能，比如數(shù)碼機床。當(dāng)我們輸入一些程序以后，機床就會自動加工，這個我們叫smart，就是敏捷制造，不能叫做智能制造。

原因在哪里？因為你所執(zhí)行的那個過程，不是機器自主的，是事先輸入程序的，沒有不確定性的，事先就知道加工出來的是什么樣的，所以數(shù)碼機床不能說是智能機床。

只有在不確定的工況條件下，比如它拿起一個工件，它想要車銑刨磨，這個原料的形狀不確定，怎么下料、選料，這個機器人自主能夠處理，而且處理的行為還要合理，不敢說最優(yōu)，但要合理，在這種情況下才稱為有智能。

陳孝良：我補充一下，剛才說到很多產(chǎn)品都加了“AI”這兩個字母，因為我就是AI創(chuàng)業(yè)者，從真正的落地產(chǎn)品來看，我們倒不認(rèn)為人工智能里面有多少智能，我們從定義上看是有多少智能就有多少人工。

舉一個比較簡單的例子，今年我們大家能夠買到的智能音箱、智能電視、智能冰箱、智能汽車，很多產(chǎn)品都帶智能，但是它并沒有真正達(dá)到人類一樣的類人智能，還是把它定義為簡單的機器智能。從我們現(xiàn)在來說，技術(shù)的迭代包括數(shù)據(jù)的積累，還是基于數(shù)據(jù)進(jìn)行一些挖掘的事情，并沒有達(dá)到像類人一樣，可以產(chǎn)生一些創(chuàng)新或者突變的真正智能。

主持人：現(xiàn)在很多人都知道AlphaGo 是很厲害的人工智能，但是大家可能不知道，開發(fā)AlphaGo 的公司叫DeepMind，在2017年發(fā)了一篇文章，把他們開發(fā)的人工智能與星際爭霸游戲之間的接口向全世界公布了，他們希望更多的人工智能專家能夠參與到這個研究項目中來，為什么呢？

因為他們公司用AlphaGo體系想教會人工智能打星際爭霸，結(jié)果發(fā)現(xiàn)這個程序連采礦都學(xué)不會。大家知道星際爭霸這個游戲本身帶就帶有AI，一般的菜鳥都玩不過它，那個AI靠程序告訴它見招拆招該做什么，這兩種都叫AI，但是又給人感覺此AI非彼AI，哪位老師評價一下這是怎么回事呢？

何清：在AI里面要學(xué)習(xí)，目前所見到的具有一定人工智能的游戲都這樣。比如下棋的程序，實際上它有專用的程序，專門完成一個特定的任務(wù)，或者是提供一種特定的服務(wù)，是在這種情況下研制出來。

它的核心有深度學(xué)習(xí)，它是用來做特征學(xué)習(xí)的。蒙特卡洛方法是為了選擇哪一步是最優(yōu)的，是把別人已有的經(jīng)驗，比如下一步有多少種下法，以往人是怎么下的。用抽樣的方法，抽到對它價值比較大的步驟，然后做下一步。

在此過程中，純屬是按照圍棋的規(guī)則來做事情。而在這里面只有蒙特卡羅方法——深度學(xué)習(xí)技術(shù)，對遇到新的特定任務(wù)，去組合才有可能換一個場景、任務(wù)還能做好。

蔡雄山：現(xiàn)在的人工智能的概念比較廣泛，國際把人工智能分為幾個階段。第一個階段是弱人工智能階段，機器只能處理一些比較簡單、單向的事情?，F(xiàn)在的AlphaGo 或者軟件，其實都是處理比較簡單的事情，我們現(xiàn)在是處理弱人工智能階段。

那么到強人工智能階段，也叫通用人工智能，機器可以像人一樣思考行動；下一個階段叫做超人工智能階段，那個階段可能機器的智力會超過人類，就比較科幻了。

我們現(xiàn)在的技術(shù)就是簡單的弱人工智能階段，那么什么時候到強人工智能階段？全世界的科學(xué)家對此分歧非常大，在2015年的時候，美國召開了一次AI會議，全世界幾千名AI的科學(xué)家相聚，大家得出了一個比較中位的說法：可能在2055年可能實現(xiàn)強人工智能。

但是還有很多科學(xué)家認(rèn)為，強人工智能根本就實現(xiàn)不了。2017年的年底，我去了美國斯坦福大學(xué)計算機實驗室——全世界頂尖級的AI研究機構(gòu)。在那我和一個資深教授交流，他的觀點是兩個“不”。

第一個“不”是“不猜測、不預(yù)測”。因為他說預(yù)測時間的早晚都會被人罵；另外一個“不”是“不知道”，因為人類大腦構(gòu)造非常復(fù)雜的，所以什么時候機器能像人一樣思考行動，我們確實不知道。

但是也有人非常樂觀，比如北大計算機系的主任講，可能30年之后就能實現(xiàn)。他是比較樂觀了，他說很多時候產(chǎn)業(yè)是走在前面的，理論還沒有發(fā)現(xiàn)，產(chǎn)業(yè)已經(jīng)走在前面了。比如造飛機的時候，萊特兄弟造飛機的時候是不知道空氣動力學(xué)的，研究出飛機之后，人們才開始研究空氣動力學(xué)。所以我覺得現(xiàn)在誰說什么都不重要，最重要的是客觀的認(rèn)識這個東西，有不同的觀點，這才是一種比較中肯的態(tài)度。

劉鋒：游戲里面的AI系統(tǒng)，是依靠軟件設(shè)置的規(guī)則進(jìn)行運轉(zhuǎn)，而外部的比如DeepMind設(shè)計的人工智能程序，玩游戲，是需要在現(xiàn)實世界中觀察虛擬世界，發(fā)現(xiàn)里面的規(guī)律，它不能放在虛擬世界里面，否則就作弊了。

主持人：前不久央視播出了一個很贊的紀(jì)錄片，叫《創(chuàng)新中國》。我看的時候很喜歡，聽配音很耳熟，我上網(wǎng)查了一下配音是已故的著名播音員李易老師的聲音，實際上是科大訊飛和央視合作，用AI學(xué)習(xí)了李易老師的樣本，全程用AI進(jìn)行配音。

這個問題讓我想到一個非常邪惡的應(yīng)用，現(xiàn)在電話詐騙很猖獗，如果電話詐騙掌握了你的聲音樣本，還掌握了AI技術(shù)，可以在屏幕上敲鍵盤有你的聲音出來，去騙你的家人。如果真的是這樣，那么電話詐騙真的是防不勝防。

這就提出了一個問題：在AI的大背景下，個人數(shù)據(jù)的隱私安全問題怎么解決？

陳孝良：這好像是一個比較敏感的話題，先給大家一個結(jié)論，當(dāng)我們收集大家足夠多數(shù)據(jù)的時候，我們真的可以做到模仿任何人的聲音。科大訊飛和CCTV是為了展現(xiàn)一下技術(shù)的美麗，但是技術(shù)有兩面性，帶來便利的同時也帶來很多潛在的問題。

這是一個挺難解決的問題，因為你無法用技術(shù)帶來的有利面，再去對抗它的不利面，這需要整個社會包括法律體系去探討解決的問題。

但至少說在這個階段，全世界都有一個共識，還是為了促進(jìn)產(chǎn)業(yè)的發(fā)展，就像以前我們能容忍汽車、火車出現(xiàn)事故，就像現(xiàn)在核技術(shù)依然在發(fā)展，這是一樣的。現(xiàn)在美國和英國已經(jīng)探討這些問題，我想很多問題是法律界人士更關(guān)注的，從技術(shù)界里面來說，是無法用技術(shù)解決技術(shù)的難點問題。

主持人：在剛剛閉幕的達(dá)沃斯論壇上，AI技術(shù)是廣泛談?wù)摰脑掝}。很多大佬們都談到AI數(shù)據(jù)隱私問題，包括創(chuàng)新工廠的CEO李開復(fù)博士，他就提出一個觀點：“中國為什么在AI的技術(shù)上能夠彎道超車？是因為我們國家有‘實用主義’的文化特點，可以繞開道德的考量、隱私的考量，讓AI技術(shù)更快落地?！?/p>

關(guān)于他的觀點不知道幾位嘉賓是不是同意?，F(xiàn)在英國和美國做一些頂層設(shè)計、法律設(shè)計，那么我們中國在AI相關(guān)的產(chǎn)業(yè)制度、法律制度上有沒有哪些作為？有沒有哪些需要補強的地方？

蔡雄山：從2016年底開始，全世界都做頂層設(shè)計，包括美國2016年發(fā)布了人工智能發(fā)展戰(zhàn)略規(guī)劃，中國2017年年初的時候也有新一代人工智能發(fā)展規(guī)劃。中國在人工智能發(fā)展方面的頂層設(shè)計提到了很多制度問題，比如加強隱私保護(hù)、促進(jìn)產(chǎn)業(yè)發(fā)展等等問題。

我們現(xiàn)在很多時候講一個產(chǎn)業(yè)的發(fā)展，經(jīng)常講的是要有先進(jìn)的技術(shù)，要促進(jìn)產(chǎn)業(yè)的發(fā)展，這其中是一個方面，比如人工智能底層的芯片。另外一個方面，在軟實力方面，要與制度建設(shè)匹配，這樣才能促進(jìn)發(fā)展。

舉一個很簡單的例子，比如人工智能非常重要的應(yīng)用就是無人駕駛，它已經(jīng)逐漸的要走進(jìn)我們的生活，而且應(yīng)用很快。現(xiàn)在按照中國的法律規(guī)定，沒有司機開車是違法的，連無人駕駛測試的標(biāo)準(zhǔn)都沒有，現(xiàn)在無人駕駛不可以在高速公路路測，只能在封閉的環(huán)境中，路況還是有很大的差距的。

現(xiàn)在中國的工信部、交通部正在制定無人駕駛的車輛測試標(biāo)準(zhǔn)，立法可能也要修改，就是無人駕駛也可以合法化，包括聯(lián)合國的維也納道路交通公約去年進(jìn)行了修改，為無人駕駛打開了一個口子。

我們以前很注重產(chǎn)業(yè)和技術(shù)方面的進(jìn)展，在軟實力方面其實還需要加強，這樣才能促進(jìn)產(chǎn)業(yè)的發(fā)展，搶占戰(zhàn)略的制高點，人工智能已經(jīng)成為新一波的產(chǎn)業(yè)浪潮，其實每個國家都在積極布局。

何清：我個人認(rèn)為無人駕駛，也叫自主駕駛，這項技術(shù)和其他物化的比如發(fā)動機技術(shù)是一樣的，技術(shù)本身就歸類成技術(shù)，既然歸類成技術(shù)假如有由自主駕駛系統(tǒng)造成的問題，應(yīng)該歸類為技術(shù)問題。因此它所產(chǎn)生的問題，本質(zhì)上由智能駕駛系統(tǒng)提供商來提供的，它有bug，它沒有把某一種不確定情況考慮在內(nèi)，以致產(chǎn)生了問題。雖然這種不確定性情況發(fā)生的概率非常低，但是它發(fā)生了。

在這種情況下，還是要由廠家負(fù)相關(guān)的責(zé)任。如果輪胎出了毛病，而且輪胎的毛病導(dǎo)致這一批產(chǎn)品都有問題，就要召回。那么發(fā)現(xiàn)了它的自主駕駛系統(tǒng)中，有這樣的bug也是統(tǒng)一召回，然后把bug補上。只不過這套系統(tǒng)進(jìn)入市場之前，準(zhǔn)入一定要嚴(yán)格，至少保證測到99.9%的不確定情況，在這樣的情況下，才會保證廠家在召回的時候也不會召回太多。

主持人：關(guān)于AI技術(shù)應(yīng)用，之所以在達(dá)沃斯論壇成為熱點，我覺得一個不可否認(rèn)的事實，就是在我們國家AI技術(shù)的確應(yīng)用起來了，比如工業(yè)制造領(lǐng)域、物流領(lǐng)域，包括港口裝卸領(lǐng)域，比如洋山港可以做到無人化港口裝卸。這樣就提出了一個所謂的熄燈工廠概念，就是說這工廠里沒有工人工作，不需要開燈，就可以在熄燈的狀態(tài)下24小時運轉(zhuǎn)。

說到這里，我就想到卓別林著名的電影《摩登時代》，當(dāng)時流水線技術(shù)的出現(xiàn)讓人們很恐慌，大家覺得工人的工作都要失去了，當(dāng)然現(xiàn)在我們都知道這是杞人憂天。

可是由于AI的發(fā)展現(xiàn)在出現(xiàn)了一種新的擔(dān)憂，有人已經(jīng)提出有哪些職業(yè)將被AI取代。剛才我們談到無人駕駛，那么司機就是首當(dāng)其沖的職業(yè)。那么對于這種取代人類崗位的擔(dān)憂，究竟是像《摩登時代》一樣杞人憂天，還是會變?yōu)楝F(xiàn)實？

劉鋒：這是社會非常關(guān)注的問題，對于這個問題我有三個觀點想闡述。第一，為什么人工智能會突然爆發(fā)出來？其實背后還是有互聯(lián)網(wǎng)的背景。我們反復(fù)說無論是云計算、物聯(lián)網(wǎng)、大數(shù)據(jù)，到今天人工智能，背后是互聯(lián)網(wǎng)發(fā)展，才導(dǎo)致人工智能興起。

為什么中國在人工智能領(lǐng)域走在前沿？也跟中國互聯(lián)網(wǎng)基礎(chǔ)有關(guān)系。有這個大背景，人工智能對于我們的威脅，有點負(fù)面的問題，其實人工智能本身沒有對職業(yè)造成那么大的沖擊，而是人工智能加互聯(lián)網(wǎng)沖擊比較大。比如最近故宮網(wǎng)上售票系統(tǒng)的開放，導(dǎo)致了幾百位售票人員全部下崗，這就是因為互聯(lián)網(wǎng)導(dǎo)致大批的失業(yè)問題。

第二，未來相對安全的職業(yè)，一定是和創(chuàng)造、創(chuàng)新有關(guān)的職業(yè)。比如科學(xué)家、藝術(shù)家，比如樂器演奏的藝術(shù)表現(xiàn)跟現(xiàn)場群眾產(chǎn)生的共鳴，這對于AI想實現(xiàn)太難了，這種創(chuàng)造性不是AI輕易能夠去實現(xiàn)的。

第三，從歷史上看，在機器工業(yè)時代曾經(jīng)有過這種恐懼，傳統(tǒng)手工業(yè)者被機器替代，人們當(dāng)時有擔(dān)心，但是經(jīng)過科技發(fā)展產(chǎn)生了很多想象不到的新職業(yè)，比如飛機駕駛?cè)藛T、汽車制造工人。

同樣的，即使AI消滅了很多職業(yè)，它也會誕生出很多職業(yè)，整個人類社會要維系龐大的AI和互聯(lián)網(wǎng)結(jié)合的一個巨系統(tǒng)，比如無人機駕駛有很多設(shè)計、維護(hù)、演化的工作，都會產(chǎn)生很多新的職業(yè)。

還有一些以前想象不到的職業(yè)，就是大工業(yè)時代想象不到的職業(yè)，比如網(wǎng)紅直播這個工作是以前想象不出來的。所以我們要相信科學(xué)家、企業(yè)家在未來會絞盡腦汁產(chǎn)生更多創(chuàng)業(yè)機會，這和大工業(yè)時代以后出現(xiàn)的情況是一樣的。

陳孝良：我補充一下，我們還要相信人工智能給大家?guī)碡敻坏模F(xiàn)在的人工智能行業(yè)薪酬是最高的。很多時候超過了對原先技術(shù)所謂的定義，所以從這個來看，在未來人工智能會帶來更多、更有前景的幫助大家賺錢的新職業(yè)。

蔡雄山：人工智能帶來的失業(yè)更多是結(jié)構(gòu)性的，說白了就是我們?nèi)诉€是要不斷去學(xué)習(xí)，要適應(yīng)時代，因為我們沒法去抗拒它。

主持人：關(guān)于人工智能將會取代人類職業(yè)，我也跟人工智能的專家討論過這個問題，我說科學(xué)家應(yīng)該是安全的吧，他說不一定，如果數(shù)據(jù)交給人工智能，接下來的結(jié)論靠邏輯推理也能推出來，那么科學(xué)家也會失業(yè)的。

深層次討論一下，其實AI與人類搶奪職業(yè)這件事情，代表了AI和人類的對抗、對立關(guān)系，這個問題最早探討的應(yīng)該是科幻作家。雖然科幻作家寫的是小說、文學(xué)，但是他們在很多方面也會有更深刻的思考。

在科幻電影里，為了讓戲劇沖突能更加強烈，比如《終結(jié)者》、《黑客帝國》系列，都呈現(xiàn)出了人類和AI之間“你死我活”的斗爭。這里有一個比較科幻的問題，像這些電影里描述的AI戰(zhàn)勝、統(tǒng)治人類，甚至消滅人類的場景，真的會在未來出現(xiàn)嗎？

何清：這個問題我持反對態(tài)度。我表述的智能定義已經(jīng)說明了，在不確定的環(huán)境和條件下，做出自主的行為，但是沒有說產(chǎn)生自主的意識。意識和行為是兩個不同的概念，行為是有物的載體，它的執(zhí)行是人看見的，而意識不知道哪里飄來的。

從這個角度來看，我們目前實現(xiàn)的人工智能是不包含產(chǎn)生自主意識的。至于產(chǎn)生自主意識，一些科學(xué)家把最本質(zhì)的問題，如果找不到理由就歸于意識，這是有可能的。但是我想30年后再看，那時候有什么樣的人工制造出來的智能體能夠具備自主意識。

到目前為止，我所看到的人們說的智能服務(wù)、智能系統(tǒng)、智能產(chǎn)品，當(dāng)把機理全部公布于眾以后，能看出來是根本不可能產(chǎn)生意識的。

主持人：我是研究生物學(xué)的，雖然不是搞神經(jīng)和意識研究的，但是生物學(xué)家們已經(jīng)很清楚地知道意識建立在物質(zhì)層面上。我們的大腦與計算機之間最大的區(qū)別還是在于復(fù)雜度上，現(xiàn)在沒有任何的計算機在復(fù)雜度、計算單元的互聯(lián)程度上達(dá)到腦的水平，如果有那么一天，說不定計算機真的會產(chǎn)生意識。

劉鋒：我的觀點與何老師一樣，我認(rèn)為目前從科學(xué)角度上，是找不到科學(xué)路徑，實現(xiàn)讓機器人產(chǎn)生獨立的意識。還有一個問題，我們往往會把人工智能和機器人背后的科學(xué)家、程序員、產(chǎn)品經(jīng)理給忘掉。人工智能和機器人每一點進(jìn)展，都是由科學(xué)家和程序員推動的，兩者結(jié)合在一起，才會形成帶有威脅性的舉動。我們曾經(jīng)在一篇文章寫過：“與其說人工智能與機器人的對抗，不如說是一批人與另外一批人的對抗?！?/p>

陳孝良：我對這個問題是持一個中性的態(tài)度。毀滅一個人其實沒必要非要有意識，只要把財富毀掉，基本上這個人也很難存活于社會中。雖然現(xiàn)在人工智能很難產(chǎn)生意識，但是它會有對于財富的一種很大的威脅性。這種威脅性不僅是所謂的利用聲音詐騙手段，在理財、經(jīng)營中事實上人工智能技術(shù)都在滲入。

金融領(lǐng)域中有一種高頻交易操作，是在極短時間內(nèi)處理大量的訂單，獲取小數(shù)點后面很多位的差值的錢，實際中也有這類交易操作，很多科幻小說也已經(jīng)寫到了，這好像也是一筆很大的財富。

我認(rèn)為人工智能是一個強中心化的過程，很多人認(rèn)為人工智能是去中心化過程，但是從實踐中我們能看到它的強中心化更嚴(yán)重。如果說人工智能強中心化聚集到某個點，統(tǒng)治到整個金融系統(tǒng)，甚至是自動駕駛系統(tǒng)、智能家居系統(tǒng)，這時候造成的危害和它有沒有意識可能就沒有直接關(guān)聯(lián)了。

蔡雄山：有人提出，現(xiàn)在擔(dān)心人工智能毀滅人類，就像擔(dān)心火星人口過剩一樣，想得比較遙遠(yuǎn)。

美國有一本書，還沒有翻譯成中文，叫做《生命3.0》，這本書是目前討論人工智能比較深刻的。這本書把生命分為三個階段，第一個階段，比如草履蟲階段，生命中有軟件和硬件組成，都是沒法改變的，是進(jìn)化而來的。

第二個階段是人，人的身體是進(jìn)化而來的，是沒法改變的，但是軟件可以改變，通過學(xué)習(xí)、教育可以改變；第三個階段是人工智能階段，這個階段就是硬件和軟件都可以改變，比如機器的手可以多一只少一只，機器在不斷地學(xué)習(xí)進(jìn)步。這本書是麻省理工的一個教授寫出的非常暢銷的一本書。未來是不是有一個人機共存的世界？這個問題比較科幻，只是給大家提供一個視角。

主持人：圓桌對話上半場信息量還是很大的，感謝四位嘉賓妙語連珠的回答。接下來把提問的權(quán)利交給觀眾手中。

觀眾：我想問一個問題，目前人類意識產(chǎn)生于大腦，只是因為神經(jīng)元與神經(jīng)連接足夠復(fù)雜，如果把它嵌套到互聯(lián)網(wǎng)腦結(jié)構(gòu)里，把每一個終端都想成一個神經(jīng)元，把網(wǎng)線或無線連接都想成神經(jīng)連接，這樣的話是不是整個互聯(lián)網(wǎng)也是非常復(fù)雜，那么它有沒有自我意識呢？

劉鋒：這也是我們當(dāng)時研究互聯(lián)網(wǎng)類腦架構(gòu)里提到的，它的智能中心有兩個。第一，以人工智能為核心，和互聯(lián)網(wǎng)結(jié)合起來，這是一個智能中心；第二，是以社交網(wǎng)絡(luò)為核心的，把群體智慧結(jié)合在一起形成的系統(tǒng)，互聯(lián)網(wǎng)類腦系統(tǒng)是以這兩個智能中心為核心的智能巨系統(tǒng)，是人機結(jié)合的混合智能巨系統(tǒng)。

從測試來看，目前可以對互聯(lián)網(wǎng)的人工智能系統(tǒng)去測試智商，譬如達(dá)到人類五六歲的水平。但是如果把一個問題拋到社交網(wǎng)絡(luò)里面，我們可以想象到，這個智商的測試會爆表，為什么呢？因為我們?nèi)祟惖闹腔郾旧砭秃軓姶?，如果通過社交網(wǎng)絡(luò)所產(chǎn)生的群體智慧，遠(yuǎn)遠(yuǎn)比現(xiàn)在擔(dān)心的機器智慧強大的多。

還有一點，智慧和意識并不是像線路和節(jié)點聯(lián)結(jié)在一起，就可以形成意識。在歐洲的科學(xué)家已經(jīng)做這各方面的工作，把很多模擬的神經(jīng)元線路結(jié)合在一起，但是并不能夠形成意識。

意識有很多最基礎(chǔ)的科學(xué)問題還沒有被解決，包括生物進(jìn)化方向，包括大腦深層次意識產(chǎn)生的問題，這些基礎(chǔ)的科學(xué)問題沒有被解決的?；蛘哒也坏娇梢詫崿F(xiàn)的科學(xué)路徑，所以有些擔(dān)心確實像我們說的，是杞人憂天。

觀眾：人工智能在中醫(yī)辯證方面的討論持續(xù)了很久，大家都很期待，因為這可能是解放醫(yī)護(hù)人員、病患和緩解醫(yī)患關(guān)系的一個重要的事情。我的問題是，用人工智能重現(xiàn)出類似張仲景的醫(yī)學(xué)經(jīng)驗大概還有多久？各位專家覺得其中最大的難點在哪里？在AI領(lǐng)域有誰朝這個方向努力？

何清：關(guān)于中醫(yī)，實際上我們國家科技部一直布置這種專項，這種叫做專家系統(tǒng)，在AI里面算是一部分。它涉及到的是一個知識工程，相當(dāng)于把人類專家的知識搞成一個專家系統(tǒng)、知識庫。這方面的知識庫現(xiàn)在已經(jīng)有了，但是它的認(rèn)可度和應(yīng)用度，還達(dá)不到實際應(yīng)用的水準(zhǔn)。

但是從功能來說，目前我看到一個系統(tǒng)把北京市的名老中醫(yī)大概找了40個，用人工智能把所有的方子和診病的病例對應(yīng)起來學(xué)習(xí)，學(xué)習(xí)完以后，來了一個病人，根據(jù)病人的病癥，讓機器人專家系統(tǒng)去開方子，可以模擬某一位中醫(yī)?，F(xiàn)在這種功能做到了，但是它的評價是不是可靠、精準(zhǔn)，在這些方面做的還是有距離。

觀眾：AI機器人為什么有些功能沒有具備呢？比如敵我意識。

陳孝良：我從語音交匯的角度簡單闡述一下?，F(xiàn)在我們讓機器準(zhǔn)確分辨每個人，實際上是還沒有做到的?，F(xiàn)在只能根據(jù)每個人的聲紋，簡單分出來每個人不同，雖然可以做到模仿聲音，但是讓機器一開始就準(zhǔn)確分辨某個人，這是很難做到的事情。這涉及到視覺問題、聲光電熱力磁等整個傳感問題，再去分辨對方。

除非作為特殊的標(biāo)記，有一個敵我的意識，否則機器無法自主分辨人和人之間的，特別是情感之間的任何意識?，F(xiàn)在我們的技術(shù)還沒有像大家想象的那樣，能夠解決現(xiàn)在很多實際的問題，還需要很長一個研究階段。當(dāng)然，如果數(shù)據(jù)運用足夠多，比如中國有13億人口，如果我們有13億人口的聲紋，有可能會做到對每個人精確的分辨，這是一個逐步累積的過程。

劉鋒：當(dāng)我們談到敵我意識的時候，首先要思考站在誰的立場上，去討論敵我意識。比如陳孝良老師提到的智能音箱，如果我們想給他建立敵我意識有兩種選擇，第一種是有人把智能音箱摔在地上，讓智能音箱產(chǎn)生憤怒，并對摔它的人產(chǎn)生敵我意識，第二種是有人傷害音箱的主人，也就是擁有者，這是讓音箱產(chǎn)生憤怒，并把傷害主人的人當(dāng)作敵人？我們是按照哪個原則來建立敵我意思呢？這些基礎(chǔ)的問題是需要解決的。

這些問題想清楚以后，再探討背后要判斷敵我的時候，還要有龐大的知識數(shù)據(jù)做支撐，這時候才能完整解決這個問題，但是目前這些情況還都是不完善的。

觀眾：人工智能帶給了我們高效的學(xué)習(xí)，在人工智能發(fā)展下，越聰明的人效率越高，但是人與人之間還是有差距的，這種情況下人工智能對我是一種恐怖，因為我沒有辦法去跟擁有高智慧又有人工智能輔助的人進(jìn)行競爭。那么人工智能會讓聰明的人更加聰明嗎？

陳孝良：這個現(xiàn)象是存在的。AI不光是效率提升方面，其實在財富方面都有一些集中化的趨勢。如何借助AI的很多工具提高效率，如果融合在一起，確實會產(chǎn)生想象不到的效果。

特別是AI根本上基于很多數(shù)據(jù)，當(dāng)數(shù)據(jù)的規(guī)模到一定量，比如超過200T的時候，平均識別率達(dá)到99%以上，但是當(dāng)數(shù)據(jù)在一個G以內(nèi)，識別率只有零點幾。

其實深度學(xué)習(xí)不是一個純粹的物理模型，即便是做到99%，也可能會有1%或者0.001%的概率出現(xiàn)。不用擔(dān)心這個趨勢會集中在金字塔頂，總會有一個自然分散的過程。

在互聯(lián)網(wǎng)領(lǐng)域這個現(xiàn)象很明顯，大家知道全球躺著賺錢的公司基本誕生在互聯(lián)網(wǎng)領(lǐng)域。我們要從不同角度看待AI所帶給我們的，是不是讓資源更加集中，這涉及到很多社會層面，也包括未來很多經(jīng)濟(jì)層面的問題。

觀眾：假定一個機器人能聽懂另外一個機器人說話，能夠部分理解，時間長了以后，它們互相理解，智慧會不會增值，一直增值到有意識？

何清：首先，它產(chǎn)生一個現(xiàn)象，就是在交互過程中，由于交互時間長了，剛開始聽得懂部分的語音識別，后來相互交流溝通的時候理解準(zhǔn)確率會提高，交互的效率會提高。但這并不意味著它們兩個合在一起，就能產(chǎn)生意識和智能，這只是一個交互的效率提高。這是我的一個粗淺看法。

劉鋒：關(guān)于機器之間的交流互動，從計算機之間的通訊協(xié)議誕生之后就已經(jīng)開始了，計算機和計算機之間的信息交流，包括知識的共享，其實在之前已經(jīng)發(fā)生了，只是要表明兩個機器之間相互聽懂并且共享知識，甚至能發(fā)現(xiàn)一些新的東西，這一切背后依然要有程序員和科學(xué)家做控制和推動。如果沒有這個程序員設(shè)計這樣的程序，機器沒有完成這樣功能的機會。所以我們不用擔(dān)心這兩個機器人知識共享，因為這依然在人類的控制之下，更直接地說是在程序員和科學(xué)家控制之下。

陳孝良：關(guān)于這個問題，我們現(xiàn)在正在致力解決。其實這個很簡單，如果買兩個智能音響，如果一個智能音箱開始說話的時候，兩個智能音箱就會糾纏下去。所以我們現(xiàn)在正在解決的是，當(dāng)兩個音響共同喚醒的時候，另一個音箱不要說話。

主持人：感謝今天到場來賓，感謝所有嘉賓，圓桌論壇到此結(jié)束。