郭毅可，歐洲科學(xué)院院士、英國皇家工程院院士、香港浸會大學(xué)副校長。1985年本科畢業(yè)于清華大學(xué)計算機系，1986年碩士畢業(yè)于清華大學(xué)計算機系，1993年博士畢業(yè)于倫敦大學(xué)帝國理工學(xué)院計算機系。倫敦大學(xué)帝國理工學(xué)院計算機系計算機科學(xué)教授，上海生物信息技術(shù)研究中心客座教授、首席科學(xué)家，帝國理工學(xué)院并行計算中心技術(shù)總監(jiān)，倫敦E- Science研究中心首席科學(xué)家，英國InforSense有限公司董事會主席兼首席執(zhí)行官。是國際知名的數(shù)據(jù)科學(xué)研究先驅(qū)，領(lǐng)導(dǎo)開發(fā)數(shù)據(jù)分析和機器學(xué)習(xí)的創(chuàng)新科技。他近年集中研究數(shù)據(jù)科學(xué)和數(shù)據(jù)挖掘在生命科學(xué)、醫(yī)療保健、環(huán)境科學(xué)和創(chuàng)意設(shè)計等方面的應(yīng)用。

2020年8月22日，郭毅可院士在第三屆上海人工智能大會發(fā)表主旨演講。演講題目為：人工智能的熱望與冷思考。從倫理道德領(lǐng)域解釋了對人工智能的冷靜思考。(以下是演講實錄)

大家都知道這幾年人工智能的發(fā)展，大家都抱有很大的希望，在這個希望中間我們也看到人工智能的發(fā)展剛剛開始，有許多重要的問題需要研究，從這個意義上來說，我們需要用冷靜的頭腦思考它的發(fā)展方向，來考慮一些根本性的問題。

一、人工智能的發(fā)展要素 1、高質(zhì)量的數(shù)據(jù)資源、大數(shù)據(jù) 2、處理數(shù)據(jù)非常好的學(xué)習(xí)算法 3、支撐算法的算力 我們怎么樣獲得這些大數(shù)據(jù)？這需要有一個很好的基礎(chǔ)架構(gòu)，也就是需要有一個很好的數(shù)據(jù)生態(tài)環(huán)境，數(shù)據(jù)資產(chǎn)化技術(shù)，也就是今天發(fā)展很快的區(qū)塊鏈技術(shù)。 如何把人工智能利用到實際過程當(dāng)中去，用到生活中？這中間需要一個非常重要的能力——交互能力。在人和機器在一起的時候，我們的形式變化，也是支撐人工智能發(fā)展的一個重要的因素。如果我們不重視這個因素的話，那么人工智能的發(fā)展也不可能健康，也很難取得進(jìn)步。

二、人工智能的發(fā)展方向

1、機器學(xué)習(xí)的內(nèi)涵

所謂的機器學(xué)習(xí)就是我們機器獲得知識的能力，談到演變，剛才講了三個方向，數(shù)據(jù)量、算法越來越豐富，還有就是算力越來越強大。這三個方向同時作用，導(dǎo)致了今天獲取知識，從手工獲取不需要數(shù)據(jù)量，到了我們可以向機器描述一些邏輯規(guī)則，我們把知識直接告訴他們，還有一個就是中數(shù)據(jù)量，來進(jìn)行機器學(xué)習(xí)，建立一些中等數(shù)據(jù)量的模型，最后是數(shù)據(jù)挖掘，一直到今天的深度學(xué)習(xí)，主要是大數(shù)據(jù)量，一個比較復(fù)雜的算法，超強的計算能力來支撐的。這里面很重要的一點，就是知識獲取的自動化程度越來越高。

郭毅可院士視頻演講現(xiàn)場

2、從認(rèn)知學(xué)角度看機器學(xué)習(xí)

機器學(xué)習(xí)有很多說法，也有很多數(shù)學(xué)模型，但是我們講到底，機器學(xué)習(xí)和人腦學(xué)習(xí)的基本邏輯和基本過程是類似的。我們首先通過一個觀察，來獲得信息，也就是觀察結(jié)果數(shù)據(jù)，知識是通過模型來表達(dá)的，腦里的知識也是一種模型，對世界的看法，通過觀察獲得的抽象看法。在這樣的模型當(dāng)中，我們做什么事情呢？對這個世界要做學(xué)習(xí)判斷，如果說我們觀察，我看到了和我腦子中得出的判斷或者說某種預(yù)測相一致的話，這個時候我們就認(rèn)為模型是正確的模型，我們不會做什么太多的動作，只是得到一些驗證，但是如果說這個模型和觀察不準(zhǔn)，就會出現(xiàn)所謂的預(yù)測誤差，這個預(yù)測誤差會導(dǎo)致人做幾件事情，第一件事情，我們要改變模型，我們相信觀察是正確的，于是就要對模型做一些變化。還有一種可能，就是我們認(rèn)為模型是怎么樣的，我們要做什么，這個不一致就導(dǎo)致了我們對這個世界要做一些改變，改變認(rèn)知是學(xué)習(xí)，改變世界是行動，這就是認(rèn)知學(xué)簡單來講對機器學(xué)習(xí)的理解。

3、機器學(xué)習(xí)的表達(dá)形式

● 找到效用函數(shù)我們在大腦當(dāng)中有表達(dá)形式，在現(xiàn)在的機器學(xué)習(xí)上，表達(dá)模型的形式基本上就是一個函數(shù)，也就是說我們學(xué)習(xí)的目的是找到這樣的一種函數(shù)，這個函數(shù)使得結(jié)果和我們的觀察比較一致，這就表達(dá)為上面的公式，誤差最小化。學(xué)習(xí)的目的一個是找到函數(shù)的形式，一個是找到函數(shù)的參數(shù)，不管學(xué)習(xí)是什么樣的，工作的目標(biāo)都是一致的，就是找到這樣一個模型，這個模型能夠和學(xué)習(xí)目標(biāo)有一致性，來達(dá)到這樣的目的。所以學(xué)習(xí)是一種過程，有一段話，是關(guān)于現(xiàn)在學(xué)習(xí)的一種抽象的概括，圖靈獎獲得者講的一句話，需要對現(xiàn)在的人工智能在一個大樣本上進(jìn)行描述，這個觀點還是比較客觀的。 現(xiàn)在我們就要問幾個問題，在這樣的學(xué)習(xí)框架下，我們怎么樣向機器表達(dá)，反過來講就是剛才所說的一個很重要的前提，我們要用機器表達(dá)我們學(xué)習(xí)的目的，一個模型和觀察之間的隱私性，這樣的一個說法，總是以這樣一個效用函數(shù)來表達(dá)，要么最大化要么最小化，不管怎么說，這個時候我們要求一個函數(shù)A可能是一個參數(shù)，或者說是一種行為，或者說是強化學(xué)習(xí)，如果是一般性就是一個參數(shù)，在這個參數(shù)取得的情況下，取得一個X概率，要求平均的損失是最大和最小，如果說收益的話最大，就是這樣一個模式，首先要確定一些參數(shù)，找到參數(shù)，然后參數(shù)的目標(biāo)是要求平均的損失和平均收益，是最大還是最小，損失最小，收益最大。這個時候我們做的時候要求求出來的函數(shù)和觀察級之間的誤差最小，強化學(xué)習(xí)就要求最大，強度最高，對于不同的行為要求平均的獎勵是最高的。這就是效率。 我們?nèi)烁嬖V機器做什么，如果說要求機器做的更多的話，要求不僅要達(dá)到最好的結(jié)果，同時要滿足一定的倫理要求，這樣的話用這樣的效率函數(shù)來表達(dá)是非常不容易的。 ● 效用函數(shù)求優(yōu)找到最大或者最小的參數(shù)，先不講求優(yōu)的過程，未必能找到最優(yōu)的結(jié)果，我們用算法來保證。第二個問題在于我們這樣的模型，因為數(shù)據(jù)觀察的弊端改變，實際上這種模型需要遷移，也就是說模型本身需要不斷變化，這個時候我們就有一個很大的問題，就是模型的進(jìn)化，數(shù)據(jù)變化之后能不能優(yōu)化。還有一個很大的問題，求優(yōu)的過程是學(xué)習(xí)的過程，這樣的過程往往是很難理解的，求優(yōu)的時候的含義我們并不清晰，所以怎么辦，為了求優(yōu)，我們必須要調(diào)整參數(shù)，這些調(diào)參，我們怎么樣改變，這個有點像一個煉金術(shù)，我們并不知道，這些都是會導(dǎo)致很大的問題，首先第一個模型是不是可以進(jìn)化，第二個這個學(xué)習(xí)過程，是不是能夠被解釋，這些都是很重要的問題。

4、機器行為

這個行為是指人對機器的感知，這個時候就有很多問題，比如說機器和人一起診斷看病，這是對行為的一個很大的要求，要行為能夠解釋，我們能夠驗證正確性，這個行為這個決斷是不是正確，憑什么我要相信你，還有一個很重要的就是右邊的圖，一個軍事行為的應(yīng)用，怎么樣保證整個操作，什么時候可以開槍，什么時候必須考慮到平民傷亡等等，這些都是非常重要的行為準(zhǔn)則。 講到機器行為，我們可以稍微做一個抽象的解釋。(行為四要素） ● 行為的目的是不是能夠按照人的意圖去改變周圍的環(huán)境，這個非常重要。也就是說你的目的是好的還是壞的，是合理的還是不合理的。 ● 行為的原則做事情的基本原則，你知道什么是錯的，什么是不能做的，是不違背人類的倫理和規(guī)范。 ● 行為的結(jié)果結(jié)果是不是你應(yīng)該做的事情。 ● 行為的依據(jù)你得出來的結(jié)果是為什么得出這樣的結(jié)果，根據(jù)是什么。 5、機器學(xué)習(xí)應(yīng)用的倫理思考 ● 政治 撰寫一個新聞，原則是不是可以被理解，這個原則是不是合理的，怎么對新聞的生成算法有可靠性。比如說現(xiàn)在的深度構(gòu)架，這里面有一張照片，蔡英文背后的一張照片，背后是毛主席長征，這樣的照片，當(dāng)然還有很有意思的新聞效果，但是這是真的還是假的，還有就是法律，如果機器人對一些案例做一些機器判斷，有沒有偏見，是否有不可預(yù)測的后果，也就是說實際上這樣的投放會導(dǎo)致什么問題，原來犯罪率很低的問題犯罪率高起來了。 ●營銷推薦系統(tǒng)，我們要考慮對消費者的損害。有一個說法是過于泡沫，一個推薦我喜歡什么，一直向我推薦我喜歡的，于是乎就形成了一個泡沫，我只喜歡原來喜歡的東西，我自己給自己構(gòu)造了一個局限，這種事情是不是合理的。 ●金融算法定價，算法定價的原則是什么，是價格公平嗎？還是說競爭，是否會造成惡性競爭或者價格戰(zhàn)。我們都知道我們買飛機票都有一個算法定價問題，因為算法定價常常會造成一個很大的矛盾，看到下雨了需要打車，這個某種程度上來講，最大化商業(yè)利益，倫理是不是正確的，這些都是很重要的要考慮的問題。 ●智能汽車真正要投入使用，倒不是技術(shù)難點，加上自動駕駛最大的問題是路權(quán)選，誰有權(quán)用這個路，如果兩個車一起開，必須保證對人的傷害最小，如果說人和機器在同一個路上的話，如果人知道有這樣一個基本原理，可以惡性和機器進(jìn)行較量，這樣的話車永遠(yuǎn)開不了，這種情況下怎么解決路權(quán)選擇的問題，人開的車和機器開的車怎么做路權(quán)選擇。做城市管理的時候有一個道路交通管理，這些方面的平衡，人工智能怎么來做，也是一個非常重要的話題。 ●機器診斷診斷是否可以驗證，健康監(jiān)護(hù)，各種錯誤的代價，對于緊急情況如何做應(yīng)對的，這些都是很大的問題。 ●社會信用體系與社會交流信用低的人剝奪權(quán)利，是不是在一個的管理當(dāng)中是真正合法的，和我剛才說的是一樣的，如果說真的做交流的話，未必改變社會關(guān)系的組成架構(gòu)，家庭也有，聊天及其對聊天者的心理影響，性愛機器人是否會改變?nèi)祟惖淖匀桓星?，這些問題都是在我們理解機器行為上是非常重要的一些例子。

三、人工智能研究的重要問題 1、如何向機器表達(dá)對的目的，也是未來的重要問題。未來的人工智能，我們不求讓機器做的多，而是要求機器做的對。做的多應(yīng)該是相對容易的，但是要機器做的對，就不是那么容易了，我們這里面考慮的是什么是對，這個行為原則，如何向機器表達(dá)對的目的，告訴你怎么做什么事情，怎么告訴是準(zhǔn)確，怎么樣告訴是有效，怎么樣告訴是真正的能夠表達(dá)的清晰一點，這又是一個問題。 2、如何判斷機器做的對不對，假定說我已經(jīng)表達(dá)的很清楚了，以前的結(jié)果和現(xiàn)在的結(jié)果有一個驗證。還有一種理解機器做的對的緣由，機器行為的解釋和驗證，這些都是需要論證的。 ● 什么是對這就是最難的，這就是人工智能的倫理問題，這是一個哲學(xué)問題，這里面有很多的原則，這三大原則非常重要，對于什么是對的，在不同的社會環(huán)境和價值體系當(dāng)中都是不一樣的，有些我覺得是對的，比如說我們舉個例子，首先是要有利他主義，什么意思呢？不是利己，是幫助人類，而不是利益自己。第二個是謙遜法則，我需要把人類價值最大化，但是不知道人類價值到底是什么，不能夠凌駕我們之上。第三個是學(xué)習(xí)能力，不僅是自身學(xué)習(xí)，也可以觀察我們來進(jìn)行學(xué)習(xí)，或者說用機器語言來間接學(xué)習(xí)，從這些方面來學(xué)習(xí)知識和數(shù)據(jù)。當(dāng)然這只是一種，很多人都有不同的理解。 ● 怎么表達(dá)對什么樣的效用函數(shù)可以表達(dá)我們的目的，這是模型形態(tài)，而不是說控制行為方式。效用函數(shù)是合理的或者說有效的方式嗎？拿這個效率函數(shù)來做人工智能，怎么樣來衡量一個行為，怎么樣定義這個行為，人工智能是怎樣理解的。最大自由化是好現(xiàn)象嗎？每個個體的最大自由化就是無政府主義了。驗證這個函數(shù)的證據(jù)是什么，這個機器行為可以用效用函數(shù)來完全確定嗎？經(jīng)濟(jì)學(xué)有兩個重要的研究，代理人原則，機器人代理了我們的事情，找任何代理人的時候都碰到一個矛盾，要確定這個代理人是以你的利益最大化為原則，還是以自己的利益最大化為原則。比如說我們找律師，這個律師到底是為我找官司，還是說想把這個問題搞的更復(fù)雜一點。還有一個不可預(yù)知原則，你表達(dá)的事情是好事情，但是往往找到不想要的結(jié)果。這兩個原則都使得我們要認(rèn)真思考，如何向機器表達(dá)我們的目標(biāo)。 ● 如何判斷機器做的對不對 第一個驗證方法就是和目標(biāo)是否一致，另一個是求得最優(yōu)。這里面有兩個場景，如果說這兩條曲線，一個是更精確，還有一個是敏感度要求更高，這兩個不是一個事情，有一個就是假定模型，這個模型很有意思，有哮喘的肺炎患者，死于肺炎的可能性較小，這合理嗎？不合理，如果有哮喘應(yīng)該死亡率高，為什么反而低了。因為有哮喘很快就會受到正常的照顧，這樣的話反而容易生存，所以數(shù)據(jù)不足，所以說90%的AI結(jié)構(gòu)都是沒有驗證的。 ● 如何理解機器做的對的緣由 現(xiàn)有的深度學(xué)習(xí)模型不能向用戶解釋其行為，設(shè)計者也無法理解其行為過程。這當(dāng)中有很多研究，有一些早期的工作，比如說現(xiàn)在要拿一個深度神經(jīng)網(wǎng)絡(luò)，判斷這是什么動物，但是有一個很大問題，我學(xué)了一個模型，我給出一個斑馬的圖形，你可能就判斷出行分布了。這個時候怎么樣來學(xué)習(xí)，把一些圖片特征編碼，每一段編碼或者數(shù)字代表了什么含義，這樣可以通過一個學(xué)習(xí)辦法，把人的特征一起進(jìn)行學(xué)習(xí)，這就有一個很大的好處，等于說你做了人的標(biāo)注，如果說這些過程最重要的原則是用空間來解釋，我們現(xiàn)在做的工作把這個概念再擴(kuò)大一些。

四、人工智能的今天和明天 人機共生世界，在人機共生的社會中，人和機器的互相交流是最重要的，人要理解機器的行為，機器要理解人的意圖。對機器行為的解釋，理解和驗證，以及機器行為的倫理性是人工智能研究的核心課題。學(xué)習(xí)的可解釋性是一個方向，還有一個方向就是向機器表達(dá)，作為對機器行為的解釋和驗證，以及機器行為的倫理是核心的問題，在沒有解決這些問題之前，或者說這些問題沒有被深入理解之前，我們奢談人工智能將來什么樣，人工智能會不會導(dǎo)致機器統(tǒng)治人類來為時過早。 我們不要神話它：它是實實在在的算法。 我們不要害怕它：它是不可避免的未來。 我們不要輕視它：它會改變我們的社會。 我們不要忽悠它：它不是靠錢可以堆出來的。 我們要以我們東方文明特有的包容來研究和應(yīng)用它，把它作為我們社會新的存在，想如何和它共處。 這是我理解的發(fā)展方向。謝謝大家！

文章內(nèi)容轉(zhuǎn)載自《戰(zhàn)略前沿技術(shù)》

原文標(biāo)題：歐洲科學(xué)院院士郭毅可：人工智能的熱望與冷思考

文章出處：【微信公眾號：工業(yè)4俱樂部】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。