周劍銘，自由學(xué)者。研究方向?yàn)橹形魑幕容^研究，智能哲學(xué)，算法、不確定性和不確定性問(wèn)題(NP)理論。

柳渝，法國(guó)儒勒·凡爾納公立綜合大學(xué)計(jì)算機(jī)（Département Informatique, UFR des Sciences, Université de Picardie Jules Verne, France）系副教授。研究方向?yàn)橹悄苷軐W(xué)，算法、不確定性和不確定性問(wèn)題(NP)理論，NP問(wèn)題實(shí)際求解算法。

我們的文章“智能哲學(xué)：‘第三問(wèn)題’與圖靈的‘模仿游戲’”一文［1］著重指出了圖靈提出的“模仿游戲”的真正意義和價(jià)值，揭示人、機(jī)之間的復(fù)雜層次關(guān)系，本文結(jié)合我們對(duì)當(dāng)前人工智能中“機(jī)器學(xué)習(xí)”問(wèn)題的研究，進(jìn)一步討論“機(jī)器”與“學(xué)習(xí)”之間所隱含的人、機(jī)復(fù)雜關(guān)系。我們從圖靈的一貫思想出發(fā)，發(fā)微圖靈論文“計(jì)算機(jī)器與智能”［2］中所包含的豐富思想，特別是文章中第7章的內(nèi)容。很明顯，作為當(dāng)前人工智能主流的“機(jī)器學(xué)習(xí)”與圖靈所探討的“學(xué)習(xí)機(jī)器”，其思考的角度和深刻性完全不同，啟迪良多。

一、“亞臨界”狀態(tài)“和“超臨界”狀態(tài)

在“計(jì)算機(jī)器與智能”這篇文章的第7章Learning Machines，圖靈總結(jié)了對(duì)機(jī)器不能“思考”這種謬論的反駁，但他的論證是有底線(xiàn)的，他真正關(guān)注的方面不是機(jī)器的“功能”（思考）如何如何，而是機(jī)器的“狀態(tài)”，在他看來(lái)，機(jī)器的“純機(jī)械”方式，如鋼琴演奏或剝洋蔥一樣：“絕大多數(shù)思想都處于‘亞臨界’狀態(tài)，對(duì)應(yīng)于處于亞臨界體積的反應(yīng)堆，一個(gè)想法進(jìn)入這樣的思想中，平均下來(lái)只會(huì)產(chǎn)生少于一個(gè)的想法”，但是“有一小部分思想處于‘超臨界’狀態(tài)，進(jìn)入其中的想法將會(huì)產(chǎn)生二級(jí)三級(jí)越來(lái)越多的想法，最終成為一個(gè)完整的’理論。

動(dòng)物的頭腦顯然是處于亞臨界狀態(tài)的。由于這種相似性，我們不得不問(wèn)：’一個(gè)機(jī)器能不能做成超臨界的？’” 圖靈所說(shuō)的這個(gè)“超臨界”的狀態(tài)，在我們看來(lái)，就是指現(xiàn)在不同于“機(jī)械步驟”（計(jì)算機(jī)）的“人工智能”的核心理論問(wèn)題。

圖靈認(rèn)為，“亞臨界”狀態(tài)和“超臨界”狀態(tài)之間的區(qū)分和定義是非常困難的，圖靈并不以為所有的這些爭(zhēng)論已經(jīng)解決了關(guān)于人的思維與機(jī)器思維的相同與不同的問(wèn)題，這里既有公眾對(duì)這個(gè)問(wèn)題的關(guān)心所包含的模糊性（圖靈努力地進(jìn)行了分析），也有這個(gè)問(wèn)題的自身本質(zhì)上的問(wèn)題，圖靈承認(rèn)：“These last two paragraphs do not claim to be convincing arguments. They should rather be described as ‘recitations tending to produce belief’”（上面兩段并沒(méi)有宣稱(chēng)是令人信服的論據(jù)，更應(yīng)該被看作是“為了產(chǎn)生信仰的背書(shū)”，——即對(duì)立的觀(guān)點(diǎn)的爭(zhēng)論不過(guò)是背頌各自的宗教式的教條）。

實(shí)際上，圖靈的思考并未過(guò)時(shí)，人工智能研究中的兩條道路始終存在，一方面，以“聯(lián)接主義”為名，代表了重視物理關(guān)系（硬件）的一方，另一方面則是以“符號(hào)主義”為名的重視算法（軟件）的一方。重要的不是這兩方的對(duì)立，而是這兩方都有無(wú)法克服的困難，特別是雙方無(wú)法溝通所形成的思想上的混亂，令人不安地再次想起“明斯基的咒語(yǔ)”。

盡管今天的“機(jī)器學(xué)習(xí)”取得了巨大的成功，但在這個(gè)領(lǐng)域最前沿工作的專(zhuān)家仍然承認(rèn)，無(wú)法理解和解釋最基本的人工神經(jīng)網(wǎng)絡(luò)模型（ANN）的機(jī)理；另一方面，除了模擬神經(jīng)元-突觸的ANN模型，迄今沒(méi)有產(chǎn)生通用的Agent 硬件，現(xiàn)在人工智能研究大多是在電子計(jì)算機(jī)中的建模（函數(shù)化）進(jìn)行的，“人工智能”與“計(jì)算機(jī)”究竟有何不同，成了公眾和專(zhuān)家們共同的困惑。

2017NIPS （神經(jīng)信息處理系統(tǒng)大會(huì)Conference and Workshop on Neural Information Processing Systems，關(guān)于機(jī)器學(xué)習(xí)和計(jì)算神經(jīng)科學(xué)的國(guó)際會(huì)議）上，"Test of Time"（時(shí)間檢驗(yàn)獎(jiǎng)）論文大獎(jiǎng)獲得者Ali Rahimi 在演講中［3］，把“機(jī)器學(xué)習(xí)”稱(chēng)為“煉金術(shù)”（Alchemy），類(lèi)似的看法或?qū)α⑿缘臓?zhēng)議在學(xué)術(shù)界一直沒(méi)有中斷過(guò)。Rahimi 引用吳恩達(dá)的話(huà)： “Artificial Intelligence is the new electricity”，（機(jī)器學(xué)習(xí)就是新時(shí)代的電力），他們的意思是說(shuō)，現(xiàn)在的AI研究只是純粹的技術(shù)活，整個(gè)AI缺泛嚴(yán)格性和一致性的理論基礎(chǔ)，未能成為非常穩(wěn)固、有規(guī)律、有系統(tǒng)理論的知識(shí)體系。

Rahimi以后解釋說(shuō)，煉金術(shù)問(wèn)題和黑箱問(wèn)題的區(qū)別在于，“一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)是黑箱”和“整個(gè)領(lǐng)域變成了黑箱”。與此對(duì)立的觀(guān)點(diǎn)，如Facebook的首席人工智能科學(xué)家Yann LeCun則認(rèn)為［4］，工程技術(shù)上創(chuàng)新可以從亂糟糟中帶來(lái)核心的理解，加州大學(xué)伯克利分校Benjamin Recht教授也認(rèn)為有條不紊的研究和大膽開(kāi)拓的研究可以達(dá)到一個(gè)平衡，“我們兩者都需要”。

在此之前和之后，許多科學(xué)家表達(dá)了類(lèi)似的看法和與此有關(guān)的劇烈論爭(zhēng)，但所有這些對(duì)立的觀(guān)點(diǎn)都承認(rèn)，AI研究必須要有堅(jiān)實(shí)的理論基礎(chǔ)才能成為完整的科學(xué)理論體系，但現(xiàn)在的問(wèn)題在于，我們不知道解決問(wèn)題的方向，這種困惑幾乎一直伴隨著人工智能的發(fā)展歷史。我們認(rèn)為，可以從圖靈的思想中去尋找啟示，把當(dāng)前作為工程技術(shù)的“機(jī)器學(xué)習(xí)”與圖靈對(duì)“學(xué)習(xí)機(jī)器”的本質(zhì)性思考結(jié)合起來(lái)，以獲得理論研究方向上的靈感。

二、“學(xué)習(xí)機(jī)器”與“機(jī)器學(xué)習(xí)”

“學(xué)習(xí)機(jī)器”（圖靈）與“機(jī)器學(xué)習(xí)”（當(dāng)前AI的主流工作）這兩個(gè)概念的不同就在于人（研究者）在人、機(jī)關(guān)系中的地位，也就是我們一直重視的人、機(jī)倫理關(guān)系。我們強(qiáng)調(diào)，圖靈一直是作為機(jī)器的創(chuàng)造者角色進(jìn)行思考的，他主要思考的是機(jī)器的“狀態(tài)”，所以他細(xì)致地分析了機(jī)器的“亞臨界”與“超臨界”這兩種狀態(tài)，以我們現(xiàn)在習(xí)用的術(shù)語(yǔ)來(lái)說(shuō)，這就是“線(xiàn)性的”和“非線(xiàn)性的”（指數(shù)的）兩者本質(zhì)的不同。

圖靈始終以創(chuàng)造者的身份考慮“學(xué)習(xí)機(jī)器”的可能與不可能。對(duì)于他來(lái)說(shuō)，算法與“機(jī)械步驟”都是功能性的，即“能行的”、“線(xiàn)性的”，對(duì)于專(zhuān)家或普通人這都不成為問(wèn)題，真正的問(wèn)題是："一個(gè)機(jī)器能不能做成超臨界的？" 而且圖靈認(rèn)識(shí)到，這個(gè)問(wèn)題的最大困難在于，從工程學(xué)的角度上，無(wú)法回答這樣的問(wèn)題，以我們今天的理解，就是說(shuō)，這是人的問(wèn)題而不是機(jī)器的問(wèn)題。

但當(dāng)前人工智能研究的真正核心問(wèn)題似乎還沒(méi)有被人意識(shí)到，人們關(guān)心的只是如何發(fā)明、設(shè)計(jì)更好的算法，“機(jī)器學(xué)習(xí)”大部份研究幾乎集中于此，所以稱(chēng)之為“電力”或“煉金術(shù)”并不冤枉，“機(jī)器學(xué)習(xí)”并不關(guān)心“機(jī)器學(xué)習(xí)”的本質(zhì)是什么，從來(lái)沒(méi)有像圖靈一樣反思過(guò)：“一個(gè)機(jī)器能不能做成超臨界的？”，在他們意識(shí)中，似乎只要不斷地“試錯(cuò)”下去，一定能讓“猴子打出文章來(lái)”。

由此我們可以看到，這兩個(gè)術(shù)語(yǔ)區(qū)別的重要性，特別是對(duì)這兩者不加分析地混同，就隱藏或誤導(dǎo)了人工智能研究中的本質(zhì)性問(wèn)題，實(shí)際上這個(gè)問(wèn)題也是科學(xué)哲學(xué)的基本問(wèn)題。

“試錯(cuò)”作為一種工程實(shí)踐在以客觀(guān)性和實(shí)證性為本質(zhì)的科學(xué)領(lǐng)域內(nèi)最終能產(chǎn)生突破性的成功，甚至引起“范式革命“ ，最終是以人的基本認(rèn)知的轉(zhuǎn)變，甚或以人的代際之間的替代為代價(jià)的，對(duì)于基本理論或概念的缺失，不能由“試錯(cuò)”產(chǎn)生。不能成為純粹客觀(guān)性和實(shí)證性的對(duì)象不是科學(xué)能力所及的，“智能”作為一個(gè)抽象的概念，不能成為科學(xué)研究對(duì)象。因此，在不知“智能”為何物，或者不能清楚地定義“人的智能”與“人工智能”這兩個(gè)概念的情況下，想創(chuàng)造研究“智能”的顯微鏡、試驗(yàn)儀器、試驗(yàn)室或研究方法之類(lèi)的想法，實(shí)際就是事先肯定了“人可以制造超臨界的機(jī)器”的能力，這本身就是對(duì)科學(xué)精神的違背。

由此可以看出，“機(jī)器學(xué)習(xí)”與圖靈的“學(xué)習(xí)機(jī)器”這兩個(gè)概念在本質(zhì)上有別，如何認(rèn)識(shí)這兩者的相同與不同，具有重要的實(shí)際意義?？茖W(xué)家習(xí)慣以科學(xué)思維方式工作，這是科學(xué)基本精神的人文價(jià)值，但以科學(xué)的客觀(guān)性、實(shí)證去頂替人文精神，把“科學(xué)”當(dāng)作一個(gè)咒語(yǔ)，用在人類(lèi)所面臨的一切，包括人類(lèi)自身的價(jià)值、意義、命運(yùn)上，這種以科學(xué)之名的狂妄與圖靈的自知之明（Entscheidungsproblem）無(wú)法相比。

三、對(duì)圖靈的文章的直譯、意譯與釋譯

圖靈的工作和文章的價(jià)值遠(yuǎn)沒(méi)有得到充份的認(rèn)識(shí)，當(dāng)然圖靈也不可能清楚、充份地回答所有的相關(guān)問(wèn)題，但圖靈對(duì)人類(lèi)的能力的自知之明永遠(yuǎn)不會(huì)過(guò)時(shí)。解讀圖靈的文章時(shí)，理解他的思想、認(rèn)知更重要。對(duì)圖靈文章需要專(zhuān)研，在讀、釋中，如何深入地去理解圖靈簡(jiǎn)短表達(dá)后的層次復(fù)雜性，不僅是語(yǔ)法語(yǔ)義問(wèn)題，也是對(duì)歷史的發(fā)掘（“知識(shí)考古學(xué)”——?？拢?，這是對(duì)歷史的負(fù)責(zé)，更可以成為對(duì)現(xiàn)在和未來(lái)思考的靈感之源。

我們研讀圖靈文章時(shí)始終重視文章中隱含的多層次的復(fù)雜性，比如，對(duì)當(dāng)時(shí)圖靈寫(xiě)作基本思想的一致性和基本認(rèn)知的理解，這可以舉一段圖靈原文的叁種不同的理解和譯法作為例子：

原文：As I have explained, the problem is mainly one of programming. Advances in engineering will have to be made too, but it seems unlikely that these will not be for the requirements.

直譯法：正如我所解釋?zhuān)瑔?wèn)題主要是編程，工程上的進(jìn)步也是需要的，但這種所需不被滿(mǎn)足的可能性似乎不大。

意譯法：正如我所解釋過(guò)的，（現(xiàn)在的）問(wèn)題主要是編程這一方面，雖然作為（計(jì)算機(jī)）工程上的問(wèn)題應(yīng)當(dāng)受到（與編程）同樣的關(guān)注，但這似乎不大可能，因?yàn)檫@些（“編程”和“工程”兩者）無(wú)法（結(jié)合在一起而）勝任這種要求。

釋譯法：按意譯所隱含的對(duì)應(yīng)，one of programming的另一方，是工程（硬件）上的要求，這里的but it seems unlikely中的it 就是指Advances in engineering，it will have to be made too，注意這個(gè)Advances不是Advance的復(fù)數(shù)，Advances是“求愛(ài)、熱切的要求”的意思，是單數(shù)名詞，與it對(duì)應(yīng)；后面that 是表達(dá)seems unlikely原因的狀語(yǔ)子句，因?yàn)閠hese （軟件和硬件）will not be adequate for the requirements，即， “工程”（硬件）與“編程”（軟件）不能滿(mǎn)足同時(shí)結(jié)合起來(lái)討論的要求（for the requirements）。

以現(xiàn)在的方式理解，這是對(duì)創(chuàng)造機(jī)器能力的人的能力而言，硬件的創(chuàng)造不是機(jī)器的能力而是人的能力，圖靈始終是作為一個(gè)機(jī)器創(chuàng)造者（人類(lèi)身份）而考慮人類(lèi)的能力問(wèn)題。編程只是“煉金術(shù)”級(jí)別，即使在硬件條件簡(jiǎn)單的情況下，也是可以討論的。此句以下，圖靈分析了當(dāng)時(shí)硬件條件下可以只考慮的“學(xué)習(xí)機(jī)器”問(wèn)題。

四、成人的“學(xué)習(xí)”與兒童的“教育”

圖靈區(qū)別成人的學(xué)習(xí)與兒童接受教育，雖然兩者都可以名之“學(xué)習(xí)”，但圖靈認(rèn)為成人大腦所經(jīng)歷的經(jīng)驗(yàn)不同于兒童大腦接受教育的性質(zhì)，就是說(shuō)，這相當(dāng)于“超臨界”狀態(tài)與“亞臨界”狀態(tài)的不同。因此，“與其試圖編程模擬成人大腦，不如模擬兒童大腦”，現(xiàn)在看來(lái)很明顯，成人的學(xué)習(xí)是“學(xué)而時(shí)習(xí)之”的個(gè)人歷史經(jīng)驗(yàn)過(guò)程，兒童的教育具有被動(dòng)學(xué)習(xí)的性質(zhì)，主要依靠記憶和訓(xùn)練。但即使是這樣，“兒童機(jī)器”的教育仍不同于機(jī)械的“學(xué)習(xí)機(jī)器”，兒童在教育過(guò)程中的變化是受教育者的責(zé)任約束的，人類(lèi)對(duì)兒童的的教育具有類(lèi)似于“自然選擇”的重大責(zé)任。

圖靈雖然是一個(gè)技術(shù)理論專(zhuān)家，卻充滿(mǎn)人文關(guān)切的倫理精神：“It will not be possible to apply exactly the same teaching process to the machine as to a normal child. …… The example of Miss Helen Keller shows that education can take place provided that communication in both directions between teacher and pupil can take place by some means or other. ” （對(duì)機(jī)器不可能應(yīng)用與正常兒童完全相同的教學(xué)過(guò)程，……海倫.勒女士的例子表明只要老師和學(xué)生能夠以某種方式進(jìn)行雙向的直接交流，教育就能進(jìn)行）。今天，在我們面臨AI基本理論問(wèn)題和受到人、機(jī)倫理挑戰(zhàn)的困惑的時(shí)候，圖靈比我們清醒多了。

五、規(guī)則與規(guī)則的規(guī)則

對(duì)于“機(jī)器學(xué)習(xí)”而言，算法、指令、邏輯、規(guī)則等具有相同的本質(zhì)，但圖靈對(duì)創(chuàng)造“學(xué)習(xí)機(jī)器”，特別是“兒童機(jī)器”而言，“規(guī)則”與“規(guī)則的規(guī)則”具有完全不同的意義，圖靈認(rèn)為，這是人工智能的基本性質(zhì)：

The imperatives that can be obeyed by machine that has no limbs are bound to be of a rather intellectual character, as in the example (doing homework) given above. important amongst such imperatives will be ones which regulate the order in which the rules of the logical system concerned are to be applied, For at each stage when one is using a logical system, there is a very large number of alternative steps, any of which one is permitted to apply, so far as obedience to the rules of the logical system is concerned. These choices make the difference between a brilliant and a footling reasoner, not the difference between a sound and a fallacious one.

－沒(méi)有肢體的機(jī)器人（AI，Agent）所能執(zhí)行的指令具有智力性質(zhì)，……在這些指令中，最重要的是調(diào)節(jié)邏輯系統(tǒng)規(guī)則的執(zhí)行順序，因?yàn)樵谑褂眠@個(gè)系統(tǒng)的每一步，都會(huì)有許多不同選擇，在遵守邏輯系統(tǒng)規(guī)則的情況下，任意選擇一個(gè)都是允許的。如何選擇將區(qū)分聰明推理者還是愚蠢推理者（Agent），而不是區(qū)分正確推理者還是謬誤推理者（計(jì)算機(jī)）。

如果我們真正理解了圖靈的這種思想，就不會(huì)為無(wú)法區(qū)分作為Agent 的AI 與計(jì)算機(jī)的能力問(wèn)題而煩惱。

六、不確定性與人工智能基本問(wèn)題

我們的NP理論［5］堅(jiān)持圖靈對(duì)希爾伯特第十問(wèn)題解決的基本意義，理解線(xiàn)性（P定義）與非線(xiàn)性（NP定義）分別是最基本的本質(zhì)的區(qū)別，任何以P等于或不等于NP為目的前提、假設(shè)或猜想，都是循環(huán)定義或循環(huán)論證的錯(cuò)誤。人類(lèi)只能在線(xiàn)性與非線(xiàn)性之間建立最優(yōu)近似性聯(lián)系（NP-algorithm），但這不能以犧牲“線(xiàn)性”和“非線(xiàn)性”自身本質(zhì)為代價(jià)。這種基本認(rèn)知問(wèn)題上的誤導(dǎo)，就會(huì)產(chǎn)生以“停機(jī)問(wèn)題”替代“不可判定問(wèn)題”，以“圖靈檢驗(yàn)”替代“模仿游戲”。因此可以說(shuō)，這些都是以“煉金術(shù)”取代基本概念和基本理論問(wèn)題研究。

圖靈提問(wèn)：“一個(gè)機(jī)器能不能做成超臨界的？” 實(shí)際就是希爾伯特第十問(wèn)題在人工智能領(lǐng)域的再版化。正是尊循圖靈一致性的思想，我們把算法理論、NP理論自然地延申到人工智能領(lǐng)域，有關(guān)這些問(wèn)題，我們?cè)凇爸悄苷軐W(xué)”中進(jìn)行深入討論。

參考資料：

1. http://www.aisixiang.com/zhuanti/495.html

2. A.M. Turing, Computing machinery and intelligence, Mind,59, 433- 460，1950.

3.https://mp.weixin.qq.com/s__biz=MzA3MzI4MjgzMw==&mid=2650734337&idx=2&sn=a0482d8899df629a8b1e8c51d302fe2e&chksm=871b3b7fb06cb2697b4dafe698ef87256d49b72a78a7c3cd10563890edda02adb525d9480471&scene=0&key=57525b5230b75ef7f8d3197a7a096eee12021e31be3b4e863872af2b768b84f3ca7ad830a9e52d3f6963ad76871fdb6e6f478f02a04a20ea4ab84682bee4e71775e51612857a0d8dab789feb98285bae&ascene=0&uin=MTY1NzgxNjIyMg%3D%3D&devicetype=iMac+MacBookAir7%2C2+OSX+OSX+10.11.6+build(15G1611)&version=12020810&nettype=WIFI&fontScale=100&pass_ticket=FuwY1I1ZwTdtzuygXfj8oQ3sbx2mbbuoMkvag5lwjl55D%2BAbF7fEqVeGWQ1ooFcU

4.https://www.facebook.com/yann.lecun/posts/10154938130592143

5.http://blog.sciencenet.cn/home.php?mod=space&uid=2322490&do=blog&classid=172041&view=me&from=space