? 第一章（引言）：劉暢、許丁杰、潘雨粟和NeutronT 對(duì)本章進(jìn)行了閱讀，并對(duì)很多語(yǔ)句提出了不少修改建議。林中鵬進(jìn)行了校對(duì)，他提出了很多獨(dú)到的修改建議。

　　? 第二章（線性代數(shù)）：許丁杰和駱徐圣閱讀本章，并修改語(yǔ)句。李若愚進(jìn)行了校對(duì)，提出了很多細(xì)心的建議。

　　? 第三章（概率與信息論）：許丁杰閱讀本章，并修改語(yǔ)句。李培炎和何翊卓進(jìn)行了校對(duì)，并修改了很多中文用詞，使翻譯更加準(zhǔn)確。

　　? 第四章（數(shù)值計(jì)算）：張亞霏閱讀本章，并對(duì)其他章節(jié)也有提出了一些修改建議。張?jiān)丛催M(jìn)行了校對(duì)，并指出了原文可能存在的問(wèn)題，非常仔細(xì)。

　　? 第五章（機(jī)器學(xué)習(xí)基礎(chǔ)）：郭浩和黃平春閱讀本章，并修改語(yǔ)句。李東和林中鵬進(jìn)行了校對(duì)。本章篇幅較長(zhǎng)，能夠有現(xiàn)在的翻譯質(zhì)量離不開(kāi)這四位的貢獻(xiàn)。

　　? 第六章（深度前饋網(wǎng)絡(luò)）：周衛(wèi)林、林中鵬和張遠(yuǎn)航閱讀本章，并提出修改意見(jiàn)。

　　? 第七章（深度學(xué)習(xí)中的正則化）：周柏村進(jìn)行了非常細(xì)心的校對(duì)，指出了大量問(wèn)題，令翻譯更加準(zhǔn)確。

　　? 第八章（深度模型中的優(yōu)化）：房曉宇和吳翔閱讀本章。黃平春進(jìn)行了校對(duì)，他提出的很多建議讓行文更加流暢易懂。

　　? 第九章（卷積網(wǎng)絡(luò)）：趙雨和潘雨粟閱讀本章，并潤(rùn)色語(yǔ)句。丁志銘進(jìn)行了非常仔細(xì)的校對(duì)，并指出很多翻譯問(wèn)題。

　　? 第十章（序列建模：循環(huán)和遞歸網(wǎng)絡(luò)）：劉暢閱讀本章。趙雨提供了詳細(xì)的校對(duì)建議，尹瑞清根據(jù)他的翻譯版本，給我們的版本提出了很多建議。雖然仍存在一些分歧，但我們兩個(gè)版本的整合，讓翻譯質(zhì)量提升很多。

　　? 第十二章（應(yīng)用）：潘雨粟進(jìn)行了校對(duì)，在他的校對(duì)之前，本章閱讀起來(lái)比較困難。他提供的修改建議，不僅提高了行文流暢度，還提升了譯文的準(zhǔn)確度。

　　? 第十三章（線性因子模型）：賀天行閱讀本章，修改語(yǔ)句。楊志偉校對(duì)本章，潤(rùn)色大量語(yǔ)句。

　　? 第十四章（自編碼器）：李雨慧和黃平春進(jìn)行了校對(duì)。李雨慧提升了語(yǔ)言的流暢度，黃平春糾正了不少錯(cuò)誤，提高了準(zhǔn)確性。

　　這本書(shū)對(duì)各類(lèi)讀者都有一定用處，但我們主要是為兩類(lèi)受眾對(duì)象而寫(xiě)的。其中一類(lèi)受眾對(duì)象是學(xué)習(xí)機(jī)器學(xué)習(xí)的大學(xué)生（本科或研究生），包括那些已經(jīng)開(kāi)始職業(yè)生涯的深度學(xué)習(xí)和人工智能研究者。另一類(lèi)受眾對(duì)象是沒(méi)有機(jī)器學(xué)習(xí)或統(tǒng)計(jì)背景但希望能快速地掌握這方面知識(shí)并在他們的產(chǎn)品或平臺(tái)中使用深度學(xué)習(xí)的軟件工程師。深度學(xué)習(xí)在許多軟件領(lǐng)域都已被證明是有用的，包括計(jì)算機(jī)視覺(jué)、語(yǔ)音和音頻處理、自然語(yǔ)言處理、機(jī)器人技術(shù)、生物信息學(xué)和化學(xué)、電子游戲、搜索引擎、網(wǎng)絡(luò)廣告和金融。

　　為了最好地服務(wù)各類(lèi)讀者，我們將本書(shū)組織為三個(gè)部分。第一部分介紹基本的數(shù)學(xué)工具和機(jī)器學(xué)習(xí)的概念。第二部分介紹最成熟的深度學(xué)習(xí)算法，這些技術(shù)基本上已經(jīng)得到解決。第三部分討論某些具有展望性的想法，它們被廣泛地認(rèn)為是深度學(xué)習(xí)未來(lái)的研究重點(diǎn)。

　　讀者可以隨意跳過(guò)不感興趣或與自己背景不相關(guān)的部分。熟悉線性代數(shù)、概率和基本機(jī)器學(xué)習(xí)概念的讀者可以跳過(guò)第一部分，例如，當(dāng)讀者只是想實(shí)現(xiàn)一個(gè)能工作的系統(tǒng)則不需要閱讀超出第二部分的內(nèi)容。為了幫助讀者選擇章節(jié)，圖1.6 展示了這本書(shū)的高層組織結(jié)構(gòu)的流程圖。

　　我們假設(shè)所有讀者都具備計(jì)算機(jī)科學(xué)背景。也假設(shè)讀者熟悉編程，并且對(duì)計(jì)算的性能問(wèn)題、復(fù)雜性理論、入門(mén)級(jí)微積分和一些圖論術(shù)語(yǔ)有基本的了解。

　　遠(yuǎn)在古希臘時(shí)期，發(fā)明家就夢(mèng)想著創(chuàng)造能自主思考的機(jī)器。神話人物皮格馬利翁（Pygmalion）、代達(dá)羅斯（Daedalus） 和赫淮斯托斯（Hephaestus） 可以被看作傳說(shuō)中的發(fā)明家，而加拉蒂亞（Galatea）、塔洛斯（Talos） 和潘多拉（Pandora） 則可以被視為人造生命（Ovid and Martin， 2004; Sparkes， 1996; Tandy， 1997）。

　　當(dāng)人類(lèi)第一次構(gòu)思可編程計(jì)算機(jī)時(shí)，就已經(jīng)在思考計(jì)算機(jī)能否變得智能（盡管這距造出第一臺(tái)計(jì)算機(jī)還有一百多年）（Lovelace， 1842）。如今，人工智能（artificialintelligence， AI）已經(jīng)成為一個(gè)具有眾多實(shí)際應(yīng)用和活躍研究課題的領(lǐng)域，并且正在蓬勃發(fā)展。我們期望通過(guò)智能軟件自動(dòng)地處理常規(guī)勞動(dòng)、理解語(yǔ)音或圖像、幫助醫(yī)學(xué)診斷和支持基礎(chǔ)科學(xué)研究。

　　在人工智能的早期，那些對(duì)人類(lèi)智力來(lái)說(shuō)非常困難、但對(duì)計(jì)算機(jī)來(lái)說(shuō)相對(duì)簡(jiǎn)單的問(wèn)題得到迅速解決，比如，那些可以通過(guò)一系列形式化的數(shù)學(xué)規(guī)則來(lái)描述的問(wèn)題。人工智能的真正挑戰(zhàn)在于解決那些對(duì)人來(lái)說(shuō)很容易執(zhí)行、但很難形式化描述的任務(wù)，如識(shí)別人們所說(shuō)的話或圖像中的臉。對(duì)于這些問(wèn)題，我們?nèi)祟?lèi)往往可以憑借直覺(jué)輕易地解決。

　　針對(duì)這些比較直觀的問(wèn)題，本書(shū)討論一種解決方案。該方案可以讓計(jì)算機(jī)從經(jīng)驗(yàn)中學(xué)習(xí)，并根據(jù)層次化的概念體系來(lái)理解世界，而每個(gè)概念則通過(guò)與某些相對(duì)簡(jiǎn)單的概念之間的關(guān)系來(lái)定義。讓計(jì)算機(jī)從經(jīng)驗(yàn)獲取知識(shí)，可以避免由人類(lèi)來(lái)給計(jì)算機(jī)形式化地指定它需要的所有知識(shí)。層次化的概念讓計(jì)算機(jī)構(gòu)建較簡(jiǎn)單的概念來(lái)學(xué)習(xí)復(fù)雜概念。如果繪制出這些概念如何建立在彼此之上的圖，我們將得到一張‘‘深’’（層次很多）的圖?；谶@個(gè)原因，我們稱(chēng)這種方法為AI 深度學(xué)習(xí)（deep learning）

　　AI 許多早期的成功發(fā)生在相對(duì)樸素且形式化的環(huán)境中，而且不要求計(jì)算機(jī)具備很多關(guān)于世界的知識(shí)。例如，IBM 的深藍(lán)（Deep Blue）國(guó)際象棋系統(tǒng)在1997 年擊敗了世界冠軍Garry Kasparov（Hsu， 2002）。顯然國(guó)際象棋是一個(gè)非常簡(jiǎn)單的領(lǐng)域，因?yàn)樗鼉H含有64 個(gè)位置并只能以嚴(yán)格限制的方式移動(dòng)32 個(gè)棋子。設(shè)計(jì)一種成功的國(guó)際象棋策略是巨大的成就，但向計(jì)算機(jī)描述棋子及其允許的走法并不是挑戰(zhàn)的困難所在。國(guó)際象棋完全可以由一個(gè)非常簡(jiǎn)短的、完全形式化的規(guī)則列表來(lái)描述，并可以容易地由程序員事先準(zhǔn)備好。

　　諷刺的是，抽象和形式化的任務(wù)對(duì)人類(lèi)而言是最困難的腦力任務(wù)之一，但對(duì)計(jì)算機(jī)而言卻屬于最容易的。計(jì)算機(jī)早就能夠打敗人類(lèi)最好的象棋選手，但直到最近計(jì)算機(jī)才在識(shí)別對(duì)象或語(yǔ)音任務(wù)中達(dá)到人類(lèi)平均水平。一個(gè)人的日常生活需要關(guān)于世界的巨量知識(shí)。很多這方面的知識(shí)是主觀的、直觀的，因此很難通過(guò)形式化的方式表達(dá)清楚。計(jì)算機(jī)需要獲取同樣的知識(shí)才能表現(xiàn)出智能。人工智能的一個(gè)關(guān)鍵挑戰(zhàn)就是如何將這些非形式化的知識(shí)傳達(dá)給計(jì)算機(jī)。

　　一些人工智能項(xiàng)目力求將關(guān)于世界的知識(shí)用形式化的語(yǔ)言進(jìn)行硬編碼（hard-code）。計(jì)算機(jī)可以使用邏輯推理規(guī)則來(lái)自動(dòng)地理解這些形式化語(yǔ)言中的聲明。這就是眾所周知的人工智能的知識(shí)庫(kù)（knowledge base）方法。然而，這些項(xiàng)目最終都沒(méi)有取得重大的成功。其中最著名的項(xiàng)目是Cyc （Lenat and Guha， 1989）。Cyc包括一個(gè)推斷引擎和一個(gè)使用CycL 語(yǔ)言描述的聲明數(shù)據(jù)庫(kù)。這些聲明是由人類(lèi)監(jiān)督者輸入的。這是一個(gè)笨拙的過(guò)程。人們?cè)O(shè)法設(shè)計(jì)出足夠復(fù)雜的形式化規(guī)則來(lái)精確地描述世界。例如，Cyc 不能理解一個(gè)關(guān)于名為Fred 的人在早上剃須的故事（Linde， 1992）。它的推理引擎檢測(cè)到故事中的不一致性：它知道人體的構(gòu)成不包含電氣零件，但由于Fred 正拿著一個(gè)電動(dòng)剃須刀，它認(rèn)為實(shí)體‘‘正在剃須的Fred” （“FredWhileShaving”） 含有電氣部件。因此它產(chǎn)生了這樣的疑問(wèn)——Fred 在刮胡子的時(shí)候是否仍然是一個(gè)人。

　　依靠硬編碼的知識(shí)體系面對(duì)的困難表明，AI 系統(tǒng)需要具備自己獲取知識(shí)的能力，即從原始數(shù)據(jù)中提取模式的能力。這種能力被稱(chēng)為機(jī)器學(xué)習(xí)（machine learning）。引入機(jī)器學(xué)習(xí)使計(jì)算機(jī)能夠解決涉及現(xiàn)實(shí)世界知識(shí)的問(wèn)題，并能作出看似主觀的決策。比如，一個(gè)被稱(chēng)為邏輯回歸（logistic regression）的簡(jiǎn)單機(jī)器學(xué)習(xí)算法可以決定是否建議剖腹產(chǎn)（Mor-Yosef et al.， 1990）。而同樣是簡(jiǎn)單機(jī)器學(xué)習(xí)算法的樸素貝葉斯（naive Bayes）則可以區(qū)分垃圾電子郵件和合法電子郵件。

　　這些簡(jiǎn)單的機(jī)器學(xué)習(xí)算法的性能在很大程度上依賴(lài)于給定數(shù)據(jù)的表示（repre-sentation）。例如，當(dāng)邏輯回歸被于判斷產(chǎn)婦是否適合剖腹產(chǎn)時(shí)，AI 系統(tǒng)不會(huì)直接檢查患者。相反，醫(yī)生需要告訴系統(tǒng)幾條相關(guān)的信息，諸如是存在子宮疤痕。表示患者的每條信息被稱(chēng)為一個(gè)特征。邏輯回歸學(xué)習(xí)病人的這些特征如何與各種結(jié)果

　　在整個(gè)計(jì)算機(jī)科學(xué)乃至日常生活中，對(duì)表示的依賴(lài)都是一個(gè)普遍現(xiàn)象。在計(jì)算機(jī)科學(xué)中，如果數(shù)據(jù)集合被精巧地結(jié)構(gòu)化并被智能地索引，那么諸如搜索之類(lèi)的操作的處理速度就可以成指數(shù)級(jí)地加快。人們可以很容易地在阿拉伯?dāng)?shù)字的表示下進(jìn)行算術(shù)運(yùn)算，但在羅馬數(shù)字的表示下運(yùn)算會(huì)比較耗時(shí)。因此，毫不奇怪，表示的選擇會(huì)對(duì)機(jī)器學(xué)習(xí)算法的性能產(chǎn)生巨大的影響。圖1.1 展示了一個(gè)簡(jiǎn)單的可視化例子。