今天，中天微宣布與深鑒科技達成一項知識產(chǎn)權合作框架協(xié)議，雙方將利用各自在嵌入式通用處理器以及深度學習處理方面的技術優(yōu)勢，合作構建具有中國知識產(chǎn)權的人工智能SoC平臺與解決方案。

中天微成立于2001年，是一家從事32位高性能低功耗嵌入式CPU研發(fā)的集成電路設計公司，中國內(nèi)地基于自主指令架構研發(fā)嵌入式CPU，并實現(xiàn)大規(guī)模量產(chǎn)的供應商。截至目前，基于C-SKY CPU的SoC芯片累計出貨量已經(jīng)突破7億顆。

深鑒科技成立于2016年，提供先進的神經(jīng)網(wǎng)絡深度壓縮技術和基于其自主研發(fā)的Aristotle架構和Descartes架構的高效深度學習加速器全棧式解決方案，可在極低的功耗下提供接近高端GPU的深度學習處理性能。

此次合作，中天微將在內(nèi)置其高性能嵌入式CPU IP的SoC平臺中，納入深鑒科技的Aristotle架構DPU深度學習處理器IP，為客戶提供高性能低功耗的嵌入式人工智能SoC解決方案。

同時，深鑒科技將為中天微的客戶提供其DPU IP的軟硬件集成、軟件開發(fā)工具鏈、以及人工智能算法優(yōu)化等全方位的技術支持，以縮短客戶芯片的面世時間，減少客戶芯片的研發(fā)風險。

什么是深度學習？

官方定義，深度學習（Deep Learning）（也稱為深度結構學習【Deep Structured Learning】、層次學習【Hierarchical Learning】或者是深度機器學習【Deep Machine Learning】）是一類算法集合，是機器學習的一個分支。它嘗試為數(shù)據(jù)的高層次摘要進行建模。

機器學習（Machine Learning）是一門專門研究計算機怎樣模擬或實現(xiàn)人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能的學科。

深度學習是機器學習中一種基于對數(shù)據(jù)進行表征學習的方法。觀測值（例如一幅圖像）可以使用多種方式來表示，如每個像素強度值的向量，或者更抽象地表示成一系列邊、特定形狀的區(qū)域等。而使用某些特定的表示方法更容易從實例中學習任務（例如，人臉識別或面部表情識別）。深度學習的好處是用非監(jiān)督式或半監(jiān)督式的特征學習和分層特征提取高效算法來替代手工獲取特征。

深度學習的應用

在實際應用中，很多問題都可以通過深度學習解決。那么，我們舉一些例子：

黑白圖像的著色

深度學習可以用來根據(jù)對象及其情景來為圖片上色，而且結果很像人類的著色結果。這種解決方案使用了很大的卷積神經(jīng)網(wǎng)絡和有監(jiān)督的層來重新創(chuàng)造顏色。

機器翻譯

深度學習可以對未經(jīng)處理的語言序列進行翻譯，它使得算法可以學習單詞之間的依賴關系，并將其映射到一種新的語言中。大規(guī)模的LSTM的RNN網(wǎng)絡可以用來做這種處理

圖像中的對象分類與檢測

這種任務需要將圖像分成之前我們所知道的某一種類別中。目前這類任務最好的結果是使用超大規(guī)模的卷積神經(jīng)網(wǎng)絡實現(xiàn)的。突破性的進展是Alex Krizhevsky等人在ImageNet比賽中使用的AlexNet模型。

自動產(chǎn)生手寫體

這種任務是先給定一些手寫的文字，然后嘗試生成新的類似的手寫的結果。首先是人用筆在紙上手寫一些文字，然后根據(jù)寫字的筆跡作為語料來訓練模型，并最終學習產(chǎn)生新的內(nèi)容。

自動玩游戲

這項任務是根據(jù)電腦屏幕的圖像，來決定如何玩游戲。這種很難的任務是深度強化模型的研究領域，主要的突破是DeepMind團隊的成果。

聊天機器人

一種基于sequence to sequence的模型來創(chuàng)造一個聊天機器人，用以回答某些問題。它是根據(jù)大量的實際的會話數(shù)據(jù)集產(chǎn)生的。

深度學習對硬件的需求

一般來說，深度學習包含兩個階段：數(shù)據(jù)訓練和推斷。

在數(shù)據(jù)訓練階段，大量的標記或者未標記的數(shù)據(jù)被輸入深度神經(jīng)網(wǎng)絡中進行監(jiān)督或者無監(jiān)督的學習。所謂監(jiān)督學習，就是輸出是有標記的學習，讓模型通過訓練，迭代收斂到目標值；而非監(jiān)督學習不需要人為輸入標簽，模型通過學習發(fā)現(xiàn)數(shù)據(jù)的結構特征。從而使機器能夠在大數(shù)據(jù)中提取更多的特征值。

隨著深度神經(jīng)網(wǎng)絡模型層數(shù)的增多，與之相對應的權重參數(shù)成倍的增長，從而對硬件的計算能力有著越來越高的需求，尤其是在數(shù)據(jù)訓練的階段。因此，深度學習訓練領域的前沿逐漸從算法轉移到了對于高性能計算（HPC）的追逐上。目前被業(yè)內(nèi)廣泛接受的是“CPU+GPU”的異構模式和“MIC （Many Integrated Core）”眾核同構來實現(xiàn)高性能計算。

推斷階段就是利用訓練中所獲得的特征值去對新的輸入數(shù)據(jù)進行判斷或者預測。從應用上來說，推斷可以分為兩大類：線上數(shù)據(jù)中心的推斷和移動設備中的推斷。

相較于訓練階段執(zhí)著于對高性能計算的需求，線上數(shù)據(jù)中心的推斷不僅要求硬件有著高性能計算，更重要的是對于多指令數(shù)據(jù)的處理能力。就比如“Bing”搜索引擎同時要對數(shù)以萬計的圖片搜索要求進行識別推斷從而給出搜索結果。目前而言，“CPU+GPU”的異構模式依舊是第一選擇，但是“CPU+FPGA”異構計算已經(jīng)顯示出他在這方面的潛力。

而移動設備中的推斷更強調在高性能計算和低功耗中尋找一個平衡點。在這個領域的深度學習的執(zhí)行還是更多的依賴于“CPU+FPGA”與“ASIC”。

哪些芯片商在關注深度學習

目前關注深度學習市場的的芯片廠商有哪些呢？英偉達、谷歌、微軟、IBM、寒武紀、地平線、中星微、英特爾等。其中英偉達進入市場較早，Intel 2016年以4.08 億美元收購Nervana Systems開始進行布局。

寒武紀，是北京中科寒武紀科技有限公司的簡稱。2016年推出的寒武紀1A處理器（Cambricon-1A）是世界首款商用深度學習專用處理器，面向智能手機、安防監(jiān)控、可穿戴設備、無人機和智能駕駛等各類終端設備。

Horizon Robotics（地平線機器人）由前百度深度學習研究院負責人余凱創(chuàng)辦，致力于打造基于深度神經(jīng)網(wǎng)絡的人工智能“大腦”平臺-包括軟件和芯片，可以做到低功耗、本地化的解決環(huán)境感知、人機交互、決策控制等問題。

地平線的最終產(chǎn)品不止芯片，而是一個核心控制模塊，具有感知、識別、理解、控制的功能。把這個控制模塊做成產(chǎn)品去跟合作方做集成。換句話說，地平線提供的是一個帶有人工智能算法的解決方案。

中星微在2016年6月20日率先推出中國首款嵌入式神經(jīng)網(wǎng)絡處理器（NPU）芯片，這是全球首顆具備深度學習人工智能的嵌入式視頻采集壓縮編碼系統(tǒng)級芯片，取名“星光智能一號”。

這款基于深度學習的芯片運用在人臉識別上，最高能達到98%的準確率，超過人眼的識別率。該NPU采用了“數(shù)據(jù)驅動”并行計算的架構，單顆NPU（28nm）能耗僅為400mW，極大地提升了計算能力與功耗的比例。

今天獲得消息，三星電子推出新款處理器Exynos7 9610，采用10納米工藝，配置基于深度學習的技術，估計未來也會有更多企業(yè)開始關注深度學習領域。