提到人工智能，最先想到的參數(shù)往往是算力。無論是傳統(tǒng)的CPU、GPU還是FPGA或ASIC加速卡，都在竭盡所能地想要成為“算力怪獸”，滿足機(jī)器學(xué)習(xí)中大規(guī)模數(shù)據(jù)集的處理和云端AI服務(wù)在計(jì)算上的需求。

然而在目前的AI世界里，硬件都基于傳統(tǒng)的數(shù)字電子架構(gòu)，雖然已經(jīng)有不少?gòu)S商在準(zhǔn)備跳出馮諾依曼架構(gòu)的限制，比如開發(fā)神經(jīng)形態(tài)加速器等。但它們并沒有跳出電子傳輸速率上的限制，因此不僅處理器主頻上仍然受限，要想實(shí)現(xiàn)百億億級(jí)乃至千億億級(jí)的算力，也只能從增加系統(tǒng)規(guī)模上入手。

在這種困境下，從光子學(xué)出發(fā)的方案正在不斷涌現(xiàn)，硅光技術(shù)讓CMOS制造高集成的光子芯片成為了可能。光子芯片基本都是基于馬赫-曾德干涉儀（MZI）制作的，用光信號(hào)來進(jìn)行線性計(jì)算，不僅沒有復(fù)雜的邏輯門，在傳輸上的能耗也遠(yuǎn)小于電信號(hào)。

不少研究人員都在近年發(fā)表了在光學(xué)計(jì)算的突破，也有少數(shù)公司在這個(gè)方向發(fā)力，打算以全新的架構(gòu)來跳出這些限制，讓AI與神經(jīng)網(wǎng)絡(luò)運(yùn)算更進(jìn)一步，甚至是打破傳統(tǒng)的摩爾定律。

Lightmatter

Envise / Lightmatter

專注于AI光子芯片的初創(chuàng)公司Lightmatter在今年推出了Envise，首個(gè)通用AI光子加速器，也是去年在Hot chips上發(fā)布的Mars原型芯片的改進(jìn)版。該加速器結(jié)合了光電系統(tǒng)，從他們的芯片構(gòu)造中也可以看出，除了光子核以外，還包含了圖形處理器、RISC核心和SRAM。Envise支持INT8、INT16和bfloat16三種數(shù)字格式，也支持ReLU、GELU和sigmoid等神經(jīng)網(wǎng)絡(luò)中常見的激活函數(shù)。

Envise服務(wù)器構(gòu)造 / Lightmatter

據(jù)Lightmatter給出的數(shù)據(jù)，以16個(gè)Envise芯片和2個(gè)AMD EPYC 7002芯片組成的4-U服務(wù)器，僅有3kW的功耗，在Resnet-50模型的測(cè)試結(jié)果中，推理速度卻是英偉達(dá)DGX-A100的四倍，而DGX-A100的最高功耗可是有6.5kW。

為了解決擴(kuò)展性的問題，Lightmatter也在推出了自己的高速互聯(lián)技術(shù)Passage。Passage是一種晶圓級(jí)可編程的光子互聯(lián)技術(shù)，讓異構(gòu)芯片以大帶寬和高能效互相通信，支持CPU、內(nèi)存和專用加速器。Lightmatter宣稱Passage比現(xiàn)有的芯片互聯(lián)方案要快上百倍，芯片間最大的傳輸延遲僅有2ns。

Lightelligence

除了國(guó)外的Lightmatter以外，國(guó)內(nèi)也有一家專注于光子芯片的公司Lightelligence（曦智科技）。成立一年后，曦智科技就在2019年正式發(fā)布了全球首款光子芯片原型板卡，處理MINIST數(shù)據(jù)集的準(zhǔn)確率達(dá)到97%以上。據(jù)了解，曦智科技目前主要的技術(shù)方案專注于光計(jì)算和光傳輸，以高集成度的光子芯片去輔助現(xiàn)有的數(shù)字電子芯片，支持到更快的機(jī)器學(xué)習(xí)運(yùn)算，數(shù)字電子芯片負(fù)責(zé)簡(jiǎn)單的邏輯運(yùn)算，實(shí)現(xiàn)高算力的同時(shí)做到低功耗。

曦智科技CEO沈亦晨在去年的EmTech China大會(huì)上表示，光子芯片技術(shù)可以更快實(shí)現(xiàn)產(chǎn)業(yè)化，因?yàn)楣庾有酒瑢?duì)制程的依賴不強(qiáng)，因此甚至可以用28nm的芯片做到7nm芯片的性能。從這點(diǎn)來看，光子芯片或許也是一個(gè)擺脫制程受限的發(fā)力方向。根據(jù)其官網(wǎng)的消息，曦智科技目前正在與早期客戶緊密合作，預(yù)計(jì)在2022年開始光學(xué)AI加速的正式部署。

光子卷積加速器

今年1月，來自澳大利亞的幾名研究人員在《自然》雜志上發(fā)表了一篇名為《用于光學(xué)神經(jīng)網(wǎng)絡(luò)的11 TOPS光學(xué)卷積加速器》的文章。卷積神經(jīng)網(wǎng)絡(luò)（CNN）啟發(fā)自生物視覺皮層系統(tǒng)，這種神經(jīng)網(wǎng)絡(luò)提取了原始數(shù)據(jù)的層次特征，極大降低了網(wǎng)絡(luò)參數(shù)的復(fù)雜度，提高了預(yù)測(cè)的準(zhǔn)確性。CNN已經(jīng)在計(jì)算機(jī)視覺、語(yǔ)音識(shí)別和醫(yī)療診斷中獲得了廣泛的應(yīng)用，但仍被電子架構(gòu)的性能給限制。

這篇文章中的研究人員展示了一個(gè)通用的光學(xué)向量卷積加速器。該加速器集成了克爾光頻梳提供的大量波長(zhǎng)通道，實(shí)現(xiàn)了11 TOPS的運(yùn)算速度，也可以同時(shí)生成8-bit分辨率25萬像素圖像的卷積，足以用于人臉圖像識(shí)別。研究人員還利用相同的硬件，依次組成了一個(gè)具有10個(gè)輸出神經(jīng)元的深度光學(xué)CNN，完成了500張MINIST手寫數(shù)字圖片的識(shí)別，準(zhǔn)確率達(dá)到88%以上。

結(jié)語(yǔ)

除了以上提到的幾家公司和研究外，市場(chǎng)上還有不少開始攻克光子芯片的公司，比如受到比爾蓋茨投資的初創(chuàng)企業(yè)Luminous Computing，不過其CEO Marcus Gomez在2019年的一次采訪中提到，其產(chǎn)品預(yù)計(jì)要在2022年至2025年的區(qū)間內(nèi)才會(huì)面世。英特爾也在今年公布了兩份相關(guān)專利，其中之一便是將光子加速器與Xeon核心異構(gòu)集成。

目前光子芯片依然在走光電結(jié)合的方向，光學(xué)計(jì)算主要是為神經(jīng)網(wǎng)絡(luò)等應(yīng)用起到輔助加速。這是因?yàn)槭艿焦鈱W(xué)元件的限制，尤其是馬MZI的布線特點(diǎn)，要想實(shí)現(xiàn)MZI互聯(lián)的話，就很難兼顧尺寸了，所以全光子的方案在擴(kuò)展性上還是要差上一籌。且我們平常接觸到的多為數(shù)字信號(hào)，少不了光電轉(zhuǎn)換的過程，因此光子芯片的成功歸根結(jié)底還是需要光電工程師的共同努力。至于通用計(jì)算什么時(shí)候能用上光子芯片，仍是一個(gè)未知數(shù)。