初創(chuàng)公司Fathom Computing從2014年開始嘗試用光子來處理數(shù)據(jù),他們發(fā)現(xiàn)光子比電子更適合AI任務(wù)的計算,性能得到顯著提升。在識別手寫數(shù)字的任務(wù)上,光學(xué)計算機達(dá)到90%的準(zhǔn)確率,這是極大的進步。未來光學(xué)計算機對大型AI任務(wù)來說有著無與倫比的吸引力。
Willam Andregg帶我走進他的創(chuàng)業(yè)公司 Fathom Computing雜亂的工作室,輕輕抬起一個笨重黑匣子的蓋子。匣子里,綠光從一組像是望遠(yuǎn)鏡的鏡頭、支架和電纜中微微發(fā)出。這是一臺使用光(而不是電)來處理數(shù)據(jù)的原型計算機,它正在學(xué)習(xí)識別手寫數(shù)字。在其他實驗中,這臺計算機學(xué)會了用文本生成句子。
現(xiàn)在,這臺原型光學(xué)計算機(optical computer)表現(xiàn)很好,但還達(dá)不到絕佳狀態(tài):在最佳運行條件下,它正確讀出了 90%的潦草手寫數(shù)字。但 Andregg 認(rèn)為這是一個突破。 “2014 年我們開香檳慶祝公司成立時,正確率只有 30%左右,” 他笑著說。
Andregg 稱這是機器學(xué)習(xí)軟件首次使用激光脈沖電路而非電力進行訓(xùn)練。Fathom 公司正在努力縮小這臺占地幾平方英尺計算機的尺寸,以適應(yīng)標(biāo)準(zhǔn)的云服務(wù)器。Fathom 希望這項技術(shù)將成為人工智能淘金熱的一個利器。
科技公司,特別是像亞馬遜和微軟這樣的大型云服務(wù)提供商,在計算機芯片上花費巨資為機器學(xué)習(xí)算法提供算力。研究人員發(fā)現(xiàn)專為圖形設(shè)計的芯片非常適合于為識別語音或圖像等任務(wù)驅(qū)動所謂的人工神經(jīng)網(wǎng)絡(luò),這開啟了人工智能的狂熱。在過去的三年中,領(lǐng)先的圖形芯片供應(yīng)商Nvidia的股價已經(jīng)增長了10倍以上,谷歌和其他許多公司也正在制造或研發(fā)自己的機器學(xué)習(xí)專門芯片。
Fathom的原型光學(xué)計算機乘法矩陣的可視化——這是對人工神經(jīng)網(wǎng)絡(luò)來說非常重要的操作。
Fathom的創(chuàng)始人們押注于這項新技術(shù),認(rèn)為它將超越純電子計算機的能力。 William Andregg說:“光學(xué)技術(shù)與電子學(xué)相比具有根本上的優(yōu)勢,沒有任何電子學(xué)的設(shè)計能夠超越它?!彼托值芤黄饎?chuàng)業(yè),公司有11人,由Andy Rubin領(lǐng)導(dǎo)的風(fēng)險投資公司Playground Global支持,后者共同開發(fā)了目前由谷歌擁有的Android操作系統(tǒng)。Fathom在加州帕洛阿爾托Playground的工作室運作。Playground曾是Nervana公司的主要投資方,該公司在2016年被Intel收購,成為該芯片巨頭AI硬件戰(zhàn)略的核心。
利用光而不是電來處理數(shù)據(jù)的好處
電信公司通過光信號來遠(yuǎn)距離傳播數(shù)據(jù),因為與金屬電纜中的電脈沖相比,使用同樣的能量,光信號傳播得更遠(yuǎn)。一根電纜可以同時容納許多并行數(shù)據(jù)流,由不同顏色的光線進行傳輸。
利用光來處理數(shù)據(jù),以及傳輸數(shù)據(jù),也能夠帶來顯著的性能提升。因為光導(dǎo)線路內(nèi)的光線或多或少是自由傳播的。相反,電信號必須相阻抗,產(chǎn)生廢熱。容量增加和節(jié)能減排,兩者加在一起對那些運行大型機器學(xué)習(xí)項目的公司是很大的吸引。
光處理器不是一個新概念。在20世紀(jì)60年代就提出來了,用于軍用雷達(dá)系統(tǒng)。但是隨著半導(dǎo)體產(chǎn)業(yè)大步前進,數(shù)十年來芯片密度都實現(xiàn)了摩爾定律的提升。Fathom是新的光學(xué)計算復(fù)興的一部分,這一復(fù)興是由于人們認(rèn)識到摩爾定律似乎正在失效。加州大學(xué)伯克利分校的14名研究人員在最近的一份報告中提到了摩爾定律的消亡,他們提出使AI系統(tǒng)變得更加智能的技術(shù)上的挑戰(zhàn)。報告寫道:“硬件技術(shù)迅速提升的歷史正在陷入停滯?!?/p>
光學(xué)計算機不太可能在短時間內(nèi)為你的筆記本或智能手機供能。首先,F(xiàn)athom的原型機仍然太笨重了。但亞利桑那大學(xué)的教授Pierre-Alexandre Blanche說,這項技術(shù)看起來與芯片在基于人工神經(jīng)網(wǎng)絡(luò)的AI項目中的主要工作相當(dāng)匹配。Siri的語音識別、在圍棋上贏過人類的AlphaGo,都是建立在大量特定的數(shù)學(xué)運算的基礎(chǔ)上的,即矩陣的乘法運算。
Fathom的原型機是通過將數(shù)字編碼成光束來執(zhí)行這些操作。光束通過一系列透鏡和其他光學(xué)元件。 閱讀這些光束如何在這個過程中發(fā)生改變,可以揭示計算的結(jié)果。像這樣的光電路可以有效地執(zhí)行傳統(tǒng)計算機中存儲器和處理器的工作。在這些組件之間移動數(shù)據(jù)的時間成本和能源成本是當(dāng)前使用的系統(tǒng)性能的瓶頸。
Fathom并不孤單,認(rèn)為AI系統(tǒng)需要光線的公司不止它一家。總部位于巴黎的創(chuàng)業(yè)公司LightOn近日宣布,它已經(jīng)開始在數(shù)據(jù)中心測試自己的光學(xué)處理器技術(shù)。初創(chuàng)公司Lightmatter和Lightelligence去年從MIT脫離,籌集了總計2100萬美元的資金,包括來自中國搜索巨頭百度的資金。這兩家初創(chuàng)公司誕生于MIT的一個項目,該項目在光學(xué)計算機上運行神經(jīng)網(wǎng)絡(luò)進行語音識別。但與Fathom的設(shè)備不同,該系統(tǒng)并未負(fù)責(zé)軟件的訓(xùn)練?!拔覀冊诰W(wǎng)上發(fā)布關(guān)于該項目的研究報告之后,很快收到了來自投資者的多次電話,”Lightelligence首席執(zhí)行官兼創(chuàng)始人Yichen Shen說,“這是一個巨大的機遇?!?/p>
Andregg兄弟的前一家創(chuàng)業(yè)公司Halcyon Molecular偶然發(fā)現(xiàn)了另一個大好機遇。這家基因測序公司得到了特斯拉CEO Elon Musk和Facebook投資人 Peter Thiel的支持,但在2012年倒閉了,創(chuàng)始人說,這是因為競爭對手領(lǐng)先太多。
Andregg認(rèn)為他的團隊更適合在光學(xué)計算競賽中。盡管如此,F(xiàn)athom的原型機還是很長一段路要走。除了機器太大之外,在變冷時,當(dāng)前的版本容易出錯。他們的目標(biāo)是將系統(tǒng)安裝到一塊電路板上,這樣它就可以滑進服務(wù)器。從外面看到的龐大系統(tǒng)的某些部分應(yīng)該相對容易縮??;機器是用相對低成本的部件組裝起來的,以便進行修補。他們還必須設(shè)計一個新的芯片來檢測和操作激光束。但是設(shè)計任何類型的芯片對于初創(chuàng)公司來說都是一個復(fù)雜的任務(wù)。
Andregg認(rèn)為兩年內(nèi)還無法準(zhǔn)備好最終的產(chǎn)品,但是他兄弟倆已經(jīng)開始擔(dān)心人們將怎么利用這個產(chǎn)品 Fathom成立時是一家公益企業(yè),其使命是“為人工智能制造更好的硬件,改善所有人的生活”。這是為了讓Fathom有權(quán)拒絕他們認(rèn)為可能導(dǎo)致AI惡意使用的銷售?!拔覀儾幌胍姷揭粋€負(fù)面的奇點,”Andregg說,“如果軍方想要購買我們的系統(tǒng),我們就會拒絕。”
-
AI
+關(guān)注
關(guān)注
88文章
37213瀏覽量
291957
原文標(biāo)題:摩爾定律攪局者:這家公司用光訓(xùn)練 AI,而不是GPU
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄

Fathom利用光處理數(shù)據(jù)AI任務(wù)_它的優(yōu)勢在哪里
評論