早在今年九月，我就寫過一篇關(guān)于人工智能應(yīng)用中的模擬計(jì)算的博客。那些機(jī)構(gòu)正在努力以協(xié)同處理的形式使用模擬計(jì)算硬件和系統(tǒng)，以幫助解決數(shù)字電子技術(shù)在開發(fā)人工智能技術(shù)中存在的一些問題。我沒有談到的是模擬計(jì)算這一用例的進(jìn)展程度，或者其他潛在的應(yīng)用以及在復(fù)興模擬計(jì)算上的努力。

截至目前，IBM已將重點(diǎn)放在模擬AI上，而Mythic AI則在尋求更多資金，以繼續(xù)開發(fā)其模擬人工智能技術(shù)，并在可能的情況下推出商業(yè)解決方案。盡管Mythic AI確實(shí)有一款產(chǎn)品正在初步交付給某些特定客戶，但Mythic AI的解決方案僅專用于邊緣AI推理。該解決方案聲稱比目前的邊緣人工智能推理數(shù)字解決方案更省電、更快速、更緊湊。

此外，Mythic的解決方案還聲稱可以進(jìn)行一些額外的計(jì)算，盡管這些計(jì)算純粹是用于神經(jīng)網(wǎng)絡(luò)操作。這些解決方案依靠存算一體（或存內(nèi)計(jì)算）的模擬處理技術(shù)的優(yōu)勢(shì)，旨在提供比GPU、CPU和FPGA等數(shù)字計(jì)算設(shè)備更高效的矩陣向量乘法。

圖1 利用模擬計(jì)算引擎對(duì)人工智能模型進(jìn)行優(yōu)化、量化和再訓(xùn)練。來源：Mythic

盡管如此，這些解決方案仍然需要前端和后端的數(shù)字電路，以支持模擬人工智能芯片使用可接受的輸入數(shù)據(jù)，并解決輸出模擬處理的一些固有誤差問題。這些解決方案單純的針對(duì)邊緣人工智能推理用例，似乎無法解決部署大規(guī)模人工智能的更大挑戰(zhàn)。

模擬計(jì)算和內(nèi)存的應(yīng)用是有意義的，因?yàn)樗鉀Q了執(zhí)行類似任務(wù)所需的數(shù)字系統(tǒng)在能效、計(jì)算速度和復(fù)雜性方面的普遍挑戰(zhàn)。

新興的模擬人工智能系統(tǒng)

除了邊緣人工智能推理之外，模擬計(jì)算還有許多潛在應(yīng)用，但幾十年來這些應(yīng)用在很大程度上被忽視了。少數(shù)研究人員正在公開致力于開發(fā)模擬計(jì)算系統(tǒng)，其中包括微軟的一個(gè)部門最近的努力。

微軟的模擬迭代機(jī)（AIM）是一種光學(xué)計(jì)算設(shè)備，旨在快速解決優(yōu)化問題。具體來說，AIM的目標(biāo)是高效解決廣泛的二次無約束混合優(yōu)化（QUMO）問題，并原生支持連續(xù)變量和二元變量的全對(duì)全連接。

在微軟研究團(tuán)隊(duì)最新發(fā)表的論文中，研究人員聲稱他們的技術(shù)已經(jīng)能夠在室溫下完全在模擬領(lǐng)域內(nèi)解決金融交易結(jié)算問題，其精度比量子硬件更高。這是在AIM中通過使用存算一體和多個(gè)變量的空分復(fù)用表示以及梯度下降法等復(fù)雜算法來實(shí)現(xiàn)的。

哥倫比亞大學(xué)和麻省理工學(xué)院的研究人員也一直致力于開發(fā)模擬計(jì)算技術(shù)。這些研究人員正在致力于開發(fā)一種更通用的模擬計(jì)算機(jī)，利用數(shù)字接口使模擬計(jì)算機(jī)更方便用戶使用。該研究小組開發(fā)的單片模擬計(jì)算機(jī)被設(shè)計(jì)為像FPGA一樣可編程。

初代芯片和第二代芯片包括用于積分、矩陣乘法、插值、濾波和函數(shù)發(fā)生器的模擬電路，這些電路通過模擬硬件可以更有效地開發(fā)。此外，這種模擬計(jì)算芯片對(duì)函數(shù)發(fā)生器采用了一種新穎的連續(xù)時(shí)間數(shù)字方法，該方法使用無時(shí)鐘二進(jìn)制信號(hào)，這些信號(hào)可以根據(jù)響應(yīng)變化而不是以固定時(shí)鐘間隔變化。

要實(shí)現(xiàn)這一點(diǎn)，需要專門的模數(shù)轉(zhuǎn)換器和數(shù)模轉(zhuǎn)換器（ADC/DAC）以及可以處理連續(xù)時(shí)間數(shù)字信號(hào)的數(shù)字存儲(chǔ)器。從根本上說，該系統(tǒng)的工作原理是將無時(shí)鐘二進(jìn)制信號(hào)從模擬信號(hào)轉(zhuǎn)換為數(shù)字信號(hào)，引用查找表中的值并將存儲(chǔ)在內(nèi)存中的值轉(zhuǎn)換回模擬信號(hào)。這有利于模擬輸入/模擬輸出函數(shù)的生成。

這樣做的主要好處是，該系統(tǒng)可以高效、快速地以相對(duì)較高的精度求解相當(dāng)復(fù)雜的微分方程。盡管它的精度不如當(dāng)今的數(shù)字硬件和算法，但對(duì)于某些情況來說，這種精度水平已經(jīng)足夠了。此外，這種模擬計(jì)算解決方案的開發(fā)時(shí)間和運(yùn)行能耗僅為數(shù)字計(jì)算機(jī)的零頭。

這樣，模擬/數(shù)字協(xié)處理器就可以使用模擬計(jì)算機(jī)的結(jié)果來為數(shù)字計(jì)算機(jī)進(jìn)一步處理提供一個(gè)起始解決方案。與通過純數(shù)字迭代處理達(dá)到的起始相比，它的效率要高得多，資源消耗要少得多。

模擬/數(shù)字混合人工智能

在輸入為近似值的情況下，這也可能是一種單步解決方案，例如機(jī)器學(xué)習(xí)（ML）、計(jì)算機(jī)視覺、生物信息學(xué)、機(jī)器控制、分子生物學(xué)和大數(shù)據(jù)集挖掘。然而，雖然利用模擬芯片可以實(shí)現(xiàn)更高水平的精度，但當(dāng)前的方法需要更大的芯片面積（這種方法的模擬計(jì)算與芯片面積成正比）以及混合方法中更復(fù)雜的模擬處理技術(shù)。

由于這項(xiàng)工作大部分在20世紀(jì)70年代初就已停滯不前，因此在支持模擬計(jì)算技術(shù)的研究方面存在著巨大的差距。例如，有人建議采用晶圓級(jí)技術(shù)和全3D集成電路技術(shù)來制造高性能模擬計(jì)算芯片。然而，這些工藝極其昂貴，盡管它們可能取得超出當(dāng)前超級(jí)計(jì)算機(jī)甚至量子計(jì)算機(jī)能力的結(jié)果。

舉例說明：Tsividis建議在300mm晶圓上構(gòu)建具有10萬個(gè)積分器的模擬計(jì)算機(jī)，這樣就可以創(chuàng)建一個(gè)包含10萬個(gè)耦合一階非線性動(dòng)態(tài)方程的系統(tǒng)，或者一個(gè)更小的高階方程組來進(jìn)行模擬。通過這種方法，處理一個(gè)方程只需要幾毫秒，并且只需要幾十瓦的功率。

人們還在努力進(jìn)一步改進(jìn)這種模擬/數(shù)字混合計(jì)算方法。盡管關(guān)于該方法的信息不多，但Anabrid Gmbh公司正在討論一種模擬計(jì)算芯片，以及它與以往的努力有何不同。

這家總部位于德國柏林的人工智能新貴正在銷售一款開源模擬計(jì)算平臺(tái)——The Analog Thing（THAT），這是一個(gè)硬件電位器和模擬硬件的組合，可用于簡(jiǎn)單計(jì)算和教育目的（圖3）。它可以通過引線手動(dòng)重新配置，并且似乎更像是一種模擬計(jì)算的教育工具。

這些早期產(chǎn)品和研究項(xiàng)目尚未產(chǎn)生可用于主流市場(chǎng)的集成模擬/數(shù)字混合或協(xié)處理器技術(shù)。然而，在模擬/數(shù)字混合技術(shù)因全數(shù)字計(jì)算而被拋棄近50年后，一些研究團(tuán)隊(duì)正在致力于開發(fā)模擬輔助或真正的協(xié)處理器技術(shù)。

這些團(tuán)體押注于模擬計(jì)算的未來。即使目前投向人工智能的資金和資源的一小部分可以轉(zhuǎn)用于模擬計(jì)算機(jī)的開發(fā)，模擬計(jì)算也有可能成為現(xiàn)實(shí)。