◎ Catapult AI NN是一款全面解決方案，能夠幫助軟件工程師綜合AI神經(jīng)網(wǎng)絡(luò)

◎ 軟件開(kāi)發(fā)團(tuán)隊(duì)能夠?qū)⑹褂?a href="http://www.brongaenegriffin.com/tags/python/" target="_blank">Python設(shè)計(jì)的AI模型無(wú)縫轉(zhuǎn)換為基于芯片的實(shí)現(xiàn)，與標(biāo)準(zhǔn)處理器相比，有助于更快、更節(jié)能的執(zhí)行

NEWS

西門(mén)子數(shù)字化工業(yè)軟件日前推出Catapult AI NN軟件，可幫助神經(jīng)網(wǎng)絡(luò)加速器在專(zhuān)用集成電路（ASIC）和芯片級(jí)系統(tǒng)（So）上進(jìn)行高層次綜合（HLS）。

Catapult AI NN是一個(gè)綜合性解決方案，它能夠獲取AI框架中的神經(jīng)網(wǎng)絡(luò)描述，然后將其轉(zhuǎn)換為C++代碼，并合成為Verilog或VHDL語(yǔ)言的RTL加速器，以便在芯片中實(shí)現(xiàn)。

Catapult AI NN集成了用于機(jī)器學(xué)習(xí)硬件加速的開(kāi)源軟件包hls4ml，以及用于高層次綜合的西門(mén)子Catapult HLS軟件。

Catapult AI NN由西門(mén)子與美國(guó)能源部費(fèi)米實(shí)驗(yàn)室以及其他為 hls4ml 做出貢獻(xiàn)的機(jī)構(gòu)合作開(kāi)發(fā)，能滿足機(jī)器學(xué)習(xí)加速器設(shè)計(jì)對(duì)于定制芯片功耗、性能和面積（PPA）方面的獨(dú)特要求。

無(wú)論是神經(jīng)網(wǎng)絡(luò)模型的交接過(guò)程，還是其向硬件實(shí)現(xiàn)的手動(dòng)轉(zhuǎn)換，效率都非常很低，并且耗時(shí)、容易出錯(cuò)，特別是在創(chuàng)建和驗(yàn)證針對(duì)特定性能、功耗和面積定制的硬件加速器變體時(shí)。通過(guò)讓科學(xué)家和AI專(zhuān)家充分利用行業(yè)標(biāo)準(zhǔn)的AI框架（例如神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)），并將這些模型無(wú)縫綜合到已經(jīng)經(jīng)過(guò)PPA優(yōu)化的硬件設(shè)計(jì)中，我們能夠?yàn)锳I/ML軟件工程師創(chuàng)造更多可能。使用西門(mén)子新的Catapult AI NN解決方案，開(kāi)發(fā)人員能夠在軟件開(kāi)發(fā)過(guò)程中自動(dòng)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型，同時(shí)進(jìn)行PPA優(yōu)化，有效提升AI的開(kāi)發(fā)效率，并實(shí)現(xiàn)加速創(chuàng)新。

——Mo Movahed

副總裁兼高層次設(shè)計(jì)、驗(yàn)證和功耗總經(jīng)理

西門(mén)子數(shù)字化工業(yè)軟件

隨著runtime AI和機(jī)器學(xué)習(xí)任務(wù)從數(shù)據(jù)中心遷移至消費(fèi)電器、醫(yī)療設(shè)備等領(lǐng)域，客戶對(duì)合適大小的AI硬件的需求也在快速增長(zhǎng)，以減少功耗，降低成本，并實(shí)現(xiàn)終端產(chǎn)品差異化。

然而，比起可綜合的C++、Verilog或VHDL，多數(shù)機(jī)器學(xué)習(xí)專(zhuān)家更習(xí)慣使用TensorFlow、PyTorch或Keras等工具。過(guò)去，AI專(zhuān)家要在合適大小的ASIC或SoC實(shí)現(xiàn)中加快機(jī)器學(xué)習(xí)應(yīng)用，其實(shí)并沒(méi)有捷徑可走。

hls4ml計(jì)劃旨在將TensorFlow、PyTorch或Keras等AI框架中的神經(jīng)網(wǎng)絡(luò)描述生成C++代碼，幫助彌補(bǔ)這一缺陷。隨后即可部署這些C++代碼，用于FPGA、ASIC或SoC實(shí)現(xiàn)。

Catapult AI NN能夠?qū)ls4ml的功能擴(kuò)展到ASIC和SoC設(shè)計(jì)，它包括針對(duì)ASIC設(shè)計(jì)量身定制的專(zhuān)用C++機(jī)器學(xué)習(xí)功能資源庫(kù)。使用這些功能，設(shè)計(jì)人員能夠在各個(gè)C++代碼實(shí)現(xiàn)之間進(jìn)行延時(shí)和資源方面的權(quán)衡，從而實(shí)現(xiàn)PPA的優(yōu)化。此外，設(shè)計(jì)人員現(xiàn)在還能夠評(píng)估不同神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的影響，以確定硬件的理想神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

粒子探測(cè)器有非常嚴(yán)格的邊緣AI約束條件，我們與西門(mén)子合作開(kāi)發(fā)Catapult AI NN，這種綜合性框架充分利用了我們的科學(xué)家和AI專(zhuān)家的專(zhuān)業(yè)知識(shí)，即便他們并不是ASIC設(shè)計(jì)人員。此外，這種框架也非常適合經(jīng)驗(yàn)豐富的硬件專(zhuān)家使用。

——Panagiotis Spentzouris

新興技術(shù)主管

費(fèi)米實(shí)驗(yàn)室

Catapult AI NN目前已向早期采用者提供，并將于2024年第4季度向所有用戶開(kāi)放。