◎ Catapult AI NN是一款全面解決方案，能夠幫助軟件工程師綜合AI神經(jīng)網(wǎng)絡(luò)

◎ 軟件開發(fā)團(tuán)隊能夠?qū)⑹褂?a href="http://www.brongaenegriffin.com/tags/python/" target="_blank">Python設(shè)計的AI模型無縫轉(zhuǎn)換為基于芯片的實現(xiàn)，與標(biāo)準(zhǔn)處理器相比，有助于更快、更節(jié)能的執(zhí)行

NEWS

西門子數(shù)字化工業(yè)軟件日前推出Catapult AI NN軟件，可幫助神經(jīng)網(wǎng)絡(luò)加速器在專用集成電路（ASIC）和芯片級系統(tǒng)（So）上進(jìn)行高層次綜合（HLS）。

Catapult AI NN是一個綜合性解決方案，它能夠獲取AI框架中的神經(jīng)網(wǎng)絡(luò)描述，然后將其轉(zhuǎn)換為C++代碼，并合成為Verilog或VHDL語言的RTL加速器，以便在芯片中實現(xiàn)。

Catapult AI NN集成了用于機(jī)器學(xué)習(xí)硬件加速的開源軟件包hls4ml，以及用于高層次綜合的西門子Catapult HLS軟件。

Catapult AI NN由西門子與美國能源部費米實驗室以及其他為 hls4ml 做出貢獻(xiàn)的機(jī)構(gòu)合作開發(fā)，能滿足機(jī)器學(xué)習(xí)加速器設(shè)計對于定制芯片功耗、性能和面積（PPA）方面的獨特要求。

無論是神經(jīng)網(wǎng)絡(luò)模型的交接過程，還是其向硬件實現(xiàn)的手動轉(zhuǎn)換，效率都非常很低，并且耗時、容易出錯，特別是在創(chuàng)建和驗證針對特定性能、功耗和面積定制的硬件加速器變體時。通過讓科學(xué)家和AI專家充分利用行業(yè)標(biāo)準(zhǔn)的AI框架（例如神經(jīng)網(wǎng)絡(luò)模型設(shè)計），并將這些模型無縫綜合到已經(jīng)經(jīng)過PPA優(yōu)化的硬件設(shè)計中，我們能夠為AI/ML軟件工程師創(chuàng)造更多可能。使用西門子新的Catapult AI NN解決方案，開發(fā)人員能夠在軟件開發(fā)過程中自動實現(xiàn)神經(jīng)網(wǎng)絡(luò)模型，同時進(jìn)行PPA優(yōu)化，有效提升AI的開發(fā)效率，并實現(xiàn)加速創(chuàng)新。

——Mo Movahed

副總裁兼高層次設(shè)計、驗證和功耗總經(jīng)理

西門子數(shù)字化工業(yè)軟件

隨著runtime AI和機(jī)器學(xué)習(xí)任務(wù)從數(shù)據(jù)中心遷移至消費電器、醫(yī)療設(shè)備等領(lǐng)域，客戶對合適大小的AI硬件的需求也在快速增長，以減少功耗，降低成本，并實現(xiàn)終端產(chǎn)品差異化。

然而，比起可綜合的C++、Verilog或VHDL，多數(shù)機(jī)器學(xué)習(xí)專家更習(xí)慣使用TensorFlow、PyTorch或Keras等工具。過去，AI專家要在合適大小的ASIC或SoC實現(xiàn)中加快機(jī)器學(xué)習(xí)應(yīng)用，其實并沒有捷徑可走。

hls4ml計劃旨在將TensorFlow、PyTorch或Keras等AI框架中的神經(jīng)網(wǎng)絡(luò)描述生成C++代碼，幫助彌補這一缺陷。隨后即可部署這些C++代碼，用于FPGA、ASIC或SoC實現(xiàn)。

Catapult AI NN能夠?qū)ls4ml的功能擴(kuò)展到ASIC和SoC設(shè)計，它包括針對ASIC設(shè)計量身定制的專用C++機(jī)器學(xué)習(xí)功能資源庫。使用這些功能，設(shè)計人員能夠在各個C++代碼實現(xiàn)之間進(jìn)行延時和資源方面的權(quán)衡，從而實現(xiàn)PPA的優(yōu)化。此外，設(shè)計人員現(xiàn)在還能夠評估不同神經(jīng)網(wǎng)絡(luò)設(shè)計的影響，以確定硬件的理想神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

粒子探測器有非常嚴(yán)格的邊緣AI約束條件，我們與西門子合作開發(fā)Catapult AI NN，這種綜合性框架充分利用了我們的科學(xué)家和AI專家的專業(yè)知識，即便他們并不是ASIC設(shè)計人員。此外，這種框架也非常適合經(jīng)驗豐富的硬件專家使用。

——Panagiotis Spentzouris

新興技術(shù)主管

費米實驗室

Catapult AI NN目前已向早期采用者提供，并將于2024年第4季度向所有用戶開放。