國際權(quán)威標(biāo)準(zhǔn)性能評估組織SPEC第35屆年會日前在美國舉行。會上，SPEC組織確定新一年工作計劃，為推動AI算力產(chǎn)業(yè)的更快發(fā)展，國際最新AI算力評測標(biāo)準(zhǔn)SPEC ML即將發(fā)布，該標(biāo)準(zhǔn)由浪潮信息、NVIDIA、Intel、AMD、Red Hat等成員聯(lián)合開發(fā)。

與業(yè)界一般AI算力評測標(biāo)準(zhǔn)不同，「國際最新AI算力評測標(biāo)準(zhǔn)SPEC ML」模擬了AI訓(xùn)練和推理不同場景的端到端全棧流程，涵蓋業(yè)界最豐富的主流AI工作負載，評估包括多個AI場景的綜合性能、集群擴展性、能效等多種關(guān)鍵參數(shù)，可以幫助用戶更好地理解算力系統(tǒng)的瓶頸并進行優(yōu)化，是一款更貼近用戶真實AI業(yè)務(wù)需求的算力測試基準(zhǔn)。目前，浪潮信息、NVIDIA、Dell等企業(yè)正針對SPEC ML評測標(biāo)準(zhǔn)率先開展測試工作，國際最新AI算力評測標(biāo)準(zhǔn)的重大發(fā)布，將幫助用戶更全面地了解AI算力系統(tǒng)的性能、擴展性及能效水平。

此外，SPEC ML技術(shù)委員會舉行換屆選舉，浪潮信息和英特爾連任技術(shù)委員會主席、副主席。

近年來，隨著人工智能產(chǎn)業(yè)快速興起，也激發(fā)了AI算力的爆發(fā)式增長。過去10年，AI計算的能力已經(jīng)提高了不低于100萬倍，但要滿足像ChatGPT這類擁有巨量的參數(shù)和深度網(wǎng)絡(luò)結(jié)構(gòu)的大模型，算力性能提升還面臨巨大的挑戰(zhàn)。為了推動AI算力技術(shù)發(fā)展，更好評估不同芯片、算法、計算框架的AI算力性能表現(xiàn)，方便用戶選擇適合自己的計算解決方案，業(yè)界涌現(xiàn)出一批AI測評基準(zhǔn)，比如MLPerf、AIPerf、DeepBench等。一般評測基準(zhǔn)測試中，比如訓(xùn)練場景，會忽略需要大規(guī)模數(shù)據(jù)集的預(yù)訓(xùn)練過程，直接進行模型訓(xùn)練場景測試，而且僅會測試算力系統(tǒng)在ResNet50、SSD、Transformer、Bert等某個單一場景下的極限性能。但隨著模型規(guī)模越來越大，從單節(jié)點到大規(guī)模集群，訓(xùn)練流程更加復(fù)雜，模態(tài)算法也更加豐富，需要更貼合用戶真實訓(xùn)練場景的評測基準(zhǔn)，系統(tǒng)評估算力系統(tǒng)面向多種AI工作負載的綜合性能、集群擴展性、能效等多種關(guān)鍵參數(shù)。

過去一年，SPEC ML技術(shù)委員會面向用戶更復(fù)雜的訓(xùn)練流程、更豐富的AI負載，完成了國際最新AI算力評測標(biāo)準(zhǔn)SPEC ML的開發(fā)工作。SPEC ML測試過程中，無論是訓(xùn)練場景還是推理場景，測試用例會模擬用戶真實的應(yīng)用環(huán)境，綜合評估基于不同芯片、不同算法框架，服務(wù)器整機在ResNet、Yolo、SSD、3D U-Net、MobileNet、BERT等10多種AI工作負載下的綜合性能，以及多節(jié)點集群擴展性能、能效、關(guān)鍵系統(tǒng)性能參數(shù)等，尤其是Diffusion、Bloom等負載的加入，實現(xiàn)了對諸如大模型等AI熱點應(yīng)用的性能評測，幫助用戶更全面地了解AI算力系統(tǒng)的性能及能效水平。本次大會，SPEC ML技術(shù)委員會展示了ML測試工具，測試基準(zhǔn)的架構(gòu)、各項功能及展現(xiàn)結(jié)果等，獲得SPEC領(lǐng)導(dǎo)層及各成員的高度評價。

SPEC是一個全球性的、權(quán)威的第三方應(yīng)用性能測試組織，組織成員包括英特爾、甲骨文、NVIDIA、蘋果、微軟、浪潮信息、加州大學(xué)伯克利分校、清華大學(xué)等，擁有SPEC CPU、SPEC Power、SPEC Cloud等十幾項測試基準(zhǔn)，真實模擬了企業(yè)不同應(yīng)用場景下的整機性能、能效，是各類企業(yè)用戶的采購和信息系統(tǒng)搭建的重要決策依據(jù)之一。作為新一屆SPEC OSSC委員，浪潮信息將繼續(xù)承擔(dān)SPEC ML、SPEC CPU、SPEC Power、SPEC Cloud等技術(shù)小組日常工作審查、重大事項決策、測試研究及決策測試標(biāo)準(zhǔn)的發(fā)展方向等職責(zé)。