作者：藍海大腦

2023年標志著人工智能進入2.0時代，以大模型和生成式AI為技術里程碑，推動從點狀創(chuàng)新到規(guī)?；l(fā)展轉變，深度賦能企業(yè)業(yè)務流程，并驅動著產業(yè)鏈分化和成熟。新一代AI基礎設施針對產業(yè)用戶，采用“大中心+節(jié)點”模式，構建覆蓋整個區(qū)域的算力網絡，通過建設和運營聯(lián)動推動區(qū)域經濟一體化和智能化發(fā)展。Model as a Service（MaaS）成為核心，通過云服務提供高效的大模型服務，加速AI應用部署周期，降低企業(yè)應用大模型服務的成本，促進AI與各行業(yè)的深度整合。

一、AI 新基建開啟“三浪變革”

2023年迎來“知識生產力變革”第一浪，以大語言模型為核心，實現(xiàn)知識工程的生產力變革，類似于中世紀的印刷革命。大語言模型具有超高速學習能力，可在人機協(xié)同模式下顯著提高知識學習、搜索、傳播速度和準確性。

第二浪則是“軟件變革”，智能編程助手如商湯科技“代碼小浣熊”通過覆蓋軟件開發(fā)生命周期，實現(xiàn)超過50%開發(fā)效率提升。中國程序員數(shù)量居全球第二，中文成為最佳開發(fā)語言。大語言模型還支持多軟件串行、多模型協(xié)同組合，應用于AI Agent、MoE架構、綜合型智能客服等領域。新一代AI原生軟件應用正在普及，青少年在新興AI軟件與MaaS模型化創(chuàng)新思維中成長。

大語言模型智能編程助手，賦能軟件開發(fā)提效降本

第三浪是“AI計算變革”，隨著大語言模型規(guī)模不斷擴大，AI算力需求呈指數(shù)級增長，對線性增長的區(qū)域基礎設施提出挑戰(zhàn)。在此矛盾下，AI算力基礎設施正迎來技術工程創(chuàng)新，以不斷降低成本、提高效率。這使得AI成為賦能千行百業(yè)的通用型基礎設施，同時“百模大戰(zhàn)”演變?yōu)锳I產業(yè)專業(yè)化分工。根據(jù)AI Now的報告，大模型算力需求每1-2個月翻一番，呈現(xiàn)出超越傳統(tǒng)架構的指數(shù)級增長。由于“AI超級需求曲線”領先傳統(tǒng)架構的AI算力供給，產生短期市場現(xiàn)象，如AI芯片產能瓶頸和價格上漲。未來，通過大規(guī)模智能基建資源的投入和技術創(chuàng)新，預計在未來3年解決大模型訓練成本、GPU供應、通訊瓶頸等核心挑戰(zhàn)，從而降低AI計算整體成本，釋放全民生成智能應用的創(chuàng)新潛力。

大模型算力的成本壓力

二、大模型、生成式 AI 推動 AI 2.0 時代到來

AI 2.0時代以生成式AI為主導，不再局限于以往模式檢測和規(guī)則遵循，而是通過大模型訓練實現(xiàn)類似人類創(chuàng)造過程，從而實現(xiàn)從“分類器”向“生成器”的本質性變化。預測顯示，到2027年，生成式AI將占全球人工智能支出的42%，達到1800億美元，復合增長率高達169.7%。大模型作為生成式AI發(fā)展基礎，中國市場已發(fā)布超過300個大模型。企業(yè)對生成式AI的顛覆性潛力認可度提高，Gartner預測到2026年，超過80%的企業(yè)將使用生成式AI的API或模型，或在生產環(huán)境中部署支持生成式AI應用，相較于2023年初的不到5%比例有顯著提升。生成式AI正在由熱議走向實際應用，其潛在的價值創(chuàng)造力巨大。據(jù)麥肯錫預測，生成式AI有望為全球經濟創(chuàng)造約7萬億美元的價值，提高AI的總體經濟效益約50%，其中中國預計貢獻約2萬億美元，接近全球總量的1/3。

生成式 AI 驅動 AI 市場規(guī)?；l(fā)展，并帶來全新經濟效益

1、生成式 AI 推進產業(yè)規(guī)模化，AI 無處不在愿景加速實現(xiàn)

生成式AI迅速增長，企業(yè)從以往的點狀、創(chuàng)新應用逐步過渡到在業(yè)務流程各環(huán)節(jié)部署生成式AI，以提升競爭優(yōu)勢。據(jù)麥肯錫調研，1/3的企業(yè)表示其組織在至少一個業(yè)務職能中經常使用生成式AI應用。企業(yè)通過加強在生成式AI領域的投資來推動這一實現(xiàn)，企業(yè)在ICT領域投資正在調整，將更多預算投入到生成式AI領域，從中獲得客觀的收益。據(jù)IDC的調研，已有24%的中國企業(yè)在生成式AI上投資，69%的企業(yè)正在篩選潛在應用場景或開始測試和概念驗證。預計到2026年，40%的中國企業(yè)將掌握生成式AI的使用，共同開發(fā)數(shù)字產品和服務，實現(xiàn)與競爭對手相比兩倍的收入增長。

各地區(qū)、行業(yè)和資歷級別的受訪者表示，他們已經在使用生成式 AI

企業(yè)正在調整人工智能（AI）戰(zhàn)略，以適應生成式AI的爆發(fā)式增長，使其覆蓋整個公司業(yè)務流程。在AI 1.0時代，企業(yè)通常制定長遠規(guī)劃，采用碎片化布局。然而，AI 2.0時代的生成式AI帶來日新月異的變化，企業(yè)戰(zhàn)略強調短期目標、快速行動，并逐漸覆蓋關鍵業(yè)務。戰(zhàn)略的關鍵變化包括對用例的重新考慮，從以前的預測分析和自動化應用場景轉向內容生成和創(chuàng)造。隨著生成式AI成為不可或缺的生產力工具，培訓員工負責任地使用這些工具也成為關注的焦點。

AI 2.0 時代，企業(yè)需要重新制定 AI 戰(zhàn)略

通過擁抱生成式AI，企業(yè)實現(xiàn)與員工之間的協(xié)同創(chuàng)新。生成式AI擴大人類專業(yè)知識、創(chuàng)造力和知識范圍，提高工作效率。最重要的是，生成式AI使得創(chuàng)新的可能性變得更為清晰，幫助人類在短時間內探索更多解決方案可能性，并以最小化成本撬動更多的價值。據(jù)Gartner預測，到2026年，將有超過1億人與“機器人同事（合成虛擬同事）”協(xié)同工作。

2、產業(yè)鏈成熟分化，基礎設施成為 AI 產業(yè)發(fā)展基座和保障

企業(yè)積極采用大模型和生成式AI推動AI應用向產業(yè)深水區(qū)快速發(fā)展。面對多樣化的業(yè)務需求和標準，AI產業(yè)鏈正迅速成熟和分化，上下游的產業(yè)角色和環(huán)節(jié)不斷增加，需要新型基礎設施來更好地支持這一發(fā)展。其中的關鍵影響包括：

1）智能算力成為AI產業(yè)發(fā)展的核心支持要素

企業(yè)傾向于使用AI就緒的數(shù)據(jù)中心或GPU集群進行大模型訓練，以縮短部署時間并降低設施的長期投資成本。智能算力適用于大模型訓練，已成為推動算力增長的主要動力。根據(jù)IDC的預測，中國智能算力規(guī)模到2027年預計將達到1117.4 EFLOPS。在2022年到2027年的期間，中國的智能算力規(guī)模年復合增長率為33.9%，而同期通用算力規(guī)模的年復合增長率為16.6%。

中國智能算力規(guī)模及預測，2020-2027，基于 FP16 計算，EFLOPS

2）人工智能生產范式轉向以大模型為核心的開發(fā)路徑

在AI 1.0時代，AI應用開發(fā)主要通過精細而復雜的編碼來表達邏輯，隨著業(yè)務場景從通用發(fā)展到碎片化，這種模式變得昂貴且面臨準確性挑戰(zhàn)，制約了AI產業(yè)發(fā)展。而在AI 2.0時代，基于強化學習和基模型與人工反饋相結合，AI應用開發(fā)進入規(guī)?；A段。通過微調基模型以適應業(yè)務邏輯，輔以提示詞工程，可以更迅速、低成本、高精度地覆蓋更廣泛的業(yè)務場景，使AI產業(yè)迎來一個高速發(fā)展、無處不在的新時代。

AI 2.0 時代，人工智能的生產范式發(fā)生了根本性改變

3）作為新的生產力工具，生成式 AI 應用發(fā)展進入大航海時代

隨著基模型的迅速成熟，生成式AI應用迎來爆發(fā)性增長。最初以ChatGPT、Midjourney等為代表的文本和圖像應用迅速擴展了用戶群。接著，音頻生成、視頻生成、多模態(tài)生成等應用以及面向不同行業(yè)和用戶群體的工具類應用（如代碼生成、Copilot、數(shù)字人、營銷工具、聊天助手等）紛紛涌現(xiàn)。到2023年11月OpenAI推出GPTs并計劃推出GPT Store，使用戶能夠無需編碼，結合自身指令、外部知識和能力創(chuàng)建定制版本的應用。這種個性化的開發(fā)模式以及清晰的商業(yè)化計劃，將生成式AI應用的主導地位從少數(shù)AI廠商擴展到大量AI開發(fā)者。

AI 2.0 時代，人工智能產業(yè)迎來更加繁榮的“大航海時代”

三、AI 2.0 時代對 AI 基礎設施提出了全新要求

進入 AI 2.0 時代，傳統(tǒng)針對移動互聯(lián)時代應用、以 CPU 為中心的云計算基礎設施，無法滿足大模型訓練、生成式 AI 應用爆發(fā)所帶來的挑戰(zhàn)，這些新的挑戰(zhàn)對 AI 基礎設施的關鍵環(huán)節(jié)都提出全新的要求，包括算力、算法平臺、數(shù)據(jù)，以及圍繞三個環(huán)節(jié)的工程系統(tǒng)建設。

1、傳統(tǒng)計算基礎設施無法滿足大模型、生成式 AI 的新要求

大模型訓練和生成式AI應用對GPU或異構計算的需求大幅增加，傳統(tǒng)CPU算力已無法滿足。這不僅對GPU集群計算效率和穩(wěn)定性提出多方面要求，而且算力不再是簡單的堆砌，而是需要進行復雜的系統(tǒng)性工程優(yōu)化。同時面臨龐大的投資壓力，如何在保持系統(tǒng)穩(wěn)定性和高效率之間取得平衡成為一個關鍵問題。

1）以GPU為核心的AI算力需求爆發(fā)性增長

以OpenAI GPT-3為例，訓練一次1750億參數(shù)的模型大約需要3640PFlops-day的算力，使用1024塊A100(GPU)進行34天的訓練。隨著模型參數(shù)的不斷增加，大模型訓練需求呈持續(xù)遞增的趨勢。過去四年大模型參數(shù)年均復合增長約為400%，相應的AI算力需求增長超過15萬倍，遠超摩爾定律的增速。例如，GPT-4的參數(shù)量大約是GPT-3的500倍，需要使用約2萬至3萬張A100(GPU)，并花費大約一個月的時間進行訓練。除大模型訓練，生成式AI應用的高并發(fā)推理也將進一步推高算力需求，未來可能遠遠超過訓練階段的算力需求。

AI 算力需求呈指數(shù)級增長，用以滿足大模型開發(fā)和實踐

2）高性能和高效率成為算力基礎設施的關鍵

為更好支持大模型訓練，采用多機多卡構成大集群進行分布式訓練成為不可或缺的選擇。然而大集群并非等同于大算力。分布式訓練中，由于網絡通信或數(shù)據(jù)緩存等問題，效率下降成為一個普遍挑戰(zhàn)。特別是在千億至萬億參數(shù)規(guī)模的大模型中，通信時間可能占比高達50%，互聯(lián)不暢將影響大模型訓練效率，制約算力集群的進一步擴展。因此，要求集群必須擁有高速互聯(lián)的網絡連接且網絡基礎設施需具備高度可靠性。在并行訓練中，網絡堵塞可能由于負載不均勻而成為系統(tǒng)短板，影響數(shù)十個甚至全部GPU節(jié)點的信息同步。此外，大模型訓練時通常通過Checkpoint保存模型參數(shù)，以實現(xiàn)連續(xù)性。然而，在傳統(tǒng)訓練方式下，當模型參數(shù)數(shù)量較大時，Checkpoint寫入時間會變得較長，降低GPU利用率。以GPT-3模型為例，文件系統(tǒng)寫入速度為15GB/s時，一次Checkpoint需時2.5分鐘，造成相應資源浪費。因此，支持大模型訓練的算力資源，不僅需要在集群硬件層面提升，還需要結合軟件層面進行優(yōu)化設計。

大模型訓練任務的穩(wěn)定性，隨著訓練集群規(guī)模的擴張而遞減

3）獨占式、大規(guī)模、長時間訓練對 GPU 集群穩(wěn)定性提出更高要求

大模型訓練在龐大GPU集群上需要較長時間，若單個節(jié)點發(fā)生故障，整個訓練會中斷，而故障的原因和位置難以迅速確定。以Meta的OPT-17B訓練為例，理論上在1,000個80G A100上訓練3,000億個單詞需要33天，實際訓練卻用90天，期間發(fā)生112次故障，主要是硬件故障，導致手動重啟35次，自動重啟約70次。節(jié)點故障不僅延長訓練時間，也帶來算力資源的浪費。因此，保證集群訓練的穩(wěn)定性至關重要，對集群建設提出更高的要求。這包括集群是否具備實時監(jiān)測故障、斷點續(xù)訓、故障節(jié)點自動隔離等能力，以及在故障發(fā)生時是否能夠快速定位和迅速恢復。

2、數(shù)據(jù)質量和效率決定大模型的高質量發(fā)展之路

大模型性能和價值觀取決于高質量數(shù)據(jù)，但數(shù)據(jù)獲取、清洗、標注等工作面臨更大挑戰(zhàn)，需要更高效的AI數(shù)據(jù)管理流程以滿足大模型時代新需求。此外，大模型訓練和應用可能涉及用戶隱私和敏感數(shù)據(jù)，因此需要有效的數(shù)據(jù)治理手段來保障隱私和數(shù)據(jù)安全。

構建性能強大且價值對齊的大模型至關重要，而數(shù)據(jù)質量和效率是關鍵因素。由于不同來源的數(shù)據(jù)質量差異較大，包括重復、無效、虛假或敏感數(shù)據(jù)，這些問題會直接影響模型性能和產生的價值。為保障數(shù)據(jù)質量和價值對齊，需要對原始數(shù)據(jù)進行清洗、標注等預處理工作。傳統(tǒng)的“作坊式”數(shù)據(jù)處理方式已無法滿足大模型時代的需求，因此需要打造高效的“智能化數(shù)據(jù)處理流水線”以彌補傳統(tǒng)方式的高成本和低效率。

隨著生成式AI的使用，企業(yè)面臨更為突出的用戶隱私和數(shù)據(jù)安全問題。上傳企業(yè)代碼庫或以往營銷數(shù)據(jù)等操作可能涉及用戶隱私和企業(yè)核心機密，若不妥善保護可能導致嚴重數(shù)據(jù)泄露，對用戶和企業(yè)造成不可逆的損害。在大模型訓練和交互過程中，如何高效進行數(shù)據(jù)治理，隔離和保護上傳數(shù)據(jù)，成為亟需解決的問題。用戶選擇AI軟件供應商時，數(shù)據(jù)安全性是至關重要的參考指標。

3、大模型需要全新的 AI 平臺服務模式

大模型應用能夠幫助企業(yè)更高效率的實現(xiàn)商業(yè)目標，但對于絕大多數(shù)企業(yè)而言，自研大模型成本高且模型設計、訓練、調優(yōu)等環(huán)節(jié)對開發(fā)人員專業(yè)能力要求較高。MaaS（Model as a Service大模型即服務）代表著一種全新的 AI云服務范式，其將大模型作為 AI 基礎設施的核心組成，以云服務方式提供給開發(fā)人員和企業(yè)進行更高效的工業(yè)化開發(fā)。目前，包括微軟、華為、百度、商湯等廠商均推出 MaaS 服務。

MaaS 平臺幫助企業(yè)更好的調用大模型能力

MaaS極大地加速了AI應用開發(fā)過程，提高創(chuàng)新迭代速度。該平臺將預訓練好的大模型與開發(fā)工具、數(shù)據(jù)管理等功能封裝在一起，使企業(yè)能夠在不從零開始自建大模型的情況下，迅速調用AI功能，縮短了新產品、新服務、新模式上線的時間，加速創(chuàng)新的迭代速度，提升企業(yè)的市場競爭力。

此外，MaaS降低企業(yè)的成本投入，推動AI與各行各業(yè)的深度融合。在AI 1.0時代，小模型的應用受限且開發(fā)成本高，AI在傳統(tǒng)行業(yè)的滲透率僅為4%。而大模型時代采用“基礎大模型+微調”的方法提高了場景適用性，同時MaaS模式降低了AI開發(fā)的成本和專業(yè)門檻，促使企業(yè)更積極地推進與業(yè)務相結合的AI創(chuàng)新，推動AI與行業(yè)的深度融合，提高了行業(yè)AI應用的滲透率。

此服務模式還促進了大模型生態(tài)體系的建立，推動大模型應用規(guī)?；涞?。MaaS主要由技術實力強、AI專家資源豐富的廠商提供，通過平臺的開放性和開源社區(qū)的參與，吸引更多企業(yè)和開發(fā)者參與，形成多元化的大模型應用開發(fā)生態(tài)，以滿足更廣泛、更細分場景的AI需求，從而推動應用規(guī)?；膶崿F(xiàn)。

四、新一代 AI 基礎設施的定義、特點和價值

AI 2.0時代需要重新構思基礎設施，以更精細化的設計和重構來支持大模型的訓練與推理，以及生成式AI應用的規(guī)?；涞?。這一新一代AI基礎設施將以大模型能力輸出為核心平臺，綜合整合算力資源、數(shù)據(jù)服務和云服務，專注于最大程度提升大模型和生成式AI應用的性能。其關鍵要素包括數(shù)據(jù)準備與管理、大模型訓練、推理、模型能力調用以及生成式AI應用的部署。企業(yè)可以通過利用新一代AI基礎設施來開發(fā)和運行生成式AI業(yè)務和客戶應用程序，同時進行基模型和行業(yè)模型的訓練與微調。

新一代 AI 基礎設施主要由算力、MaaS 及相關工具構成

在實際應用中，廠商會提供圍繞大模型開發(fā)實踐的咨詢類服務，以解決用戶在訓練和使用大模型時面臨的技術問題。算力基礎設施方面，為大模型訓練和推理提供全面的計算、存儲等產品及服務，具有“大算力、高協(xié)同、強擴展”的基本特性。這包括由高性能異構集群組成的算力底座，具備高互聯(lián)的計算網絡、高性能的文件存儲和大規(guī)模的AI算力資源，以及具備強大的線性擴展能力，提供彈性靈活的云原生服務。

MaaS平臺層為大模型應用提供完整的服務和工具鏈體系，包括基礎大模型庫、大模型生產平臺、數(shù)據(jù)管理平臺、應用程序開發(fā)等。MaaS平臺層可以提供預構建的基礎大模型及API，一站式大模型開發(fā)工具及服務，AI原生應用開發(fā)工具，以及預構建的高質量數(shù)據(jù)集及AI數(shù)據(jù)管理服務，以滿足用戶在不同業(yè)務場景下的需求。這有助于降低客戶使用成本，加速大模型在不同行業(yè)領域的快速落地。

1、新一代 AI 基礎設施的主要特點

1）新一代 AI 基礎設施不是傳統(tǒng)云的 AI 化，兩者具有明顯定位和發(fā)展路徑的差別。新一代 AI 基礎設施主要面向產業(yè)用戶，為超大模型研發(fā)訓練、區(qū)域行業(yè)及應用孵化創(chuàng)新提供 AI 基座，并跟隨產業(yè)區(qū)域落地向周邊輻射，通過可持續(xù)運營帶動區(qū)域經濟智能化發(fā)展。

新一代 AI 基礎設施面對的是不同于傳統(tǒng)云的業(yè)務要求

智算中心以“建運一體”的方式，充分發(fā)揮基礎設施效益，不僅是AI基礎設施物理載體，更是集公共算力服務、數(shù)據(jù)開放共享、智能生態(tài)建設和產業(yè)創(chuàng)新聚集的綜合服務平臺。智算中心建設不僅要注重在產業(yè)生態(tài)為導向的規(guī)劃下進行，還需要強調對區(qū)域產業(yè)、科研等應用場景的支撐。選擇合理的建設和運營模式，并在建成后實現(xiàn)可持續(xù)運營，有助于幫助當?shù)馗玫叵懔Y源，促進智能產業(yè)生態(tài)發(fā)展和AI人才培養(yǎng)。

在AI算力網絡布局上，采用“大中心+節(jié)點”模式，構建跨地域互補、協(xié)同調度的超大規(guī)模AI算力網絡。通過“大中心”布局低成本大規(guī)模算力集群，滿足萬億參數(shù)模型訓練與部署的需求；同時，在產業(yè)基礎好的區(qū)域落地算力節(jié)點，以滿足產業(yè)訓練和推理一體的算力需求。通過節(jié)點布局與大中心的聯(lián)動擴展，實現(xiàn)跨地域支撐訓推算力協(xié)同調度。

2、新一代 AI 基礎設施創(chuàng)造社會價值

新一代 AI 基礎設施降低大模型開發(fā)和應用的門檻，在政企服務、產業(yè)和科研創(chuàng)新等方面創(chuàng)造更大的社會價值。具體來看包括三方面：

新一代 AI 基礎設施賦能政務、產業(yè)和科研創(chuàng)新價值

1）政務智能化提升

“一模通辦”為政務服務注入大模型能力。通過整合分散的政務應用，使用性能強大、底座統(tǒng)一的大模型，實現(xiàn)“一模通辦”以提升地方政府治理能力。這推動了各類智能惠企和便民服務的高效實施，使企業(yè)和市民更輕松地享受城市公共服務。政務大模型在處理海量政務數(shù)據(jù)時能夠迅速洞察熱點事件，分析政策落地情況，為政策的制定和實施提供支持，從而提升社會治理水平。另外，統(tǒng)一的便民咨詢窗口通過政務大模型能夠準確快速地識別市民需求，提高政務服務效率。

2）產業(yè)創(chuàng)新激發(fā)

“大模型+MaaS”模式助力區(qū)域智能化。利用大模型激發(fā)區(qū)域產業(yè)創(chuàng)新，加速傳統(tǒng)產業(yè)智能化轉型。例如，在農業(yè)領域，結合遙感農業(yè)大模型實現(xiàn)農業(yè)技術的升級和推廣。同時，AI基礎設施賦能工業(yè)大模型的研發(fā)和應用，實現(xiàn)工業(yè)AI的規(guī)模生產。

3）科學研究賦能

“AI for Science”新范式推動科學發(fā)展。大模型技術在科學研究領域帶來重大突破，如在生物計算領域的AlphaFold2覆蓋98.5%的人類蛋白質組，以及全球中期天氣預報大模型“風烏”首次實現(xiàn)在高分辨率上對核心大氣變量進行超過10天的有效預報。大模型對原子運動、醫(yī)學圖像、天文圖像等進行預測和模擬，加速科學實驗的自動化和智能化，推動科學研究的新范式“AI for Science”取得更多突破。

審核編輯：黃飛

?