“Google 最新的 AI Agent 通過融合大語言模型創(chuàng)造力與自動評估器 推動數(shù)學(xué)與計算領(lǐng)域算法進化。”
大語言模型(LLMs)具有驚人的多功能性。它們能夠總結(jié)文檔、生成代碼,甚至構(gòu)思創(chuàng)新理念。如今,Google 進一步擴展這些能力,將其應(yīng)用于解決數(shù)學(xué)基礎(chǔ)領(lǐng)域和現(xiàn)代計算中高度復(fù)雜的難題。
AlphaEvolve 是一款由大語言模型驅(qū)動的進化式編程代理,致力于通用算法的發(fā)現(xiàn)與優(yōu)化。該平臺將 Gemini 模型的創(chuàng)造性問題解決能力與驗證答案的自動評估系統(tǒng)相結(jié)合,并通過進化框架持續(xù)優(yōu)化最具潛力的解決方案。
AlphaEvolve 已成功提升谷歌數(shù)據(jù)中心運營效率、芯片設(shè)計流程及 AI 訓(xùn)練系統(tǒng)性能,包括支撐 AlphaEvolve 本身的大語言模型訓(xùn)練。該平臺還助力開發(fā)更高效的矩陣乘法算法,并為數(shù)學(xué)開放性問題提供創(chuàng)新解法,展現(xiàn)出跨領(lǐng)域應(yīng)用的非凡潛力。
使用 LLM 設(shè)計更好的算法
2023年,Google 首次證實大語言模型能夠生成計算機代碼函數(shù),助力在開放性科學(xué)問題上發(fā)現(xiàn)可驗證的新知識。AlphaEvolve 作為智能代理,其能力已突破單一函數(shù)發(fā)現(xiàn)的局限,能夠?qū)崿F(xiàn)完整代碼庫的進化,并開發(fā)復(fù)雜度顯著提升的算法體系。
AlphaEvolve整合了多款尖端大語言模型:速度最快、效率最優(yōu)的 Gemini Flash 模型負責(zé)最大限度拓展創(chuàng)意探索的廣度,而性能最強的 Gemini Pro 模型則通過深度洞察提供關(guān)鍵優(yōu)化建議。兩大模型協(xié)同工作,共同生成實現(xiàn)算法解決方案的計算機程序。
提示采樣器首先為語言模型構(gòu)建提示指令,隨后模型生成新程序。這些程序經(jīng)評估器驗證后存入程序數(shù)據(jù)庫。該數(shù)據(jù)庫運行進化算法,決定哪些程序?qū)⒂糜诤罄m(xù)提示生成
AlphaEvolve 通過自動化評估指標(biāo)對建議程序進行驗證、運行與評分。這些指標(biāo)為每個解決方案的準(zhǔn)確性與質(zhì)量提供客觀可量化的評估。這種特性使其在數(shù)學(xué)、計算機科學(xué)等能夠進行清晰系統(tǒng)化衡量進展的領(lǐng)域展現(xiàn)獨特優(yōu)勢。
優(yōu)化計算生態(tài)
過去一年間,Google 在 AlphaEvolve 平臺發(fā)現(xiàn)的新型算法整合部署于谷歌計算生態(tài)的各個環(huán)節(jié),涵蓋數(shù)據(jù)中心、硬件架構(gòu)與軟件開發(fā)。每一項改進的效能通過我們的AI與計算基礎(chǔ)設(shè)施進行指數(shù)級放大,旨在為全球用戶構(gòu)建更強效且可持續(xù)發(fā)展的數(shù)字化生態(tài)系統(tǒng)。
示意圖展示AlphaEvolve如何助力谷歌實現(xiàn)更高效的數(shù)字化生態(tài),包括數(shù)據(jù)中心調(diào)度優(yōu)化、硬件系統(tǒng)設(shè)計革新及AI模型訓(xùn)練升級。
數(shù)據(jù)中心調(diào)度優(yōu)化
AlphaEvolve 發(fā)現(xiàn)了一種簡潔高效的啟發(fā)式算法,助力 Borg 系統(tǒng)更高效協(xié)調(diào)谷歌超大規(guī)模數(shù)據(jù)中心集群。該方案已穩(wěn)定運行逾一年,平均持續(xù)回收谷歌全球計算資源的 0.7%。這種持久的效率提升意味著在同等算力規(guī)模下,系統(tǒng)可完成更多任務(wù)。該方案不僅性能卓越,更具備人類可讀代碼的核心運維優(yōu)勢:良好的可解釋性、易調(diào)試性、可預(yù)測性及便捷部署特性。
助力硬件設(shè)計(Verilog)
在矩陣乘法核心優(yōu)化電路設(shè)計中,AlphaEvolve 提出 Verilog 重寫方案,成功剔除冗余邏輯單元。關(guān)鍵突破在于,該方案通過了嚴格的驗證流程,確保修改后電路功能完整性。這項創(chuàng)新已被集成至新一代張量處理單元(TPU):谷歌自主研發(fā)的AI加速芯片。通過使用芯片設(shè)計標(biāo)準(zhǔn)語言提出優(yōu)化建議,AlphaEvolve 開創(chuàng)了 AI 與硬件工程師協(xié)同創(chuàng)新的新模式,有力推進專用芯片研發(fā)進程。
強化AI訓(xùn)練與推理
AlphaEvolve 顯著提升 AI 性能與研發(fā)效率。通過智能劃分大型矩陣運算為可管理子問題,該平臺將 Gemini 架構(gòu)核心運算速度提升23%,對應(yīng)縮短1%模型訓(xùn)練時間。鑒于生成式 AI 訓(xùn)練所需龐大算力,每項效率突破都將轉(zhuǎn)化為顯著成本節(jié)約。除性能提升外,AlphaEvolve 將核心優(yōu)化所需工程時間從專家數(shù)周工作量壓縮至自動化實驗數(shù)日周期,大幅加速研究迭代速度。
在 GPU 底層指令優(yōu)化層面,AlphaEvolve 展現(xiàn)出突破性能力。該領(lǐng)域通常由編譯器深度優(yōu)化,工程師鮮少直接修改。通過優(yōu)化 Transformer 架構(gòu)中 FlashAttention 核心實現(xiàn),AlphaEvolve 取得高達 32.5% 的速度提升。此類優(yōu)化不僅幫助專家定位性能瓶頸,更便于將改進方案集成至代碼庫,有效提升開發(fā)效率并實現(xiàn)算力與能源的持續(xù)優(yōu)化。
數(shù)學(xué)前沿與算法發(fā)現(xiàn)突破
AlphaEvolve 在復(fù)雜數(shù)學(xué)問題上展現(xiàn)出創(chuàng)新求解能力?;诮o定的程序代碼框架,該平臺自主設(shè)計了新型梯度優(yōu)化流程的多個組件,成功發(fā)現(xiàn)計算機科學(xué)基礎(chǔ)問題:矩陣乘法的多個新算法。這種創(chuàng)新范式為算法發(fā)現(xiàn)領(lǐng)域開辟了嶄新路徑。
列表展示AlphaEvolve為加速矩陣乘法算法提出的多維度改進方案。該案例中,平臺針對優(yōu)化器與權(quán)重初始化模塊、損失函數(shù)及超參數(shù)掃描機制提出系統(tǒng)性改造方案,涉及15項關(guān)鍵進化步驟的深度調(diào)整。
AlphaEvolve 成功開發(fā)出 4×4 復(fù)值矩陣乘法新算法,僅需 48 次標(biāo)量乘法運算,超越 1969 年 Strassen 算法在此領(lǐng)域的長期最優(yōu)紀(jì)錄。這一突破標(biāo)志著相較于專攻矩陣乘法的前代系統(tǒng) AlphaTensor 的重大進步:后者在 4×4 矩陣領(lǐng)域僅實現(xiàn)二進制算術(shù)的局部優(yōu)化。
為評估系統(tǒng)普適性,我們在數(shù)學(xué)分析、幾何學(xué)、組合數(shù)學(xué)與數(shù)論領(lǐng)域選取 50 余個開放性問題進行驗證。得益于平臺的高度靈活性,多數(shù)實驗配置可在數(shù)小時內(nèi)完成。經(jīng)測試,約 75% 案例成功復(fù)現(xiàn)當(dāng)前學(xué)界最優(yōu)解(基于現(xiàn)有公開知識體系)。
約 20% 案例實現(xiàn)已知最優(yōu)解的超越,推動相關(guān)開放問題研究進程。典型案例如"接吻數(shù)問題",這個困擾數(shù)學(xué)家三百余年的幾何難題,探討單位球體周圍可容納的最大非重疊外圍球體數(shù)量。AlphaEvolve 成功構(gòu)建含 593個 外圍球體的空間配置,在 11 維空間中確立新的下限紀(jì)錄。
發(fā)展路徑展望
AlphaEvolve 展現(xiàn)了從特定領(lǐng)域算法發(fā)現(xiàn)到應(yīng)對復(fù)雜現(xiàn)實挑戰(zhàn)的系統(tǒng)進化能力。隨著大語言模型編碼能力的持續(xù)突破,特別是代碼生成水平的提升,我們預(yù)期該平臺將實現(xiàn)更顯著的性能躍升。
與人機協(xié)作研究團隊(PAIR)合作,我們正構(gòu)建直觀的 AlphaEvolve 交互界面。計劃啟動精選學(xué)術(shù)用戶的早期體驗計劃,同時探索更廣泛的應(yīng)用場景。
雖然當(dāng)前主要應(yīng)用于數(shù)學(xué)與計算領(lǐng)域,但其通用架構(gòu)支持所有算法化解決方案的自動化驗證場景。我們預(yù)見 AlphaEvolve 將在材料科學(xué)、藥物研發(fā)、可持續(xù)發(fā)展等更多領(lǐng)域引發(fā)革命性突破,拓展技術(shù)與商業(yè)創(chuàng)新的邊界。
-
Gemini
+關(guān)注
關(guān)注
0文章
70瀏覽量
8068 -
算法
+關(guān)注
關(guān)注
23文章
4740瀏覽量
96726 -
編程
+關(guān)注
關(guān)注
89文章
3704瀏覽量
96269 -
Agent
+關(guān)注
關(guān)注
0文章
154瀏覽量
28376 -
KiCAD
+關(guān)注
關(guān)注
5文章
297瀏覽量
9958
發(fā)布評論請先 登錄
AlphaEvolve有望革新AI玩具芯片設(shè)計,算法進化驅(qū)動能效與成本雙突破
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗】+Agent開發(fā)平臺
RT8482是一款電流模式PWM控制器,設(shè)計用于驅(qū)動外部MOSFET,用于高電流LED應(yīng)用
介紹一款多功能編程器
一款支持Lua編程的RTOS
分享一款高速人臉檢測算法
基于遺傳算法的多agent聯(lián)盟的生成
一款用于Windows的開源反rookit (ARK)工具

評論