3 月 5 日,據(jù)報(bào)道,微軟將 ONNX Runtime Web 與 WebGPU 進(jìn)行集成,旨在提升網(wǎng)絡(luò)瀏覽器中復(fù)雜機(jī)器學(xué)習(xí)模型的運(yùn)行效率。當(dāng)前階段,Chromium 和 Edge 瀏覽器已加入初步支持。
作為微軟的 JavaScript 庫(kù),ONNX Runtime Web 使得網(wǎng)絡(luò)開發(fā)者能在瀏覽器環(huán)境下部署機(jī)器學(xué)習(xí)模型,并提供多種硬件加速的后端支持。
WebGPU 則是一種設(shè)計(jì)用于網(wǎng)絡(luò)瀏覽器的,為機(jī)器學(xué)習(xí)模型提供硬件加速的 API。在此前,因算力限制,復(fù)雜機(jī)器學(xué)習(xí)模型尤其是大規(guī)模生成模型無法在網(wǎng)頁(yè)瀏覽器中有效運(yùn)行。如今,WebGPU 得以充分利用設(shè)備 GPU 的潛力來解決這一問題,大幅改善運(yùn)行效果。
微軟指出:
借助計(jì)算著色器等創(chuàng)新技術(shù),WebGPU 能夠更為高效地應(yīng)對(duì)復(fù)雜機(jī)器學(xué)習(xí)工作負(fù)載。其對(duì)半精度(FP16)的支持,不僅降低 GPU 內(nèi)存占用及帶寬需求,還提升運(yùn)算速度。WebGPU 借助 GPU 并行處理的優(yōu)勢(shì),輕松實(shí)現(xiàn)高效且具有擴(kuò)展性的機(jī)器學(xué)習(xí)應(yīng)用。
所有版本的 Chrome 113、Edge 113、適用于 Mac、Windows、ChromeOS 的 Chrome 以及適用于 Android 的 Chrome 121 均默認(rèn)為WebGPU 做好準(zhǔn)備,開發(fā)者可通過 ONNX Runtime Web 調(diào)用 WebGPU 以提高運(yùn)行效率。
-
微軟
+關(guān)注
關(guān)注
4文章
6705瀏覽量
106971 -
gpu
+關(guān)注
關(guān)注
28文章
5036瀏覽量
133748 -
模型
+關(guān)注
關(guān)注
1文章
3611瀏覽量
51435 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8528瀏覽量
135874
發(fā)布評(píng)論請(qǐng)先 登錄
亞馬遜云科技推出Amazon Nova Act SDK預(yù)覽版,加速瀏覽器自動(dòng)化Agent落地
鴻蒙5開發(fā)寶藏案例分享---Web開發(fā)優(yōu)化案例分享
老電視如何安裝瀏覽器?
edge瀏覽器識(shí)別 latex語(yǔ)法插件
「極速探索HarmonyOS NEXT 」閱讀體驗(yàn)】+Web組件
使用模型優(yōu)化器命令將ONNX模型轉(zhuǎn)換為OpenVINO? IR格式時(shí)出現(xiàn)“ReplacementID”錯(cuò)誤怎么解決?
E2000 Speedometer測(cè)試瀏覽器性能
華為云 Flexus 云服務(wù)器 X 實(shí)例之 openEuler 系統(tǒng)下部署 SQLite 數(shù)據(jù)庫(kù)瀏覽器 sqlite-web

2024年12月瀏覽器市場(chǎng)份額報(bào)告:谷歌Chrome穩(wěn)居榜首
Chrome瀏覽器優(yōu)化Android性能,驍龍8至尊版表現(xiàn)突出
HarmonyOS Web開發(fā)性能優(yōu)化指導(dǎo)
OpenAI醞釀創(chuàng)新:計(jì)劃開發(fā)集成聊天機(jī)器人的瀏覽器
AWTK 最新動(dòng)態(tài):支持瀏覽器控件

寫一個(gè)Chrome瀏覽器插件

評(píng)論