微軟推出ONNX Runtime Web，利用WebGPU優(yōu)化瀏覽器機器學習性能
3 月 5 日，據(jù)報道，微軟將 ONNX Runtime Web 與 WebGPU 進行集成，旨在提升網(wǎng)絡瀏覽器中復雜機器學習模型的運行效率。當前階段，Chromium 和 Edge 瀏覽器已加入初步支持。
作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網(wǎng)絡開發(fā)者能在瀏覽器環(huán)境下部署機器學習模型，并提供多種硬件加速的后端支持。
WebGPU 則是一種設計用于網(wǎng)絡瀏覽器的，為機器學習模型提供硬件加速的 API。在此前，因算力限制，復雜機器學習模型尤其是大規(guī)模生成模型無法在網(wǎng)頁瀏覽器中有效運行。如今，WebGPU 得以充分利用設備 GPU 的潛力來解決這一問題，大幅改善運行效果。
微軟指出：
借助計算著色器等創(chuàng)新技術，WebGPU 能夠更為高效地應對復雜機器學習工作負載。其對半精度（FP16）的支持，不僅降低 GPU 內存占用及帶寬需求，還提升運算速度。WebGPU 借助 GPU 并行處理的優(yōu)勢，輕松實現(xiàn)高效且具有擴展性的機器學習應用。
所有版本的 Chrome 113、Edge 113、適用于 Mac、Windows、ChromeOS 的 Chrome 以及適用于 Android 的 Chrome 121 均默認為WebGPU 做好準備，開發(fā)者可通過 ONNX Runtime Web 調用 WebGPU 以提高運行效率。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
微軟
+關注
關注
4文章
6719瀏覽量
107355 -
gpu
+關注
關注
28文章
5099瀏覽量
134471 -
模型
+關注
關注
1文章
3649瀏覽量
51716 -
機器學習
+關注
關注
66文章
8541瀏覽量
136236
發(fā)布評論請先 登錄
相關推薦
熱點推薦
Microsoft Edge瀏覽器iOS端插件功能上線
在最新發(fā)布的 139 版本中，Microsoft Edge 瀏覽器 iOS 端正式支持插件功能！與此同時，Microsoft Edge 安卓端的插件數(shù)量已躍升至近 30 款。廣告攔截、雙語翻譯、資源下載……你的手機瀏覽器，也能擁有自定義的「超能力」。
亞馬遜云科技推出Amazon Nova Act SDK預覽版，加速瀏覽器自動化Agent落地
北京2025年8月5日 /美通社/ --?亞馬遜云科技日前宣布，推出Amazon Nova Act SDK有限預覽版，可快速幫助客戶將基于瀏覽器的Agent從原型部署至生產環(huán)境。該SDK可與亞馬遜云
微軟Microsoft Edge瀏覽器構筑立體式安全防線
在信息爆炸的今天，釣魚網(wǎng)站、詐騙廣告、隱私追蹤層出不窮。Microsoft Edge 瀏覽器為桌面與移動端用戶構筑了立體式安全防線。用七大安全護盾，保護你的上網(wǎng)安全。
WEB組態(tài)物聯(lián)網(wǎng)平臺是什么？有什么功能？
WEB組態(tài)物聯(lián)網(wǎng)平臺是一種基于Web技術的物聯(lián)網(wǎng)（IoT）可視化管理與監(jiān)控平臺，它將 組態(tài)軟件 的靈活配置能力與 物聯(lián)網(wǎng)技術 的數(shù)據(jù)采集、傳輸、分析功能相結合，通過瀏覽器即可實現(xiàn)設備監(jiān)控、數(shù)據(jù)展示
鴻蒙5開發(fā)寶藏案例分享---Web開發(fā)優(yōu)化案例分享
先把它編譯成字節(jié)碼才能執(zhí)行。JS越大越復雜，編譯時間越長（官方例子：5.76MB JS編譯~2915ms!）。
妙招：
首次加載優(yōu)化 (V8 Code Cache)： 瀏覽器（如V8引擎）在第一次
發(fā)表于 06-12 17:20
老電視如何安裝瀏覽器？
2017年購買的夏普老電視，1.5G+8G存儲，網(wǎng)上下的瀏覽器APK文件在電視內打開就彈出“解析程序包出現(xiàn)問題”。
未知來源選項已打開，存儲空間清空到只剩下三個應用（只占用300M左右），基本可
發(fā)表于 06-01 18:57
edge瀏覽器識別 latex語法插件
默認的瀏覽器是沒有l(wèi)atex識別功能的，容易顯示為亂碼或者源碼，無法正常識別。本插件需要在瀏覽器的擴展程序菜單下安裝，能在edge下完美運行。本插件是免費插件。
發(fā)表于 03-17 18:03
?1次下載
「極速探索HarmonyOS NEXT 」閱讀體驗】+Web組件
web
web應用是基于 Web技術(如HTML、CSS、JavaScript)，構建在瀏覽器中運行的應用，亦稱為前端開發(fā)。從用戶視角來看，手機和平板上的應用多由原生開發(fā)打造;而通過
發(fā)表于 03-10 10:39
使用模型優(yōu)化器命令將ONNX模型轉換為OpenVINO? IR格式時出現(xiàn)“ReplacementID”錯誤怎么解決？
使用模型優(yōu)化器命令將 ONNX 模型轉換為 OpenVINO? IR 格式：
--input_model \"{onnx_path}
--input_shape [1,512, 89
發(fā)表于 03-05 09:41
E2000 Speedometer測試瀏覽器性能
E2000 Speedometer****測試瀏覽器性能
Version：V1.0
日期：2024-12-5
1、瀏覽器基準測試Speedometer
Speedometer是一款專為Web
發(fā)表于 01-10 21:33
華為云 Flexus 云服務器 X 實例之 openEuler 系統(tǒng)下部署 SQLite 數(shù)據(jù)庫瀏覽器 sqlite-web
的資源調度能力和全面的安全保障體系，F(xiàn)lexus 云服務器 X 實例已成為眾多中小企業(yè)和開發(fā)者青睞的選擇。本文將詳細介紹如何在華為云 Flexus 云服務器 X 實例上部署基于 openEuler 操作系統(tǒng)的 SQLite 數(shù)據(jù)庫，并使用先進的
2024年12月瀏覽器市場份額報告：谷歌Chrome穩(wěn)居榜首
%，彰顯了其作為全球最受歡迎的瀏覽器之一的強大實力。 緊隨其后的是蘋果Safari瀏覽器，憑借17.09%的市場份額位列第二。Safari瀏覽器憑借其在蘋果設備上的預裝優(yōu)勢，以及流暢的用戶體驗，贏得了大量用戶的青睞。 而
Web緩存的類型及功能分析
速度，降低了延遲，并提高了網(wǎng)站的可用性。 Web緩存的類型 Web緩存主要分為以下幾種類型： 瀏覽器緩存（Browser Cache） 功能 ：瀏覽器緩存是用戶計算機上的緩存，它存儲了
Chrome瀏覽器優(yōu)化Android性能，驍龍8至尊版表現(xiàn)突出
谷歌近日對Chrome瀏覽器的最新版本進行了重大更新，特別針對Android設備進行了性能優(yōu)化，特別是對于搭載驍龍8至尊版處理器的旗艦設備而言。 自Chrome M112版本以來，An
工商網(wǎng)監(jiān)
評論