資料介紹
軟件簡介
Facebook 開源了 FBGEMM,一個針對服務器推理優(yōu)化的高性能核心庫。 與其他庫不同,F(xiàn)BGEMM 最大程度優(yōu)化了 CPU 性能,通過降低精度計算來加速深度學習模型。 目前 Facebook 已經(jīng)在自己的服務中使用該庫,與目前的生產(chǎn)基準相比,它帶來了兩倍的性能提升。
FBGEMM 的最大特點是優(yōu)化低精度數(shù)據(jù)。 與科學計算中使用的傳統(tǒng)線性代數(shù)庫不同,F(xiàn)BGEMM 不使用 FP32 或 FP64 精度,可以為小批量提供有效的低精度通用矩陣乘法(GEMM)運算,并支持精確損失最小化技術(shù),例如行式(Row-wise)量化和異常值感知量化。
FBGEMM 已在 Facebook 上大規(guī)模部署,加速了許多端到端人工智能服務,包括將英語翻譯成西班牙語的速度提高 1.3 倍,減少了 40% 的推薦系統(tǒng)信息源動態(tài)內(nèi)存帶寬的使用 ,并將機器學習系統(tǒng) Rosetta 的字符檢測速度提升2.4倍(Rosetta 是 Facebook 用來理解文本,圖像和視頻內(nèi)容的系統(tǒng)。)
- 差分晶振在AI服務器中的應用案例
- TCP通信服務器端和客戶端同機互傳的簡單示例程序免費下載 9次下載
- Java程序設計教程之Java WEB服務器端編程的詳細資料說明 11次下載
- 網(wǎng)絡調(diào)試和串口調(diào)試集合UDP TCP客戶端和TCP服務器端應用程序免費下載 16次下載
- 基于netlink的linux服務器集群統(tǒng)一外設事件監(jiān)聽機制 6次下載
- 機載航電系統(tǒng)地面試驗模擬器服務器端的研究與實現(xiàn)_沈科宇 0次下載
- 波浪浮標服務器端軟件設計_吳子岳 0次下載
- VC++程序開發(fā)范例寶典之StdAfx服務器端 2次下載
- VC++程序開發(fā)范例寶典之StdAfx服務器端 3次下載
- JAVA教程之TCP服務器端 10次下載
- Delphi教程之建立數(shù)據(jù)查詢WebServices服務器端 6次下載
- 標準服務器簡化WAN優(yōu)化 0次下載
- 淘寶商品推廣系統(tǒng)服務器端軟件的設計與實現(xiàn) 12次下載
- VOD視頻服務器測試與配置優(yōu)化研究 31次下載
- 服務器端腳本與動態(tài)網(wǎng)頁設計,下載 0次下載
- 如何找到連接到服務器的客戶端計算機的IP地址 1727次閱讀
- 使用推理服務器加速大型Transformer模型的推理 1392次閱讀
- 在服務器端使用內(nèi)存來存儲客戶端發(fā)送過來的數(shù)據(jù) 1199次閱讀
- 數(shù)據(jù)是怎么樣保證準確的從客戶端發(fā)送到服務器端 2123次閱讀
- Merlin HugeCTR 分級參數(shù)服務器簡介 1551次閱讀
- 常見的服務器有哪些?5款常見的應用服務器介紹 1.5w次閱讀
- 如何管理刀片服務器?普通服務器與高防服務器有什么樣的區(qū)別 1509次閱讀
- 在RDMA網(wǎng)絡中如何合理設置MMU水線,解決服務器端數(shù)據(jù)延遲問題 3648次閱讀
- 服務器端模式下的TCP通信 4572次閱讀
- 服務器端發(fā)票識別api接口 2686次閱讀
- TCP實現(xiàn)服務器與客戶端的通信流程實例 1.2w次閱讀
- 串口服務器工作原理及使用方法 1w次閱讀
- 應用服務器和數(shù)據(jù)庫服務器有什么區(qū)別 1.8w次閱讀
- 應用服務器和數(shù)據(jù)庫服務器怎么連接 2.8w次閱讀
- 基于LBS的Android校園服務APP客戶端的設計 3644次閱讀
下載排行
本周
- 1NS1081/NS1081S/NS1081Q USB 3.0閃存數(shù)據(jù)手冊
- 0.40 MB | 4次下載 | 2 積分
- 2光伏并網(wǎng)逆變器原理
- 7.31 MB | 3次下載 | 2 積分
- 3T20電烙鐵原理圖資料
- 0.27 MB | 2次下載 | 免費
- 4PL83081 雙路恒流同步降壓轉(zhuǎn)換器技術(shù)手冊
- 3.34 MB | 1次下載 | 免費
- 5PL88052 4.8V至60V輸入,5A,同步降壓轉(zhuǎn)換器技術(shù)手冊
- 3.36 MB | 1次下載 | 免費
- 6LX8201微孔霧化驅(qū)動芯片電路圖資料
- 0.15 MB | 1次下載 | 免費
- 7PC6200_7V直流電機驅(qū)動器技術(shù)手冊
- 0.47 MB | 次下載 | 免費
- 8恒溫晶體振蕩器(OCXO)FOC-2D:20.6×20.6mm在通信基站和測試設備中的應用參數(shù)規(guī)格
- 485.75 KB | 次下載 | 免費
本月
- 1如何看懂電子電路圖
- 12.88 MB | 329次下載 | 免費
- 2RK3588數(shù)據(jù)手冊
- 2.24 MB | 14次下載 | 免費
- 3PC5502負載均流控制電路數(shù)據(jù)手冊
- 1.63 MB | 12次下載 | 免費
- 4STM32F10x參考手冊資料
- 13.64 MB | 12次下載 | 1 積分
- 5OAH0428 V1.0英文規(guī)格書
- 5.86 MB | 8次下載 | 免費
- 6NS1081/NS1081S/NS1081Q USB 3.0閃存數(shù)據(jù)手冊
- 0.40 MB | 4次下載 | 2 積分
- 7PID控制算法學習筆記資料
- 3.43 MB | 3次下載 | 2 積分
- 8光伏并網(wǎng)逆變器原理
- 7.31 MB | 3次下載 | 2 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935132次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設計
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費下載
- 340992 | 191415次下載 | 10 積分
- 5十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183349次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81599次下載 | 10 積分
- 7Keil工具MDK-Arm免費下載
- 0.02 MB | 73818次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65990次下載 | 10 積分
評論