資料介紹
權(quán)值和激活二值化是一種有效的深層神經(jīng)網(wǎng)絡(luò)壓縮方法,可以利用位運算加速推理。盡管許多二值化方法通過最小化前向傳播中的量化誤差來提高模型的精度,但二值化模型與全精度模型之間仍存在明顯的性能差距。我們的實證研究表明,量化在正向和反向傳播中都會帶來信息損失,這是訓(xùn)練精確二元神經(jīng)網(wǎng)絡(luò)的瓶頸。為了解決這些問題,我們提出了一個信息保留網(wǎng)絡(luò)(IR Net)來保留前向激活和后向梯度中的信息。紅外網(wǎng)絡(luò)主要依靠兩個方面的技術(shù)貢獻:(1)Libra參數(shù)二值化(Libra-PB):在前向傳播中通過平衡和標準化的權(quán)值同時最小化量化誤差和參數(shù)的信息損失;(2) 誤差衰減估計器(EDE):通過逐步逼近反向傳播中的符號函數(shù),同時考慮梯度的更新能力和精確性,使梯度的信息損失最小化。我們首次從統(tǒng)一信息的角度研究了二進制網(wǎng)絡(luò)的前向和后向過程,這為網(wǎng)絡(luò)二值化機制提供了新的視角。在CIFAR-10和ImageNet數(shù)據(jù)集上進行的各種網(wǎng)絡(luò)結(jié)構(gòu)的綜合實驗表明,所提出的IR網(wǎng)絡(luò)能夠始終優(yōu)于最新的量化方法。
- GBT 9374-2012 聲音廣播接收機基本參數(shù) 0次下載
- 基于Arduino的FM調(diào)頻收音機 17次下載
- 調(diào)頻收音機開源分享
- 使用TEF6686調(diào)諧器制作超級收音機
- 電子管收音機懷舊系列(6) 古典調(diào)頻調(diào)幅收音機.pdf 32次下載
- 自制簡易電子管調(diào)頻收音機教程 63次下載
- 數(shù)字式調(diào)頻收音機設(shè)計
- RDA5807M單片廣播調(diào)頻收音機調(diào)諧器的數(shù)據(jù)手冊免費下載 70次下載
- 調(diào)頻收音機的設(shè)計與實現(xiàn)(詳解) 90次下載
- 德勁DE15數(shù)字調(diào)諧全波動收音機說明書 12次下載
- 收音機調(diào)頻(FM)發(fā)射機的小制作 0次下載
- 礦石收音機原理_馮報本 0次下載
- 調(diào)頻立體聲收音機
- AM-FM調(diào)諧器
- 調(diào)頻調(diào)幅單片收音機電路
- 收音機全波段的還是調(diào)頻的好 2023次閱讀
- DVB-H便攜式陸地廣播調(diào)諧器MAX2165 1255次閱讀
- 衛(wèi)星收音機與普通收音機區(qū)別 9002次閱讀
- 新型調(diào)頻收音機鑒頻器電路設(shè)計 1w次閱讀
- 硅調(diào)諧器設(shè)計的制約因素 2139次閱讀
- 電子管調(diào)頻收音機的簡單制作 3.3w次閱讀
- 礦石收音機工作原理及制作 5w次閱讀
- 多功能收音機制作方法 7271次閱讀
- 如何用FM調(diào)頻頭制作一個調(diào)頻收音機? 1.7w次閱讀
- 數(shù)字調(diào)諧收音機是什么?數(shù)字調(diào)諧收音機原理分析 2w次閱讀
- 全波段收音機是什么?全波段數(shù)字調(diào)諧收音機原理分析 2.4w次閱讀
- 半導(dǎo)體收音機實物電路圖大全(六款檢波電路/六管收音機/調(diào)諧指示電路) 4.4w次閱讀
- 為什么叫半導(dǎo)體收音機_半導(dǎo)體收音機是什么時候出現(xiàn)的 4.5w次閱讀
- 礦石收音機電路圖大全(七款礦石收音機電路圖) 24.6w次閱讀
- 收音機定時器設(shè)計制作 5997次閱讀
下載排行
本周
- 1TC358743XBG評估板參考手冊
- 1.36 MB | 330次下載 | 免費
- 2開關(guān)電源基礎(chǔ)知識
- 5.73 MB | 11次下載 | 免費
- 3嵌入式linux-聊天程序設(shè)計
- 0.60 MB | 3次下載 | 免費
- 4DIY動手組裝LED電子顯示屏
- 0.98 MB | 3次下載 | 免費
- 5基于FPGA的C8051F單片機開發(fā)板設(shè)計
- 0.70 MB | 2次下載 | 免費
- 651單片機窗簾控制器仿真程序
- 1.93 MB | 2次下載 | 免費
- 751單片機大棚環(huán)境控制器仿真程序
- 1.10 MB | 2次下載 | 免費
- 8基于51單片機的RGB調(diào)色燈程序仿真
- 0.86 MB | 2次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 2555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33566次下載 | 免費
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費
- 4開關(guān)電源設(shè)計實例指南
- 未知 | 21549次下載 | 免費
- 5電氣工程師手冊免費下載(新編第二版pdf電子書)
- 0.00 MB | 15349次下載 | 免費
- 6數(shù)字電路基礎(chǔ)pdf(下載)
- 未知 | 13750次下載 | 免費
- 7電子制作實例集錦 下載
- 未知 | 8113次下載 | 免費
- 8《LED驅(qū)動電路設(shè)計》 溫德爾著
- 0.00 MB | 6656次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537798次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420027次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191186次下載 | 免費
- 7十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183279次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138040次下載 | 免費
評論