無論電子設(shè)備被吹捧為多么新、多么快速或高性能，在用戶的請求和設(shè)備的響應(yīng)之間總是存在輕微的、幾乎無法察覺的延遲。那就是內(nèi)存以 80% 或更低的效率工作。當(dāng)然，用戶仍然認為該設(shè)備速度極快，但工程組知道驅(qū)動該設(shè)備的片上系統(tǒng) （SoC） 設(shè)計的性能可能會更好——實際上要好得多。

處理器和內(nèi)存之間的高效、流線型通信是每個工程團隊的夢想。這一夢想被當(dāng)今 SoC 的高度集成特性所阻撓，它由許多不同的客戶端組成，每個客戶端都向內(nèi)存子系統(tǒng)生成不同類型的請求流，可能需要數(shù)百個時鐘周期的延遲才能訪問。即使是具有多線程能力的單個客戶端運行用于鏈表處理的指針追蹤代碼，也會產(chǎn)生隨機的客戶端請求流，并且似乎幾乎沒有引用位置。這使得無法從內(nèi)存子系統(tǒng)或與處理器的有效通信中獲得最佳性能。

所需要的是一種簡化的方式來收集和處理這些明顯隨機的請求信息，以創(chuàng)建一個虛擬的參考位置，以實現(xiàn)更好的決策和更高的效率。一項新技術(shù)——實際上是嵌入在 SoC 中的知識產(chǎn)權(quán) （IP） 塊——已準(zhǔn)備好做到這一點。它管理廣泛不同的請求流，以創(chuàng)建一個虛擬的參考位置，使請求看起來更線性。實施此類技術(shù)可提高內(nèi)存帶寬，并讓 SoC 從其內(nèi)存子系統(tǒng)中提取最佳性能。

不要與內(nèi)存調(diào)度程序混淆，IP 是一個內(nèi)存預(yù)取引擎，它通過將相似的請求組合在一起來與內(nèi)存調(diào)度程序一起工作。它分析來自客戶端的多個并發(fā)請求流，并確定哪些請求應(yīng)該優(yōu)化或預(yù)取，哪些不應(yīng)該。結(jié)果是高命中率和超低錯誤獲取率。

一旦客戶端請求被優(yōu)化，它就會存儲在請求優(yōu)化緩沖區(qū)（一個保存優(yōu)化客戶端請求的小型微緩存）中，直到客戶端需要它為止。緩沖區(qū)為多個客戶端接口中的任何一個提供非阻塞接口，以使峰值響應(yīng)帶寬超過內(nèi)存子系統(tǒng)的帶寬并減少平均內(nèi)存延遲。

支持 AXI 和 OCP 協(xié)議的多客戶端接口可以管理多達 16 個客戶端，由設(shè)計人員在配置技術(shù)時指定。配置工具將自動構(gòu)建指定數(shù)量的客戶端接口，每個接口獨立運行并能夠支持并發(fā)操作。這允許 IP 為從請求優(yōu)化緩沖區(qū)發(fā)出的任何響應(yīng)發(fā)出多個并發(fā)客戶端請求。因此，IP 提供的峰值突發(fā)帶寬比底層內(nèi)存子系統(tǒng)提供的更高?；鶞?zhǔn)測試顯示，IP 將讀取延遲從 71% 降低到 78%。

每個工程組的夢想是減少內(nèi)存的延遲，以提高 SoC 中實現(xiàn)的每個系統(tǒng)組件的性能，從而在不增加功耗的情況下實現(xiàn)更快的設(shè)計。所有電子設(shè)備都可以從改進的內(nèi)存子系統(tǒng)中受益，現(xiàn)在有一種使用 IP 塊的有效方法。不再落后！

審核編輯：郭婷