存儲(chǔ)系統(tǒng)的層次化結(jié)構(gòu)可以分為5級(jí):寄存器組、高速緩存Cache、主存、虛擬存儲(chǔ)器和外部存儲(chǔ)器。其中，寄存器組總是在CPU內(nèi)部，程序員可通過寄存器名訪問，無總線操作，訪問速度最快；其余4級(jí)均在CPU外部，Cache和主存構(gòu)成內(nèi)存儲(chǔ)系統(tǒng)，程序員通過總線尋址訪問存儲(chǔ)單元，訪問速度較寄存器差；虛擬存儲(chǔ)器對程序員而言是透明的 ；外部存儲(chǔ)系統(tǒng)容量大，需通過I/O接口與CPU交換數(shù)據(jù)，訪問速度最慢。

高速緩沖存儲(chǔ)器
高速緩沖存儲(chǔ)器（Cache）的原始意義是指存取速度比一般隨機(jī)存取存儲(chǔ)器（RAM）更快的一種RAM，一般而言，它不像系統(tǒng)主存那樣使用動(dòng)態(tài)隨機(jī)存儲(chǔ)器（DRAM）技術(shù)，而是使用昂貴但較快速的靜態(tài)隨機(jī)存儲(chǔ)器（SRAM）技術(shù)。
高速緩沖存儲(chǔ)器是介于主存與CPU之間的一級(jí)存儲(chǔ)器，由靜態(tài)存儲(chǔ)芯片（SRAM）組成，容量較小但速度比主存快得多，其最重要的指標(biāo)是它的命中率。高速緩沖存儲(chǔ)器與主存儲(chǔ)器之間信息的調(diào)度和傳送是由硬件自動(dòng)進(jìn)行的。
組成結(jié)構(gòu)
高速緩沖存儲(chǔ)器主要由以下三大部分組成：
Cache存儲(chǔ)體：存放由主存調(diào)入的指令與數(shù)據(jù)。
地址轉(zhuǎn)換部件：建立目錄表以實(shí)現(xiàn)主存地址到緩存地址的轉(zhuǎn)換。
置換部件：在緩存已滿時(shí)按一定策略進(jìn)行數(shù)據(jù)替換，并修改地址轉(zhuǎn)換部件中的目錄表。
工作原理
高速緩沖存儲(chǔ)器通常由高速存儲(chǔ)器、聯(lián)想存儲(chǔ)器、置換邏輯電路和相應(yīng)的控制線路組成。在有高速緩沖存儲(chǔ)器的計(jì)算機(jī)系統(tǒng)中，處理器存取主存儲(chǔ)器的地址劃分為行號(hào)、列號(hào)和組內(nèi)地址三個(gè)字段。于是，主存儲(chǔ)器就在邏輯上劃分為若干行：每行劃分為若干的存儲(chǔ)單元組；每組包含幾個(gè)或幾十個(gè)字。高速存儲(chǔ)器也相應(yīng)地劃分為行和列的存儲(chǔ)單元組。二者的列數(shù)相同，組的大小也相同，但高速存儲(chǔ)器的行數(shù)卻比主存儲(chǔ)器的行數(shù)少得多。
聯(lián)想存儲(chǔ)器用于地址聯(lián)想，有與高速存儲(chǔ)器相同行數(shù)和列數(shù)的存儲(chǔ)單元。當(dāng)主存儲(chǔ)器某一列某一行存儲(chǔ)單元組調(diào)入高速存儲(chǔ)器同一列某一空著的存儲(chǔ)單元組時(shí)，與聯(lián)想存儲(chǔ)器對應(yīng)位置的存儲(chǔ)單元就記錄調(diào)入的存儲(chǔ)單元組在主存儲(chǔ)器中的行號(hào)。
當(dāng)處理器存取主存儲(chǔ)器時(shí)，硬件首先自動(dòng)對存取地址的列號(hào)字段進(jìn)行譯碼，以便將聯(lián)想存儲(chǔ)器該列的全部行號(hào)與存取主存儲(chǔ)器地址的行號(hào)字段進(jìn)行比較。若有相同的，表明要存取的主存儲(chǔ)器單元已在高速存儲(chǔ)器中，稱為命中，硬件就將存取主存儲(chǔ)器的地址映射為高速存儲(chǔ)器的地址并執(zhí)行存取操作；若都不相同，則表明該單元不在高速存儲(chǔ)器中，稱為失效，硬件將執(zhí)行存取主存儲(chǔ)器操作并自動(dòng)將該單元所在的那一主存儲(chǔ)器單元組調(diào)入高速存儲(chǔ)器相同列中空著的存儲(chǔ)單元組中，同時(shí)將該組在主存儲(chǔ)器中的行號(hào)存入聯(lián)想存儲(chǔ)器對應(yīng)位置的單元內(nèi)。
當(dāng)出現(xiàn)失效而高速存儲(chǔ)器對應(yīng)列中沒有空的位置時(shí)，便淘汰該列中的某一組以騰出位置存放新調(diào)入的組，這稱為置換。確定替換的規(guī)則稱為置換算法，常用的置換算法有最近最久未使用算法（LRU）、先進(jìn)先出法（FIFO）和隨機(jī)法（RAND）等。置換邏輯電路就是執(zhí)行這個(gè)功能的。另外，當(dāng)執(zhí)行寫主存儲(chǔ)器操作時(shí)，為保持主存儲(chǔ)器和高速存儲(chǔ)器內(nèi)容的一致性，對命中和失效分別進(jìn)行處理。

審核編輯：符乾江