緩存就是臨時文件互換區，是可以開展高速數據交換的存儲器，它先于內存與CPU互換統計數據，因而速度很快。如今以便加速客戶查詢的響應速度，緩存基本上變成百度搜索引擎的標準配置。搜索引擎會把一些客戶常常檢索的關鍵詞的搜索放進到緩存中，那樣當該關鍵詞再度被搜索時，就可以立即從內存中讀取搜索結果，而無須再從索引庫中開展再次查找和排行。緩存體制的導入，不但加速了搜索引擎對用戶搜索的反應速度，也降低了搜索引擎對數據的反復測算。
用戶的搜索請求中，少數查詢詞占了查詢總數量的相當大的占比，而大部分查詢詞單獨出現的頻次都很少，類似長尾理論。因而搜索引擎把用戶常常查尋的“少量”關鍵詞的搜索結果儲放于緩存中，就可以解決大部分用戶的搜索請求了。整個搜索引擎的緩存體制中還會涉及到緩存淘汰和緩存更新體制。
由于搜索引擎的緩存也并不是無限的，毫無疑問也有載滿的時候，這時就必須有效的淘汰體制，把應用頻率小的搜索去除，填補進來應用頻率大的搜索結果，來確保緩存文件中的內容可以響應及命中當下盡量多的用戶搜索請求。同時網頁和索引庫中的文檔內容隨之時間的轉變也會進而變化，以便促使緩存中的結果和網頁同步，這時就必須有效的緩存更新體制。
這解釋一下緩存更換體制：百度搜索引擎以便節約資源，并不是對緩存中的內容開展實時更新，只是會挑選在深夜等搜索請求較為少的時間范圍開展更新緩存，因此用戶在不一樣時間搜索相同關鍵詞獲得的結果將會是不一樣的，可是通常在較短期內的反復搜索會獲得同樣的搜索。如今的搜素引擎會分析搜索關鍵詞的特性，并依據搜索關鍵詞的特性調節緩存的更新頻率，例如，如今百度搜索的“最新基本信息”“最新有關微博”等實用性搜索的緩存更新頻率和一般詞緩存更新的頻率毫無疑問是不一樣的。必須表明的是，如今大型搜索引擎的緩存并不是簡單地直接緩存文件關鍵詞的搜索結果，而是有著很繁雜的緩存結構和統計數據，通常是多級結構的，一起提高百度搜索引擎的響應速度和緩存數據的命中率范疇。
