数据可以存放在CPU或者内存中。CPU处理速度快，但是容量少；内存容量大，但是转交给CPU处理的速度慢。为此，需要Cache来做一个折中。将最有可能调用数据先从内存Cache，CPU再从Cache读取数据，这样会快许多。然而，Cache中所存放的数据不是全部有用的。CPU从Cache中读取到有用数据称为“命中”。

由于主存中的块Cache中的块多，所以当要从主存中调一个块到Cache中时，会出现该块所映射到的一组（或一个）Cache块已全部被占用的情况。此时，需要被迫腾出其中的某一块，以接纳新调入的块，这就是替换。

Cache替换算法有随机（RAND）算法、先进先出（FIFO）算法、近期最少使用（LRU）算法、最优替换（OPT）算法和近期最少使用（LFU）算法。