通过层次组织数据随着组织层次递减对各层次访问比例也依次递减让第二级存储器包含所有指令和数据程序当前访问"簇"暂时存放第级存储器有时第级缓存储器某簇要换出第二级存储器便新"簇"进入第级存储器让出空间平均起来大多数存储访问对第级存储器指令和数据访问
此原理应用于多级存储器组织结构快、小和贵存储器类型由位于处理器内部寄存器组成典型情况下处理器包含多寄存器某些机器包含上百寄存器向下跳过两级存储器层次了主存储器主存储器计算机主要内部存储器系统准存储器每单元位置都有唯地址对应而且大多数机器指令会访问或多主存储器地址主存储器通常高速、容量较小高速缓冲存储器(cache)扩展高速缓冲存储器通常对程序员见或者对处理器见高速缓冲存储器用于主存储器和处理器寄存器之间分段移动数据提高数据方访问性能