現代電腦採用層次化的記憶體架構，在速度、容量和成本之間取得平衡：
| 層級 | 容量 | 延遲 | 技術 |
|---|---|---|---|
| 暫存器 | ~1 KB | 0 周期 | CPU 核心內 |
| L1 快取 | ~32 KB | 1-2 周期 | SRAM |
| L2 快取 | ~256 KB | 10-20 周期 | SRAM |
| L3 快取 | ~8 MB | 30-50 周期 | SRAM |
| 主記憶體 | GB 級 | 100+ 周期 | DRAM (DDR4/DDR5) |
| SSD | TB 級 | 微秒級 | NAND Flash |
| HDD | TB 級 | 毫秒級 | 機械 |
程式展現兩種局部性，使得層次化記憶體有效：
SRAM（靜態 RAM）使用正反器儲存位元，速度快但面積大，用於快取。DRAM（動態 RAM）使用電容儲存，密度高但需定期刷新，用於主記憶體。DDR SDRAM（雙倍資料率）是主流 DRAM 介面標準，從 DDR4 到 DDR5 頻寬持續提升。
記憶體控制器管理 CPU 與 DRAM 之間的資料傳輸，處理位址映射、行/列選通、時序參數設定。現代處理器多將記憶體控制器整合在 CPU 晶片內，降低延遲。