
【ハードウェア】2.3 記憶階層
1. はじめに:速さと容量のトレードオフ
「爆速で動くけど、値段が高くて少ししか保存できない記憶装置」と、
「遅いけど、めちゃくちゃ安くて無限に保存できる記憶装置」。
どちらか一つしか選べないとしたら、困りますよね?
だからコンピュータは、「特徴の違う記憶装置を全部使う」 という作戦をとっています。
これを記憶階層(メモリヒエラルキー)と呼びます。
2. 記憶階層のピラミッド(机の広さ理論)

コンピュータの記憶の仕組みは、よく図書館での勉強に例えられます。
超高速
実際の名称: レジスタ (CPU内部)
アナロジー: 手元(手に持っているペンや紙)
特徴: 瞬時に使えるが、持てる量は極小。
高速
実際の名称: キャッシュメモリ (L1/L2キャッシュ)
アナロジー: 机の上(今開いている参考書)
特徴: すぐ見れる。机の広さには限りがある。
中速
実際の名称: 主記憶 (メモリ) (DRAM)
アナロジー: 書棚(部屋にある本棚)
特徴: 机よりは遠いが、沢山置ける。取りに行くのに数秒かかる。
低速
実際の名称: 補助記憶 (HDD / SSD)
アナロジー: 図書館の書庫
特徴: 部屋を出て取りに行く必要がある。超大量に保管できるが、遠い。
CPU(脳)の視点
CPUは基本的に「手元(レジスタ)」か「机の上(キャッシュ)」にあるデータしか計算に使えません。
もし必要なデータが机の上になければ、本棚(メモリ)まで取りに行く必要があります。
さらに本棚にもなければ、図書館(補助記憶)まで行かなければなりません。
CPUにとって、この「取りに行く時間」は永遠のように長い待ち時間になります。
3. キャッシュヒット率
「机の上(キャッシュ)」に、必要な参考書が置いてある確率をキャッシュヒット率と言います。
この確率が高ければ高いほど、CPUは席を立たずに勉強に集中でき、PCはサクサク動きます。
逆に、必要なデータが毎回メモリやHDDにある状態(キャッシュミス)が続くと、CPUは「待ちぼうけ」ばかりになり、性能がガタ落ちします。
💡 TIP 実務での活用
データベースのパフォーマンスチューニングなどは、結局のところ「いかによく使うデータをメモリ(キャッシュ)に乗せておくか(ディスクへのアクセスを減らすか)」という戦いであることが多いです。
「キャッシュメモリ」の概念は、ハードウェアだけでなくWebシステム全体の高速化においても最重要キーワードです。
4. 演習:アクセス時間の体感
Q1. 時間感覚のズレ
CPUのクロック(処理サイクル)を「1秒」の感覚だと仮定しましょう。
それぞれの場所にデータを取りに行くのにかかる時間は、人間感覚だとどれくらいになるでしょうか?
(※大まかな比喩です)
レジスタ (CPU): 1秒
主記憶 (メモリ): 〇〇分?
補助記憶 (HDD): 〇〇ヶ月?
・
・
・
▼ 解答と解説
答えの目安
レジスタ: 0.3ナノ秒 → 1秒
主記憶 (メモリ): 10〜100ナノ秒 → 数分(コーヒーを淹れに行くくらい)
SSD: マイクロ秒単位 → 数日〜数週間
HDD: ミリ秒単位 → 数ヶ月〜数年(地球の裏側まで船で行くくらい)
「HDDのアクセスランプが点灯している間、PCが固まる」理由がわかりましたか?
CPUにとって、HDDからのデータ到着を待つのは、数ヶ月待たされるのと同じくらいの退屈な時間なのです。
だからこそ、メモリ(DRAM)やSSDの速度が体感性能に直結するのです。