メインコンテンツへスキップ
見出し画像

【物理×投資 HBM編 vol.1】「NVIDIAを買えばいい」はもう終わった──AIの本当のボトルネックは"回転ずし職人の冷蔵庫"だ

    Tecih × 物理 × 投資 ── 原理を知る者だけが見える「本当の堀」


    📌 シリーズ「HBMの物理と投資」について
    このシリーズでは、AI半導体の「見えない独占インフラ」であるHBM(High Bandwidth Memory)を、物理の原理から全8回で解説する。

    NVIDIAのGPUが1枚500万円で売れる理由。
    その裏にある「物理的必然性」を理解すれば、GPUメーカーよりも静かで、GPUメーカーよりも堅固なMoat(参入障壁)を持つ企業が見えてくる。
    高度な物理の知識は不要だ。

    vol.1(本記事):NVIDIAを買った人の99%が見落としている──AIの本当のボトルネック
    vol.2:配線が2倍になると遅延は4倍──「RC遅延」を知らずにAI半導体株を語るな
    vol.3:チップに穴を開けて銅を通す──HBMの「三重制約」が生む模倣不可能な参入障壁
    vol.4:NVIDIAが1枚もGPUを出荷できなくなる日──TSMCのCoWoSという"見えない独占"
    vol.5:「半導体はいずれ安くなる」が通用しない──量子力学がHBMの価格を守っている
    vol.6:世界でたった3社──HBMの三国志を、物理とデータで読み解く vol.7:HBMが"過去の技術"になる日──光I/OとCXL、次の覇権を物理で予測する
    vol.8:AI相場の「岩盤」はどこにあるか──帯域・熱・応力を理解した者だけが打てる次の一手


    「NVIDIAを買えばいい」はもう終わった。

    2023年、NVIDIAの株価は1年で3倍になった。「AIが来る」と気づいた投資家はGPUに賭け、事実として報われた。
    だが、本当の意味でNVIDIAの参入障壁を理解している投資家はどのくらいいるだろうか。

    NVIDIAのB200というGPUは、1枚約500万円前後だ。世界中のデータセンターが争って買っている。
    では、そのB200がなぜ高い性能を出せるのかを、あなたは物理的に説明できるだろうか。

    正直、私もリサーチし、理解し、整理するまでは説明できなかった。
    その面倒な作業は私が引き受ける。

    皆さんは、 「なぜそれが強いのか」だけを原理から理解すればいい。

    価格の裏にある物理を知ったとき、 ニュースの見え方は変わる。

    このシリーズでは、「そもそもコンピュータの中で何が起きているのか」という最も基本的なところから始めて、NVIDIAよりも静かで、NVIDIAよりも強固なMoat(参入障壁)を持つ企業がどこにいるのかを、物理の原理から明らかにしていく。


    コンピュータは「計算する場所」と「記憶する場所」でできている

    最初に、コンピュータの中で何が起きているのかを、ごく簡単に確認しておきたい。難しい話ではない。

    コンピュータの中には、大きく分けて2つの場所がある。

    1つ目は「計算する場所」。CPUやGPUと呼ばれる部品だ。
    2つ目は
    「記憶する場所」。メモリやストにレージと呼ばれる部品だ。

    この2つの間をデータが行ったり来たりすることで、コンピュータは動いている。

    たとえ話で理解しよう。超一流の料理人(GPU)がキッチンにいるとする。この料理人は恐ろしく腕が速い。1秒間に100品の料理を仕上げる能力がある。

    では、食材はどこにあるか?

    キッチンのすぐ横にある冷蔵庫──これがメモリだ。今まさに使う食材を、手の届く場所に出しておく場所。容量は限られるが、すぐに取り出せる。

    画像

    一方、建物の地下にある大型の食料倉庫──これがストレージ(ハードディスクやSSD)だ。大量の食材を保管できるが、取りに行くには階段を降りて往復しなければならない。時間がかかる。

    だから料理人は、必要な食材をあらかじめ倉庫(ストレージ)から冷蔵庫(メモリ)に移しておき、調理中は冷蔵庫から素早く取り出して使う。

    ここまでは直感的にわかるだろう。問題はこの先だ。


    「速さ」の本当のボトルネック

    この料理人の実力は「1秒間に100品」でも、本当に
    「1秒間100品」作れるだろうか?

    もちろん違う。食材が手元に届かなければ、料理人はただ待っているだけだ。

    冷蔵庫からキッチンまでの「通路」が狭ければ、一度に少ししか食材を運べない。通路が長ければ、往復に時間がかかる。どれだけ腕の良い料理人でも、食材の供給速度がボトルネックになれば、その実力は発揮できない。

    これがまさに、今のAIチップで起きていることだ。

    GPUの「腕の速さ」(計算能力)は年々上がっている。NVIDIAのB200は毎秒20ペタFLOPS(FP4精度)──つまり毎秒2京回の計算ができる。前世代のH100と比べて約5倍の推論性能だ。しかし、その計算に使うデータがメモリから十分な速度で届かなければ、GPUはただ待っているだけなのだ。

    この「冷蔵庫からキッチンへの食材供給速度」を、専門用語で「メモリ帯域幅(Memory Bandwidth)」と呼ぶ。


    なぜAIは特に「食材の供給速度」が重要なのか

    ここで「ゲームや普通のパソコン作業では問題にならないのに、なぜAIだけ帯域幅が足りなくなるのか」という疑問が出るだろう。これも料理のたとえで説明できる。

    フランス料理のシェフを想像してほしい。目の前に牛フィレ肉が1つある。これに何十もの工程──焼く、休ませる、ソースをかける、飾り付ける──を施して、1品の料理を完成させる。食材は少ないが、工程(計算)が多い。冷蔵庫への往復は少なくて済む。これがゲームのグラフィック処理に近い。

    画像

    一方、回転寿司の職人を想像してほしい。ネタ(データ)を冷蔵庫から次々に取り出し、シャリに乗せて流す。1つのネタに対する工程は少ないが、ネタの種類と量が膨大だ。ひっきりなしに冷蔵庫とカウンターを行き来しなければならない。

    AIの処理は、この回転寿司に近い。

    ChatGPTのような大規模言語モデルは、数千億個もの「重み」と呼ばれるデータ(ネタ)を持っている。推論のたびに、この膨大なデータをメモリから引っ張り出し、少しだけ計算し、また次のデータを引っ張り出す──という作業を何百億回と繰り返す。

    つまりAIは、少ない計算のために、大量のデータをメモリから持ってくるという性質を持っているのだ。

    フランス料理なら、腕の速さ(計算能力)が勝負を決める。 回転寿司なら、食材の供給速度(帯域幅)が勝負を決める。

    AI時代のGPUにとって、計算能力よりメモリ帯域幅の方が実用上の性能を決める──この逆転現象が、AI投資の構造を根本から変えている。NVIDIAのエンジニアもこれを理解しているからこそ、B200に192GBものHBM3Eという最新世代の特殊メモリを搭載し、メモリ帯域幅を8TB/sにまで引き上げた。前世代H100の80GB・3.35TB/sから、容量で2.4倍、帯域幅で2.4倍の飛躍だ。

    そしてHBMとはHigh Bandwidth Memoryの略であり、何を隠そう、この食材の供給速度を早くしたメモリなのだ。


    vol.1 まとめ

    AIの性能を決めているのは、GPUの計算力ではなく、メモリからの「食材供給速度」=帯域幅だ。そしてこの帯域幅を桁違いに高めた特殊メモリがHBMである。

    だが、ここで疑問が生まれるだろう。

    「なぜ普通のメモリの帯域幅を上げることができないのか?」

    次回vol.2では、この問いに物理から答える。「RC遅延」という物理の壁が、なぜ従来のメモリ方式に限界を突きつけるのかを解説する。

    有料記事では物理を土台に、
    1テーマを原理から企業分析まで完全解説しています。
    これさえ読めばこのテーマはあなたのモノです。
    読み終えたあと、テーマ関連ニュースが
    驚くほど理解できるようになっています。

    重要な技術アップデート時にはリライトも行うので、そのテーマの「バイブル」として使い続けられます。

    テーマ: EUV/半導体微細化👇️👇️

    テーマ: 核融合👇️👇️

    ここまで読んでいただきありがとうございます。

    noteのスキ♡はアカウントがなくても押せます。

    「面白かった」「参考になった」と思っていただけたら、♡を押してもらえると、次の記事を書くエネルギーになります。

    Technodili
    ── 物理を知る投資家は、強い。──


    👇👇👇続きはこちら👇👇👇


    #創作大賞2026
    #オールカテゴリ部門

     
     
    技術の中身まで追えない長期投資家へのnote ‖現役半導体エンジニア‖物性物理系院卒‖ 👇1記事1テーマ完全解説スタイル ■無料note:直感でわかる技術のキホン ■有料note:技術→参入障壁→関連銘柄 長期投資の見方を整理 随時更新する投資バイブル

    あなたへのおすすめ