
Kimi K3を社内で動かすなら、何台のGPUといくらが要るのか
Kimi K3を社内で動かすなら、何台のGPUといくらが要るのか
ふと思い立ちリサーチしたものを元に、改めてcodexと共同執筆している。
2026年7月21日現在。この記事の金額は公開価格と明示した仮定から計算した比較用の試算である。購入見積もりでも性能保証でもない。
最初に答えを書く。今この日に「K3を社内で動かすためにH100を64枚買う」という判断はできない。K3のフルウェイト、K3固有のライセンス、技術報告書、自己ホスト用の公式構成が、まだ出ていないからだ。
🐳🐳🐳🐳🐳
強いて一本に絞るなら、こう書きます。by codexくん
構成:H200×64、8 GPUサーバー×8台+高帯域ネットワーク
初期費用:4.5億〜6.7億円
維持費:現金OPEX 月300万〜800万円
3年償却込み:月1,600万〜2,700万円
利用規模:コード支援なら、実測goodput次第で約1,000〜6,000人・月
ただし最後の人数は、K3の未公開性能を捏造した数字ではありません。1人あたり月100 request・各1,000 output token、ピーク10倍、SLO余裕50%という条件で、公開後に測ったgoodputが1,000〜5,000 output tok/sだった場合の予測です。
🐳🐳🐳🐳
ただし、ここで記事を終えるのも惜しい。
Moonshot AIが7月27日までにフルウェイトを公開する予定だという事実は、企業の選択肢を変える可能性がある。公開後にライセンスと実装が揃えば、企業は「APIを買う」以外に、「短期IaaSで試す」「需要が大きければ自前で運用する」を同じ仕事、同じtoken、同じ待ち時間で比べられるようになる。
この記事は、その比較をするための記事である。GPUの部品表を先に置くのではなく、10万円の使い道から始める。
まず、10万円をどこに置くか
K3をめぐって企業が最初に選ぶのは、GPUを買うかどうかではない。
「10万円を社員のAPI利用に配るか」「10万円を短時間のGPU実験に使うか」である。
前者は、すぐ使える。K3 APIの公式料金は、cache-hit inputが0.30ドル/MTok、cache-miss inputが3.00ドル/MTok、outputが15.00ドル/MTokだ。MTokは100万tokenを表す。
Kimi K3 pricing:
https://www.kimi.com/resources/kimi-k3-pricing
たとえば、cache hit率90%、input/output比8という継続的なコード支援を仮定する。output 1MTokを返すモデル料金は19.56ドルになる。比較のため1ドル=160円と置けば、約3,130円/MTok_outputである。
〈K3 API料金の式〉
C_API [ドル]
= 0.30 × hI / 1,000,000
3.00 × (1 − h)I / 1,000,000
15.00 × O / 1,000,000
h: input cache hit率
I: 総input token
O: output token
この例なら、10万円は約31.9MTokのoutputと、そのための約255MTokのinputに相当する。outputだけを買う極端な仮定なら、約41.7MTokのoutputである。
もちろん、これは「社員何人を支えられるか」の答えではない。社員一人の入力・出力・request数が違うからだ。20営業日、1日5 request、一人100 request/月と仮定したときの料金だけを置けば、次のように桁が変わる。
軽い補助。入力4k、出力0.5k、cache hit 50%。1 requestあたり約2.26円。10万円で約44,300 request、約443人・月相当。
継続的なコード支援。入力16k、出力1k、cache hit 90%。1 requestあたり約3.86円。10万円で約25,900 request、約259人・月相当。
長文一発。入力200k、出力4k、cache hit 0%。1 requestあたり約105.6円。10万円で約947 request、約9人・月相当。
この差が重要だ。「社員数」では予算を決められない。企業は、社員数をinput、output、cache hit、1人あたりrequest数、ピーク同時数に分解してから料金を出す。
もう一つの10万円の使い方が、ウェイト公開後のGPU実験だ。
CoreWeaveの公開米国価格では、HGX H100は8 GPUでオンデマンド49.24ドル/時、spot 19.71ドル/時と表示されている。為替を1ドル=160円とし、税、storage、egress、予約料、人件費を除く。
CoreWeave pricing:
https://www.coreweave.com/pricing
H100×32を3時間オンデマンドで借りる。8 GPUノード4台なので590.88ドル、約94,541円。
H100×32を3時間spotで借りる。236.52ドル、約37,843円。可用性、中断条件、容量確保の可否は契約とリージョンごとに確認がいる。社員向けSLOの基準にはできない。
H100×64を3時間オンデマンドで借りる。8 GPUノード8台なので1,181.76ドル、約189,082円。
H100×64を3時間spotで借りられ、かつ容量を確保できるなら、473.04ドル、約75,686円。
つまり「10万円でH100を借りまくって3時間」は、公開GPU時間だけならH100×32のオンデマンド実験が射程に入る。H100×64を3時間は、オンデマンドでは10万円に収まらない。spot価格で64枚を取れる場合だけ計算上は収まるが、そこには容量と中断の条件が付く。
ここで「Fable 5級のフィーバータイム」と能力ラベルを混ぜないほうがいい。K3公式自身は、総合性能がClaude Fable 5やGPT-5.6 Solにまだ及ばないと説明している。3時間のGPU時間が買えることと、特定のフロンティアモデルと同じ能力を得ることは別の話だ。
Kimi K3公式発表:
https://www.kimi.com/blog/kimi-k3
Claude Fable 5:
https://www.anthropic.com/claude/fable
この10万円を使って買うべきなのは、熱狂ではなく答えである。重みは本当にロードできるのか。どの構成で、どの仕事を、何秒で返せるのか。そこを測る。
この時点の意思決定は、三段階に分けると迷いにくい。
第一段階は、APIで需要を測る段階だ。ここで見るのは社員数ではなく、仕事ごとのinput/output比、cache hit、到着率、失敗率、待ち時間である。APIは「自前より高いか安いか」を決める前に、何をどれだけ処理したいのかを測る道具になる。
第二段階は、IaaSで技術的な境界を測る段階だ。公開された重みが実際にどれだけのHBMを取り、どの通信構成で動き、同じtraceをどのSLOで返せるかを測る。ここで初めて、64 GPUという推奨が自社の仕事に対してどんな意味を持つかが分かる。
第三段階が購入だ。需要が継続し、IaaSでSLO付きgoodputを確認し、障害対応とデータ統制を引き受ける理由がある企業だけが進む。購入は最初の選択肢ではなく、二つの測定を通った後の選択肢である。
以後の技術計算は、この順番を崩さないために置く。APIのtoken換算は第一段階、GPU/HBM/SLOは第二段階、電力とTCOは第三段階の入力になる。
なぜ「公開」が競争の話になるのか
ここで初めて、K3の公開という話に戻る。
「K3の勝利条件は売れることではなく、公開したことだ」という文を、Moonshotの本心や事業目標についての事実として書くことはできない。公開情報からは売上も経営目的も分からない。
ただし、著者の評価基準としては筋が通っている。
APIだけが提供されるモデルでは、企業の選択肢は原則としてAPIを買うことに限られる。ウェイト、実行に必要な実装、そして改変・商用利用・再配布の範囲を定めたライセンスまで出れば、比較対象が増える。
APIをtoken従量で買う。
短期IaaSを借り、評価やバッチ処理、繁忙期だけ動かす。
継続需要が大きく、運用責任を持てるなら、専用クラスタを所有または長期予約する。
ライセンスと適用法が許す範囲で、自社のデータや業務に合わせた運用を検討する。
ここでいう圧力は、「全企業が自前運用へ移る」という意味ではない。閉じたモデルの提供者にも、価格、可用性、データ境界、更新の予測可能性、個社への適応性を、代替可能な運用形態と比べられる理由が生まれる、という意味だ。
Stanford AI Index 2026は、2026年3月時点で上位モデル間の性能差が縮小し、コスト、信頼性、領域別の強さが競争要因になっていると整理している。K3が再現可能な形で出れば、この競争に「自分で測り、自分で運用できるか」という軸が加わる。
Stanford AI Index:
https://hai.stanford.edu/ai-index/2026-ai-index-report/technical-performance
ここで重要なのは、公開を神話化しないことだ。重みを出しても計算資源は無料にならない。64基以上の高帯域acceleratorを推奨する2.8Tモデルなら、むしろモデルの公開と計算資源の集中は同時に存在する。公開が変えるのは、誰でもすぐ大規模運用できることではなく、評価・最適化・運用の主導権を持てる企業の範囲である。
開発の速度は上がりうる。ただし「勝手に進む」とは書かない
ユーザーが触れたもう一つの論点は、強いモデルが開発そのものを速くすることだ。
Moonshotは、開発終盤にearly K3がkernel optimization作業の大部分を担ったと紹介している。これは、強いcoding modelが実装、実験、最適化の反復を短くする可能性を示すケーススタディとして読むべきだ。人間が書いていた調整用コード、検証コード、性能解析の一部をモデルが手伝えれば、同じ計算資源でも試行回数は増える。
ただし、ここから「潤沢な計算資源があれば開発は勝手に進む」とは結論づけない。Moonshotの紹介は自社の開発事例であり、外部が再現・査読した無人の自己改良の証明ではない。モデルが提案した変更を誰が採用するか、何を正解とするか、失敗した変更をどう戻すか、評価データをどう守るかは残る。
企業にとって重要なのは、モデルを開発者の代わりに置くことではない。評価と承認の速度を落とさずに、探索と実装の回数を増やせるかである。ここでも比較単位はGPUの枚数ではなく、同じ予算と同じ安全な手順で、何回の有効な実験を回せたかになる。
この視点は、K3を社内サービスとして配る場合にも、K3を使って自社の推論基盤を最適化する場合にも共通する。前者は社員が返答を得るまでの費用、後者は開発チームが改善案を検証するまでの費用を下げる。二つを同じ「AI導入効果」に混ぜると、利用tokenと開発工数のどちらが効いたのか分からなくなる。
2026年7月21日に、まだ「オープン」と書けない理由
この論点を条件付きにしているのは慎重ぶりたいからではない。時点が決定的だからだ。
Moonshotが7月21日時点で公式に述べているのは、K3をAPI、Kimi.com、Work、Codeで提供開始したこと、フルモデルウェイトを7月27日までに公開する予定であること、アーキテクチャ・学習・評価の詳細をtechnical reportで別途公表することだ。本稿が確認した公式発表とAPI文書に、K3のウェイト、K3固有ライセンス、技術報告書、公式の自己ホスト手順はない。
だから、現在のK3を「OSS」と呼ばない。
OSIのOpen Source AI Definitionは、パラメータだけでなく、データ情報、コード、利用を許す法的条件を区別する。重みを見られること、改変できること、再配布できること、商用サービスとして提供できることは別々の条件である。
OSI Open Source AI Definition:
https://opensource.org/ai/open-source-ai-definition
K2にModified MIT Licenseがあることも、K3へ持ち込めない。K2のライセンスはK2の条件である。
K2公式リポジトリ:
https://github.com/MoonshotAI/Kimi-K2
K2ライセンス:
https://github.com/MoonshotAI/Kimi-K2/blob/main/LICENSE
同じ理由で、「蒸留してよい」「自由にファインチューニングできる」「国外なら安全策を外してよい」とも書けない。K3のweight licenseがまだない。そもそも、技術的に出力方針を変えられることと、無制限に再配布・提供してよいことは別問題だ。
現在のサービス利用規約も、weight公開後のライセンスとは分けて読む。Kimiのconsumer規約は競合する製品・サービス・モデルの開発、訓練、改善を禁止し、海外利用でも各法域の法令・規制への準拠を求める。APIのOpenPlatform規約は、利用権を契約で明示された範囲に限り、適用法令・ポリシーへの準拠を求める。
Kimi利用規約:
https://www.kimi.com/user/agreement/en/modelUse
Kimi OpenPlatform規約:
https://platform.kimi.ai/docs/agreement/modeluse
公開の価値を論じるなら、公開日に確認すべきなのはモデル名ではない。ライセンス原文、checkpoint SHA、実ファイルのサイズ、tokenizer、対応engine、再現手順である。
64 GPUという数字を、発注台数に読み替えない
MoonshotのK3公式ページは、総2.8Tパラメータ、1M context、16/896 expertのStable LatentMoE、MXFP4 weight、MXFP8 activation、KDA/Gated MLA、そして64基以上のacceleratorを持つ高帯域supernodeを推奨している。
この数字から分かるのは、K3が小さなワークステーション向けではなく、大規模な分散推論を前提にしたモデルだということまでである。
ここから分からないことのほうが、購入判断には重要だ。
checkpointの実バイト数。
重みをロードした後に残るHBM。
TP、EP、PP、CPの推奨設定。
node内外で必要になる通信トポロジ。
入力長、出力長、同時数別のTTFT、TPOT、system TPS。
長文脈を何本保持できるかを決めるKV cache容量。
K3での平均電力、ラック密度、保守込みの調達額。
つまり、64は答えではなく、公開後に検証すべき最初の実験点である。H100×64が最低要件だとも、H200×32で十分だとも、7月21日時点では言えない。
MoEとメモリの話
K3の16/896という数字は、1 tokenにつき896 expertsのうち16を有効化するMoEを表す。tokenあたりに動くexpert計算を疎にできることは事実だ。
しかし、VRAMが16/896になることは意味しない。低遅延で動かすなら、ルーティング先になり得るexpert群の重みをGPUクラスタに置く必要がある。MoEではtokenをexpertのあるworkerへ送る通信も生じる。
NVIDIAのMegatron Coreは、MoEをexpert parallelismとtensor、pipeline、context parallelismの組合せとして扱い、all-to-all token dispatchを説明している。
NVIDIA Megatron Core MoE:
https://docs.nvidia.com/megatron-core/developer-guide/0.15.0/api-guide/moe.html
重みpayloadだけを理想化した下限は計算できる。
〈重みpayloadの下限〉
重みpayloadの下限 [byte] = 総パラメータ数 × bit幅 / 8
2.8T × 4 bit / 8 = 約1.4TB(10進)
2.8T × 16 bit / 8 = 約5.6TB(10進)
ただし1.4TBは、MXFP4を純粋な4bit payloadとみなした下限にすぎない。実際に必要なHBMは、checkpointの実バイト数、scaleやmetadata、通信buffer、runtime workspace、KV cache pool、安全余裕を足した量になる。
〈必要HBMの分解〉
必要HBM
= checkpoint実バイト数
scale / metadata
runtime・通信buffer
KV cache pool
安全余裕
H100 SXMは80GB・3.35TB/s、H200 SXMは141GB・4.8TB/sである。単純な総HBMは、H100×64で5.120TB、H200×32で4.512TB、H200×64で9.024TBになる。
NVIDIA H100:
https://www.nvidia.com/ja-jp/data-center/h100/
NVIDIA H200:
https://www.nvidia.com/ja-jp/data-center/h200/
だが、H200×32はK3公式の64 accelerator推奨より少ない。総HBMだけでは、ロード可否も速度も決まらない。量子化、並列化、通信、batch、cache、入出力長が同時に効く。GPU仕様の比率をK3のtoken/s比に写してはいけない。
100万token contextと、社員が待たないことは別の問題
重みの次にHBMを使うのがKV cacheである。通常のTransformerでは、requestごとのKV cacheは系列長と各layerのcache bytes/tokenに比例する。K3はKDA/Gated MLAを採用しているが、正確な式に必要な内部形状は未公開だ。
だから、いま数値を推定で埋めない。公開後に測る式を固定する。
〈KV cacheを測る式〉
KV bytes / request
= sequence tokens × Σ(各layerのcache bytes / token)
クラスタのKV token予算
≤ (総HBM − 重み − runtime buffer − 安全余裕)
/ KV bytes per token
「1M context」は、一つのrequestが到達しうる最大文脈長である。100万tokenのrequestを何本並列に保持できるか、短いコード補完を何本流せるか、長いprefillが他の社員のTTFTをどれだけ悪化させるかは、別の容量問題になる。
Moonshot自身も、KDAが従来のprefix cachingに新しい課題をもたらすため、対応するvLLM実装をモデルと同時に公開するとしている。ここも公開後に測る。
社員数をGPU台数へ変換する方法
「社内アクティブ500人」という言葉は、予算会議には便利でも、容量設計の入力にならない。
何人が同じ瞬間に送るか。
一回の入力は何tokenか。
出力は何tokenか。
既存文脈をどれだけ再利用するか。
最初のtokenを何秒で返す必要があるか。
失敗や再実行をどこまで許すか。
これを測るため、LLM推論をprefillとdecodeに分ける。prefillは入力を読みKV cacheを作る段階で、長い入力がTTFTを押し上げる。decodeは出力tokenを逐次生成する段階で、TPOTが対話感を左右する。
〈待ち時間とgoodput〉
TTFT ≒ queue wait + prefill + first-token decode
E2E latency
≒ TTFT + (output tokens − 1) × TPOT
goodput [output tok/s]
= SLOを満たして完了したoutput token数 / 観測時間
NVIDIAのbenchmarking資料も、TTFT、TPOT、E2E latency、system TPSを別の指標として定義している。最大TPSが高くても、待ち時間や失敗率が悪化すれば社員向けの容量とは言えない。
NVIDIA NIM Benchmarking Metrics:
https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html
サービス側が先に決めるべきなのは、たとえばp95 TTFT、p95 TPOT、p95 E2E latency、成功率である。そのSLOを満たして返せたtokenだけを分母にしてgoodputを出す。
待ち行列を最小限に書けばLittleの法則になる。
〈Littleの法則〉
L = λW
L: 系内にある平均request数
λ: 有効到着率 [request/s]
W: 完了までの平均滞在時間 [s]
これは社員数を到着率、token分布、滞在時間へ翻訳する補助だ。GPU枚数を直接出す式ではない。LLMのservice timeは入力長、出力長、cache、MoE routing、burstで変わる。
Little, “A Proof for the Queuing Formula: L = lambda W”:
https://doi.org/10.1287/opre.9.3.383
ここで、最初の10万円の話と技術章がつながる。
APIへ10万円を配る場合は、実際の社員利用からinput/output比、cache hit、到着率、失敗率を取れる。短期IaaSへ10万円を使う場合は、その同じtraceを持ち込み、TTFT、TPOT、goodput、消費電力を取れる。APIとIaaSで別々のプロンプト、別々の品質基準、別々の利用者を使うと、料金表を比較しているだけになる。
ただし、APIの請求上のcache hit率を自己ホストの容量値として転記してはいけない。APIの自動cache、system prompt、tool harness、sampling、provider側のKDA実装は、公開後のengineと一致しない可能性がある。IaaSでは同じ論理request traceを固定tokenizer、sampling、system/tool条件で再実行し、cache hit、品質、失敗率は自己ホスト側で測り直す。
この順番なら、社員利用の観測は単なる利用促進ではなく、購入判断のための需要測定になる。IaaSの実験は単なるベンチマークではなく、その需要を自前で満たせるかを測る試験になる。
自前運用が安くなる条件
ここまで測って初めて、APIとIaaSの比較ができる。
64 H100をCoreWeaveの公開オンデマンド料金で借りると、393.92ドル/時である。GPU時間だけの原価を、実測goodputをQ_outとして書くと次になる。
〈IaaSのGPU時間だけの原価〉
C_IaaS [ドル / MTok_output]
= cluster hourly rate [ドル/時] × 1,000,000
/ (Q_out [output tok/s] × 3,600)
前に置いた「input/output=8、cache hit=90%」のK3 APIは19.56ドル/MTok_outputだった。64 H100のGPU時間だけを同額にするには、約5,594 output tok/sのgoodputが要る。spotの157.68ドル/時なら約2,239 output tok/sで同額になる。
この数字は損益分岐の答えではない。GPU時間しか入っていないからだ。IaaSにはstorage、network、起動失敗、待機、監視、人的運用が入り、APIには品質、データ境界、レート制限、可用性、契約上の価値がある。それでもこの式は、何を実測すれば比較が始まるかを明確にする。
購入に進むなら、固定費まで分子へ入れる。
〈月間TCO〉
月間TCO
= CAPEXの月次資本回収
保守
コロケーション
回線・ストレージ
運用人件費
平均IT電力 × PUE × 月間時間 × 実効電価
総原価 [円 / MTok_output]
= 月間TCO × 1,000,000
/ 月間のSLO達成output token
CAPEXを12か月で割るだけでは、耐用年数と金利を隠してしまう。資本回収係数を置くなら次の通りだ。
〈資本回収係数〉
CRF(r, n) = r(1+r)^n / ((1+r)^n − 1)
GPUの購入価格は、この記事が推定すべき公開事実ではない。HGX/DGXの構成、NIC、スイッチ、保守、地域、納期、為替でRFQが変わる。同じ要件書で複数の見積もりを取る。
購入に進む条件は、単にIaaSより単価が低く見えることでは足りない。
毎月の需要が継続し、GPUを遊ばせない稼働率を見込めること。
実測したSLO付きgoodputが、社員向けのピークを処理できること。
障害対応、モデル更新、アクセス制御、監視、オンコールの運用責任を引き受けられること。
データ境界を自前で持つことに、APIの利便性を上回る事業上の理由があること。
一つでも欠けるなら、購入を急ぐ理由は薄い。APIで需要を観測し、IaaSで技術上の境界を測る段階のほうが合理的だ。反対に、これらが揃っているなら、購入はコスト削減だけでなく、能力計画とデータ統制の選択になる。
電気代は、月額より円/MTokで見る
64 GPUの電気代を出すときは、GPUのTDP、サーバーの最大電力、実測平均電力、施設全体の電力を混ぜない。
NVIDIA DGX H100/H200は8 GPUのシステムで、200〜240V入力時の最大電力を10.2kWとしている。64 GPUをDGX級8台として置けば、サーバー側の設計上限は81.6kWになる。
〈DGX級8台の設計上限〉
8台 × 10.2kW = 81.6kW
これは受電、PDU、冷却、ラック密度を考える上限側の数字であり、K3推論の平均消費電力ではない。
NVIDIA DGX H100/H200 system guide:
https://docs.nvidia.com/dgx/dgxh100-user-guide/introduction-to-dgxh100.html
施設側の電力はPUEを掛ける。PUEは施設全体のエネルギーをIT機器のエネルギーで割る値だ。
〈施設側の電力〉
P_facility [kW] = P_IT [kW] × PUE
E_month [kWh]
= P_IT [kW] × PUE × hours/month
IT電力81.6kW、730時間/月、PUE=1.5という最大負荷の仮定なら、施設側の月間電力量は89,352kWhになる。
〈PUE=1.5の月間電力量〉
81.6kW × 1.5 × 730h = 89,352kWh / 月
電力単価を20円、30円、40円、50円/kWhと置けば、月額は約179万円、約268万円、約357万円、約447万円となる。これは最大電力を一か月連続で使った反実仮想であって、「K3の月額電気代」ではない。
実費には、平均IT電力、PUE、契約電力、基本料金、燃料費・市場価格調整、再エネ賦課金、コロケーション、ネットワーク、ストレージ、保守、人件費が入る。
米国エネルギー省の設計ガイドは、PUE 1.6をaverage、1.4をgood、1.1をbetterの例として示している。施設差をモデルの能力で埋めることはできない。
U.S. Department of Energy, data center design guide:
https://www.energy.gov/sites/default/files/2024-07/best-practice-guide-data-center-design.pdf
関東で122kW級を例にするなら、家庭向け料金を掛けるだけでは足りない。高圧・特別高圧の区分、契約電力、基本料金、従量料金、調整額が関わる。122kWを特別高圧と決めつけるのは不正確だ。
東京電力パワーグリッド 高圧・特別高圧設備の概要:
https://www.tepco.co.jp/pg/consignment/retailservice/pdf/H_setsubi.pdf
東京電力エナジーパートナー 現行電気需給約款:
https://www.tepco.co.jp/ep/company2/agreement/pdf/20260401jukyu000-j.pdf
APIと比較するには、月額で止めずSLO付きgoodputで割る。
〈電力だけの原価〉
電力のみの原価 [円 / MTok_output]
= P_IT,avg [kW] × PUE × 実効電価 [円/kWh] × 1,000,000
/ (Q_out [output tok/s] × 3,600)
Q_outはGPU内部の計算tokenではなく、SLOを満たして利用者へ返せたoutput token/sにする。P_IT,avgもサーバー仕様上の最大値ではなく、同じ期間に測った平均値を使う。
IT電力81.6kW、PUE=1.5、実効電価30円/kWhという感度では、goodputが1,000 output tok/sなら電力のみ約1,020円/MTok_output、5,000なら約204円、10,000なら約102円になる。これはK3のTPSを主張する数字ではない。公開後に実測値を入れるための計算枠だ。
この式は、電気代を安く見せるための式でも、高く見せるための式でもない。月額268万円という数字だけを眺めると高く見える。だが、5,000 output tok/sをSLO付きで継続できるなら、電力だけは約204円/MTok_outputまで下がる。逆に、長文脈やピークでgoodputが落ちれば、同じ施設費を少ないtokenで割ることになる。
ここに購入判断の難しさがある。GPUは購入した瞬間から固定費になるが、tokenは需要がなければ生まれない。だから所有は、最も速いクラスタを作る競争ではなく、需要の谷でもクラスタを維持できるかという稼働率の競争になる。
公開後の一週間でやること
ウェイト公開の直後に必要なのは、64 GPUを発注することではない。小さくても再現可能な測定を始めることだ。
ライセンス原文を読む。商用利用、改変、派生物、再配布、地域条件、表示義務、データ条件を確認する。
checkpoint SHA、全shardの実サイズ、config、tokenizer、推論engine、対応versionを記録する。
TP、EP、PP、CP、KV cache pool、prefix cache、通信トポロジを固定し、ロード後の空きHBMを測る。
社内データを持ち出さない代表traceを作る。短い補完、8k級コード文脈、長文レビュー、長い出力について、input/output token分布とcache hitを記録する。
p50/p95/p99 TTFT、TPOT、E2E latency、成功率、queue time、SLO達成goodput、平均IT電力を測る。
同じtraceをAPI、短期IaaS、購入候補で比べる。比較するのは最大TPSではなく、円/MTok、円/request、待ち時間、失敗時の再実行まで含めた総費用だ。IaaS試験は購入候補を絞るための証拠であって、購入クラスタの性能保証ではない。RFQ後は、同等のGPU、ネットワーク、並列化トポロジで受入試験を行う。
この6項目を通らずに出した「H100を何枚買うか」は、価格表を眺めているだけである。
利用許諾と規制は、公開後の選択肢の条件を決める
ここまでの話は、公開時に有効なK3ライセンスが何を許すかに依存する。公開前の段階で「中国以外なら自由」「国内では使えない」という対比を置くのは正確ではない。
中国の生成式AIサービス管理暫行弁法は、中国国内の公衆に生成AIサービスを提供する場合を中心に対象とし、国内公衆にサービスを提供しない企業・教育機関・研究機関等による研究開発・応用は対象外と明記する。一方、公衆向けに提供する場合は、生成内容、学習データの出所、知的財産、個人情報などの要件がある。さらに、輿論属性または社会動員能力を持つサービスには、安全評価とアルゴリズム届出の要件が加わる。
中国国家インターネット情報弁公室「生成式人工智能服务管理暂行办法」:
https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm
EU市場に一般目的AIモデルを提供する者には、EU AI Act上、技術文書、下流提供者向け情報、著作権方針、学習内容の要約などの義務が課されうる。自由かつオープンソースのライセンスで出す場合も、一定の文書義務が免除されうるだけで、著作権方針と学習内容の要約の義務は残る。
EU Commission GPAI FAQ:
https://digital-strategy.ec.europa.eu/en/faqs/guidelines-obligations-general-purpose-ai-providers
国外でも、ライセンス、学習データの権利、個人情報、輸出管理、用途別規制、クラウド規約は消えない。これは自前運用を否定するための話ではない。会社が何を変えられ、何を再配布でき、誰に提供できるかを決める条件の話である。
実務では、法務を「最後に止める部署」にしないほうがよい。公開後一週間の最初にlicenseを読み、実験に使うデータを決め、誰が何を提供するかを切り分ける。そうすると、技術チームは測るべき構成だけに集中できる。ライセンスが派生物の再配布を許さないなら、その用途を測定対象から外す。地域条件があるなら、クラウドリージョンと提供先を先に固定する。法務の確認も、容量計画の入力になる。
最後に、GPU枚数は最後に決める
K3を社内で動かす問いは、H100を何枚買うかから始めない。
まず、10万円をAPIの利用観測に使うのか、短時間IaaSの再現試験に使うのかを決める。次に、社内の仕事をinput、output、cache、到着率、待ち時間へ分解する。そこで初めて、64 GPUという公式推奨を自社のSLOに照らして検証できる。
順番を一行にするとこうなる。
APIで需要を測る。IaaSで技術的な境界を測る。需要とSLOが継続すると確認できたら、購入のRFQを取る。
この順番を飛ばしてGPUを買うと、最も高価な仮説から検証することになる。逆にこの順番を踏めば、公開が実現したとき、企業は流行語ではなく自社のtraceと円/tokenで判断できる。
K3の公開が予定どおり実現し、ライセンスと実装が揃うなら、公開の意味は「誰でも64 GPUを買える」ことではない。企業が、API、短期IaaS、自前運用を同じtokenとSLOで比較できるようになることだ。
それが、売上とは別に公開が競争へ与えうる圧力である。
ただ、実際問題本当に求められる人材とはなんなんだろうか
大量にtokenを消費し成果を上げるバーサーカー社員か
冷静沈着、研ぎ澄ました一撃で最小のtokenで最高の成果を上げるシモヘイヘ社員か。
token maxxingな戦い方はナンセンスとなっていたが、改めてこれを見直すと
ふたたび「ワンチャンあり」な時代が来そうな予感もする
出典と確認範囲
この記事のK3固有の記述は、2026年7月21日に確認できた公式発表の範囲に限る。未公開のweight、license、technical report、runtime benchmarkは、予定または未確認として扱った。
Moonshot AI, Kimi K3: Open Frontier Intelligence
https://www.kimi.com/blog/kimi-k3Moonshot AI, Kimi K3 pricing
https://www.kimi.com/resources/kimi-k3-pricingOSI, Open Source AI Definition 1.0
https://opensource.org/ai/open-source-ai-definitionMoonshot AI, Kimi K2 repository
https://github.com/MoonshotAI/Kimi-K2Moonshot AI, Kimi K2 license
https://github.com/MoonshotAI/Kimi-K2/blob/main/LICENSEKimi Terms of Service
https://www.kimi.com/user/agreement/en/modelUseKimi OpenPlatform Terms
https://platform.kimi.ai/docs/agreement/modeluseStanford HAI, 2026 AI Index Report: Technical Performance
https://hai.stanford.edu/ai-index/2026-ai-index-report/technical-performanceNVIDIA Megatron Core, Mixture of Experts
https://docs.nvidia.com/megatron-core/developer-guide/0.15.0/api-guide/moe.htmlNVIDIA H100 Tensor Core GPU
https://www.nvidia.com/ja-jp/data-center/h100/NVIDIA H200 Tensor Core GPU
https://www.nvidia.com/ja-jp/data-center/h200/NVIDIA DGX H100/H200 System User Guide
https://docs.nvidia.com/dgx/dgxh100-user-guide/introduction-to-dgxh100.htmlU.S. Department of Energy, Best Practices Guide for Energy-Efficient Data Center Design
https://www.energy.gov/sites/default/files/2024-07/best-practice-guide-data-center-design.pdfNVIDIA NIM, LLM Benchmarking Metrics
https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.htmlLittle, A Proof for the Queuing Formula: L = lambda W
https://doi.org/10.1287/opre.9.3.383東京電力パワーグリッド, 高圧・特別高圧設備の概要
https://www.tepco.co.jp/pg/consignment/retailservice/pdf/H_setsubi.pdf東京電力エナジーパートナー, 現行電気需給約款
https://www.tepco.co.jp/ep/company2/agreement/pdf/20260401jukyu000-j.pdfCoreWeave, Cloud Pricing
https://www.coreweave.com/pricingAnthropic, Claude Fable 5
https://www.anthropic.com/claude/fable中国国家インターネット情報弁公室, 生成式人工智能服务管理暂行办法
https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htmEuropean Commission, General-purpose AI providers FAQ
https://digital-strategy.ec.europa.eu/en/faqs/guidelines-obligations-general-purpose-ai-providers
注記: CoreWeaveの価格は米国公開価格であり、容量確保、リージョン、税、storage、egress、予約条件、K3との互換性を保証しない。為替は記事中で明示した1ドル=160円の感度仮定である。価格、規約、法令、提供条件は変動しうるため、実行時には原典を再確認する。