忘備録 AIスパコン比較
1. 主要メーカー・モデル比較（2025年時点）
メーカー：Acer
モデル名：Veriton GN100
GPU / AIチップ：NVIDIA GB10（Grace Blackwell）
メモリ：128GB LPDDR5x
価格：約$3,999
特徴：超小型筐体、PyTorch対応、NVIDIA正式認定
メーカー：ASUS
モデル名：Ascend GX10
GPU / AIチップ：NVIDIA GB10（Grace Blackwell）
メモリ：128GB LPDDR5x
価格：未発表
特徴：デザイン重視、デュアル機対応予定
メーカー：HP
モデル名：ZGX Nano（仮称）
GPU / AIチップ：NVIDIA GB10（Grace Blackwell）
メモリ：128GB LPDDR5x
価格：未発表
特徴：HP Zワークステーションとの統合設計
メーカー：Dell
モデル名：Pro Max GB10 Edition
GPU / AIチップ：NVIDIA GB10（Grace Blackwell）
メモリ：128GB LPDDR5x
価格：未発表
特徴：EMCストレージとの連携に強み
2. ユースケース別導入モデル
用途：RAG（社内ドキュメント検索AI）
推奨モデル：Acer Veriton GN100
理由：低遅延ローカル推論、128GBメモリで埋め込み生成も対応可
用途：顧客対応チャットボット（100B級LLM）
推奨モデル：Veriton GN100 × 2台（ConnectX‑7リンク）
理由：200B前後のモデルに対応でき、コストパフォーマンスが高い
用途：工場カメラ画像×異常検知×対話
推奨モデル：ASUS Ascend GX10
理由：マルチモーダル処理・映像出力・NPU併用が可能な構成を想定
用途：LLM微調整＋社内チューニング（LoRA等）
推奨モデル：HP ZGX Nano
理由：HP製品とのバッチ運用に適し、軽量学習向け
3. 年間コスト比較（クラウド vs ミニAI WS）
項目：クラウド（A100×1）
初期費用：0円
月額：約20万円（30万トークン／日）
年間コスト：約240万円
備考：待機コスト・越境リスクあり
項目：Veriton GN100
初期費用：約60万円
月額：電気代 約2,500円
年間コスト：約63万円前後
備考：社内オンプレ運用、定額コスト
4. TCO・運用メリット
TCO：2〜3年使用でクラウド比 約70%コスト削減
応答速度：クラウド約0.8秒 → ローカル約0.15秒
プライバシー対応：完全社内処理可能、顧客データ非流出
5. モデル相性表（Veriton GN100クラス）
モデル名：Llama 3 8B
推奨度：◎
占有メモリ：約10GB
備考：ローカル単機でも十分運用可能
モデル名：Llama 3 70B
推奨度：◯
占有メモリ：約100～120GB
備考：FP4化とキャッシュ調整で対応可能
モデル名：Mixtral（8×7B MoE）
推奨度：◎
占有メモリ：約48～64GB
備考：MoE構造により効率的な推論が可能
モデル名：GPT-J / GPT-NeoX
推奨度：△
占有メモリ：約40～100GB
備考：帯域調整や最適化で安定動作可能
6. セットアップチェックリスト
✔ PyTorch / Jupyter / Ollama のセットアップ
✔ CUDA / cuDNN / TensorRTの整備
✔ 社内プロキシ・ネットワーク制御
✔ 10GbEスイッチと配線構成（複数台時）
✔ UPS（無停電電源装置）、静音設計
✔ アクセスログ、使用者管理体制の整備
7. 購入・導入フロー
ステップ1：導入目的の明確化（例：クラウドコスト削減）
ステップ2：PoC実施（30日以内に代表ユースケース検証）
ステップ3：スケーラビリティ検証（2台連結等）
ステップ4：社内一部門から段階的に本番運用へ
ステップ5：定期レポート化（TCO、精度、SLA等）
8. 応用ユースケース（国内企業向け）
業種：製造業
応用：設備画像診断、マニュアル生成、AI案内ボット
業種：医療・介護
応用：カルテ要約、診療支援対話、画像生成
業種：行政・教育
応用：FAQ自動化、教師支援AI、児童向けAI対話教材
業種：マーケティング・EC
応用：GA4データの自動分析、ペルソナ自動生成、SNS返信支援
業種：研究開発・R&Dベンチャー
応用：プロンプト設計／社内RAG実験環境、API課金圧縮
9. よくある質問と対処法（FAQ）
Q：Llama 3 70BはVeritonで動きますか？
A：FP4変換とキャッシュ設定で対応可能です。安定運用には2台接続が推奨です。
Q：電源容量はどれくらい必要？
A：TDP 140W前後、合計で最大170W程度の電源供給が必要です。
Q：運用トラブルが起きたら？
A：日本では販売代理店経由でサポート契約が可能。保守契約推奨です。
Q：ChatGPTより高速ですか？
A：使用するモデルとトークン数によりますが、常時運転環境ではローカルの方が高速です。
Q：モデルの学習は可能ですか？
A：フル学習には向きません。LoRAなどの軽量微調整であれば十分可能です。
