ローカルLLMの用語集(自社AI：情報安全保障の新常識⑨)
皆さんは、料理をしますか？それとも外食が多いですか？素材にこだわったり、地元食材の店を選んだりしますか？
近年、AIは私たちの生活やビジネスに深く浸透し、まるで魔法のように質問に答え、文章を生み出す「AIアシスタント」が一般的になりました。これらのAIの多くは、インターネットの向こう側にある大きなコンピュータネットワーク、いわゆる「クラウド」上で動いています。例えるなら「外食」です。しかし今、この「クラウドAI」とは異なる、「自分の手元で動かすAI」、すなわち「ローカルLLM」に注目が集まっています。
いわば自宅で料理して食べる「ローカルLLM」。この新たな潮流を理解するためには、いくつかの重要な用語を知っておくことが役立ちます。比喩を交えながら、分かりやすく解説していきます。
ローカルLLMを取り巻く主な用語
LLM（Large Language Model: 大規模言語モデル）
AIの中でも、人間が話したり書いたりする言葉を理解し、自然な文章を生み出すことができる「頭脳」のようなものです。インターネット上の膨大なテキストデータ（文章のデータ）を読み込んで学習しているため、まるで百科事典のような幅広い知識を持っています。ChatGPTやGoogle Bardなどがその代表例です。ローカルLLMは、このLLMを自分のパソコンや会社のサーバー上で動かすことを指します。SLM（Small Language Model: 小規模言語モデル）
LLMが大きな「百科事典」だとすれば、SLMは特定の分野に特化した「専門書」のようなものです。LLMよりも規模が小さく、動かすために必要なコンピュータの性能も低いため、個人用のパソコンやスマートフォンなどの「オンデバイス」環境でも動作しやすいのが特徴です。近年は、このSLMでも賢いモデルが登場し、ローカル環境での活用が加速しています。VLM
画像とテキストの両方を理解し処理するAIモデルです。セガは「自社製品画像を学習したデザイン案出し用の画像生成AI」を導入し、デザイン案を約100倍に増加。NTT tsuzumiも「文書・マニュアル画像解析」に活用されており、視覚と言語を組み合わせたAIの多様な活用が期待されます。軽量モデル
大規模なLLMに比べて、パラメータ数や必要な計算資源が少ないAIモデルを指します。SLMも軽量モデルの一種です。高性能なGPUがなくても、個人用PCやオンデバイス環境で動かしやすいため、ローカルLLMの普及に貢献しています。オンデバイス
ユーザーが直接使うデバイス（スマートフォン、タブレット、PCなど）上でAIが動作することを指します。データがデバイス外に送信されないため、プライバシー保護の観点から非常に有利です。SLMなどの軽量モデルの進化により、この「オンデバイスAI」の可能性が広がっています。パラメータ
AIモデルの規模や複雑さを示す指標です。この数が多いほどモデルの知識や処理能力は高まりますが、その分、必要な計算資源（GPUやメモリ）も増大します。SLMは、このパラメータ数が少ないため、個人用PCなどのローカル環境でも動作しやすいのが特徴です。また、ファインチューニングやLoRAといった技術は、既存モデルのパラメータを調整し、特定の用途に最適化するために用いられます。トークン
AIが言葉を処理する際の「最小単位」です。文章を単語や記号、文字のまとまりに区切ったもので、AIはこのトークンを数えて処理の長さを測ります。AIが質問を理解したり、回答を生成したりする際に、このトークンの数に応じて処理時間や費用が変わる場合があります。コンテキストウィンドウ
AIが「一度に記憶しておける情報の範囲」を示すものです。AIとの会話を続けていると、AIが以前の会話内容を覚えていることがありますよね。この「記憶力」の範囲がコンテキストウィンドウです。例えるなら、人間の「短期記憶」の容量のようなもので、これが広ければ広いほど、より長く複雑な会話や長い文章を理解することができます。ローカルLLMでは、このウィンドウのサイズが利用できるハードウェアの性能に左右されることがあります。モデルマージ
複数のAIモデルを統合し、一つの新しいモデルを生成する技術です。例えば、特定の専門分野に特化した複数の小規模なモデルを結合することで、それぞれの知識を統合し、より幅広い知識を持ちつつも効率的に動作するモデルを自社内で構築できるようになります。これにより、組織独自のニーズに合わせたAIを運用することを可能にします。ファインチューニング
既に学習済みのAIモデルに、特定の目的や業界に特化した「追加の学習データ」を与えて、性能を微調整する技術です。これにより、汎用的なAIを、まるで特定の分野の専門家のように「あなた専用」のAIに育てることができます。例えば、法律事務所であれば法律専門用語を、医療機関であれば医療用語をより正確に理解できるようになります。LoRA（Low-Rank Adaptation）
計算資源やデータ消費を大幅に抑えつつ、特定の用途や専門分野に特化させるための微調整を迅速に実施できます。これにより、汎用モデルでは難しかった業界特有の用語や文脈への対応が可能となり、応答の精度向上が期待されます。RAG（Retrieval-Augmented Generation: 検索拡張生成）
AIが質問に答える際に、事前に与えられた「参照資料」（例えば、会社の機密文書やマニュアル）を検索し、その情報を参考にしながら回答を生成する技術です。AIが「知らないこと」や「間違ったこと」（ハルシネーション）を話すリスクを減らし、より正確で信頼性の高い情報を引き出すことができます。例えるなら、AIが質問を受けたときに、すぐに答えを出そうとするのではなく、まず「信頼できる本棚」から関連する資料を探し、それを読んでから回答するようなイメージです。機密性の高い社内データを外部に出さずにAIに活用させる上で非常に重要な技術です。MLOps（Machine Learning Operations: 機械学習運用）
AIモデルを開発するだけでなく、実際にビジネスで使い続け、継続的に改善していくための運用プロセスやツールのことです。AIモデルは時間の経過とともに性能が劣化することがあるため（ドリフト）、MLOpsはモデルの監視、再学習、デプロイ（配置）、バージョン管理などを効率的に行うための重要な仕組みです。ローカル環境 / オンプレミス
AIを動かす「場所」を指します。「ローカル環境」は、自分のパソコンやデバイス上を意味し、「オンプレミス」は、企業が自社内に所有・管理するサーバーやデータセンターを指します。これにより、データが外部に漏れるリスクを最小限に抑え、情報セキュリティやデータ主権を確保できます。ハイブリッド運用
AIの導入形態において、ローカルLLM（オンプレミス）とクラウドAIの両方を組み合わせることです。機密性の高いデータやリアルタイム性が求められる重要な業務はローカルで処理し、それ以外の柔軟性や拡張性が重視される業務にはクラウドを活用することで、それぞれのメリットを最大限に享受し、リスクを最小限に抑える賢い戦略です。データ主権 / 情報安全保障
「データ主権」とは、データがどの国の法律によって管理され、誰がそのデータにアクセスできるかをその国が「自らの意思で決定できる」という考え方です。データが海外のクラウド上にある場合、その国の法律（例：米国のCLOUD Act）によって、日本のデータであってもアクセスされるリスクがあります。 「情報安全保障」は、このようなリスクから国の重要な情報資産を守り、国家や社会の安定を維持するための取り組みです。日本の大企業がローカルLLMに注目する大きな理由の一つです。AI利用者の「無自覚」と「思考停止」
ChatGPTなどのクラウド型AI（LLM）は、インフラ構築不要で手軽に利用できる利便性から広く普及しています。しかし、この「手軽さ」の裏側で、ユーザーのデータが外部のサーバーに送信され、処理されているという事実は、しばしば意識されません。これにより、機密情報の流出やプライバシー侵害のリスクが生じます。先述した米国のCLOUD ActやFISA Section 702といった外国法の適用により、日本国内にデータがあっても外国政府からのアクセスを受ける可能性があることは、多くの利用者が「無自覚」な点です。さらに、従量課金制によるコスト高騰のリスクも潜んでおり、利便性を優先するあまり、これらの潜在的な課題について「思考停止」に陥るケースが見られます。
ローカルLLM関連ツール・技術
GPT-OSS
OpenAIが開発した新しいローカルLLMです。特に軽量なモデル（20Bパラメータなど）でも高い性能を発揮し、Macなどの個人用PCでも動作するとされています。これにより、オンデバイスやローカル環境でのAI活用がさらに身近になることが期待されています。Hugging Face
AI、特に自然言語処理の分野で、多くのオープンソースのLLMモデルやツールが共有されているプラットフォームです。研究者や開発者がAIモデルを公開したり、他の人が作ったモデルを利用したりする「AIの図書館」のような存在です。ローカルLLMのモデルを入手する際によく利用されます。LM Studio
ローカルLLMを自分のPCで簡単にダウンロード、管理、実行するためのツールです。難しい設定なしに、様々なローカルLLMを試すことができるため、非ITエンジニアでもローカルAIを体験しやすい環境を提供します。Ollama
ローカルPC上でLLMを動かすための軽量なフレームワークです。Hugging Faceからダウンロードしたモデルを簡単に実行でき、GPUなどの高性能なマシンがなくても動作する柔軟性を持っています。セガなどの企業が業務活用事例で採用しています。llama.cpp
「Llama」というMeta社が開発したLLMを、比較的小規模な環境（CPUのみのPCなど）でも動作できるように最適化されたプログラムです。これにより、より多くの人が手元の環境でLLMを試せるようになりました。GPUStack
ローカル環境でモデルを実行するための、GUI/CLIで操作する統合管理ツールです。複数のGPUを効率的に管理し、モデルの実行を最適化することで、AIプロジェクトの生産性を大幅に向上させることができます。
おわりに
これらの用語を理解することで、「ローカルLLM」が単なる技術的な流行ではなく、データ主権、情報安全保障、コスト効率、そして企業独自の強みを最大限に引き出すための戦略的な選択肢であることが見えてきたのではないでしょうか。AIがもたらす「自由な選択」を、賢く使いこなすための第一歩として、これらの知識がお役に立てば幸いです。
▼過去の連載はこちら
① ChatGPTのその先へ！AIを「自分の手元で動かす自由」とは？
② 基礎を学ぶ: AIの「頭脳」、LLMって何？
③ あなたのデータはどこにある？AIの「拠点」戦略
④ クラウドAIの光と影：便利さの裏に潜むもの
⑤ 国内ローカルLLM事例8選
⑥ GPT‑OSS登場─本当の「オープン」AIがもたらす企業のAI基盤革命
⑦ デジタル赤字と小作人化する日本
⑧ 医療AI革命：患者データを守るローカルLLM
