自治体AIの情報管理：「地域AI主権」の確立を(情報安全保障の新常識⑱)
「ChatGPTに秘密をペラペラ明かさない方が良い」
「ChatGPT」の生みの親であるOpenAIのCEO、サム・アルトマン氏自身がこう警鐘を鳴らしています。これはプライベートな相談を安易に入力している個人利用者が多いことへのアルトマン氏による危惧でした。私は自治体におけるAI活用が増えるなか、国民の個人情報、政策立案に関わる機密データ、地域固有の知見など、極めて高い機密性と公共性を有する国民の「財産」情報が「ペラペラ」と入力されている可能性が高いと考え危惧しています。
人口減少や高齢化、地域経済の停滞といった複合的な課題に直面する日本において、デジタル変革（DX）の推進は地域創生・地方創生のための喫緊の課題となっています。その解決策としてAI、特に生成AIの活用が全国の自治体で急速に進められています。議会答弁書の作成支援、広報資料の生成、多言語対応チャットボットによる住民サービス向上など、その活用範囲は広大であり、実際に業務効率化や住民サービスの向上に寄与する事例も報告されています。こうしたAI活用を推進するため、自治体職員や地域おこし協力隊を対象とした非エンジニア向けの生成AI研修が盛んに行われており、多くの場合、ChatGPTなどのクラウドAIサービスがそのツールとして利用されています。
しかし、このようなクラウドAIサービスへの安易な依存は、「情報安全保障」の観点から深刻なリスクをはらんでいます。自治体が扱う情報は、国民の個人情報、政策立案に関わる機密データ、地域固有の知見など、極めて高い機密性と公共性を有する国民の「財産」です。これを外部のクラウドAIサービスに安易に入力する行為には、警鐘を鳴らすべきと強く懸念します。
クラウドAI利用が抱える情報安全保障上の懸念
生成AIモデルの最先端を走るOpenAIのCEOサム・アルトマン氏自身が、AIとのやり取りにおけるプライバシー保護の必要性を強調し、カーネギーメロン大学の研究者も、AIモデルが具体的にどう機能しているかはっきりしないこと、そして自分の会話が漏れない仕組みが不透明なことを考えるだけでも、利用に慎重になる理由として十分すぎると述べています。
企業や組織において「データを第三者に公開したくない」という理由で、国内でもローカルAI（ローカルLLM）の構築事例が増えています。これはデータのプライバシーとセキュリティに関する懸念を抱いているからです。
自治体においても、機密性の高い住民情報や行政データが、意図しない形で外部のクラウドベンダーに渡り、そのモデルの学習に利用されたり、あるいはデータ漏洩のリスクに晒されたりする可能性は決して看過できません。これは、行政に対する住民の信頼を大きく損ねるだけでなく、日本のデータ主権、ひいては情報安全保障を脅かす重大な問題となり得るのです。
「地域AI主権」確立のために
このような情報安全保障上のリスクを回避し、自治体独自の競争優位性を確立するためには、自社・自組織AIインフラ基盤の構築と、オープンソースAIの積極的な活用が不可欠です。
データ主権と情報漏洩リスクの回避
オンプレミス環境では、データが自社の物理的なインフラ内に留まるため、外部クラウドプロバイダーに依存することなく、データに対する完全な主権と制御を維持できます。これにより、不正アクセスや意図しないデータ漏洩、あるいは第三者によるデータ利用のリスクを最小限に抑えられます。金融機関のBNP Paribasが最先端のLLMをオンプレミスで管理する環境に導入する計画を進めているように、機密性の高いデータを扱う業界では、このアプローチが現実的かつ戦略的に重要視されています。医療機関の事例でも、電子カルテ情報などの機密性の高い医療データを院外に出すことなくAI活用が可能とされています。厳格な規制遵守とコンプライアンス
金融や医療といった規制産業において、データ所在地やセキュリティ規制は非常に厳格です。日本の自治体も同様に、個人情報保護法など厳格な法規制の適用下にあります。オンプレミス環境であれば、データが日本の国内に確実に存在し、日本の法規制下で管理されるため、コンプライアンス要件を容易に満たし、法的リスクを大幅に軽減できます。銀行のLLM展開事例でも「規制遵守」が課題として挙げられています。機密性の高い独自データの保護と活用
自治体が長年蓄積してきた住民の声、地域特有の統計データ、災害時のノウハウなどは、まさにその自治体独自の「知的資産」です。これらの極めて機密性が高く、外部に出せないデータをオンプレミス環境で安全にAIモデルの学習に利用することで、他では真似できない高精度で差別化されたAIサービスを構築できます。例えば、地域の特性や方言、特定のデータ形式を考慮したプロンプト作成や、RESAS（地域経済分析システム）などの地域データをAIに学習させることで、地域固有の課題解決に特化したAIモデルを育成できます。オープンソースAIの透明性と自律性
オープンソースAIは、その設計図であるソースコードが公開されているため、AIがどのように判断を下しているのか、その仕組みを理解しやすくなります。これにより、ブラックボックス化された商用AIサービスとは異なり、透明性と信頼性を確保できます。また、特定のベンダーの都合でサービスが終了したり、価格が大幅に改定されたりするリスクがなく、技術を永続的に自らの管理下で利用し続けることが可能です。これは、自治体のAI活用における「自律性」を担保し、デジタル赤字やデジタル小作人化を避ける上で極めて重要な意味を持ちます。Hugging Faceのようなプラットフォームには、世界中の技術者によって開発された190万を超えるAIモデルが公開されており、日本語に特化したLLMも多数存在します。これらのオープンソースモデルをベースに、自治体独自のデータでファインチューニング（微調整）することで、コストを抑えつつ、カスタマイズされた高精度なAIモデルを内製化することが可能です。
自治体が今、取り組むべきこと
自治体がクラウドAIを利用した研修を推進し、職員のAI「利用」のリテラシーを高めることは重要です。しかし、その過程で、国民の財産である行政や自治体固有の情報を安易にクラウドAIに入力している可能性を特に意識する必要があります。
自治体は、AI導入を単なる業務効率化のツールとしてではなく、地域社会の「情報安全保障」に関わる戦略的投資として位置づけるべきです。
クラウドAIの利用ガイドラインを厳格化し、機密情報や個人情報の入力は一切禁止するなどの明確なルールを徹底
機密データや地域固有データを取り扱う業務には、オンプレミス・ローカルLLMの導入を積極的に検討し、安全で制御された環境でのAI活用を推進
オープンソースAIのメリットを理解し、その活用に必要な人材育成と、外部専門家（オンプレミスAI基盤提供会社やAIコンサルティングファーム）との戦略的な連携を強化
自治体のAI活用においては、「地域×AI×情報安全保障」という視点が不可欠です。今こそ、自治体は情報安全保障の重要性を認識し、安易なクラウド依存から脱却し、地域社会の未来を自らの手で切り拓く「地域AI主権」の確立に向けて、大胆な一歩を踏み出す時であると強く提言します。
私は、ただ論じるだけではなく、自らの行動も起こしました。
１．「AIの主権」を考えるための勉強会を始めました。
２．「自社・自組織AI」の「モデル」をお客様と共創する会社を始めました。
勉強会や自社AIの構築にご興味ある方は、Xフォローお願いします！
▼過去の連載はこちら
① ChatGPTのその先へ！AIを「自分の手元で動かす自由」とは？
② 基礎を学ぶ: AIの「頭脳」、LLMって何？
③ あなたのデータはどこにある？AIの「拠点」戦略
④ クラウドAIの光と影：便利さの裏に潜むもの
⑤ 国内ローカルLLM事例8選
⑥ GPT‑OSS登場─本当の「オープン」AIがもたらす企業のAI基盤革命
⑦ デジタル赤字と小作人化する日本
⑧ 医療AI革命：患者データを守るローカルLLM
⑨ ローカルLLMの用語集
⑩ 機密情報の砦：企業がローカルAIを選ぶべき「深い事情」
⑪ 従業員がChatGPTを使うリスクとは？
⑫ 製造業のAI最前線：品質と効率を高める秘密
⑬ リアルタイムAIの真価：遅延が命取りになる現場とは
⑭ AIの倫理を考える：「便利さに任せた衝動」か、「責任ある未来」か
⑮ 「日本の『秘密』が売られる」ローカルLLM勉強会、始めました。
⑯ 蝉時雨のなかで、AI時代の「選択」を想う
⑰ 共有知の結晶：なぜ今、私たちは「オープンソースAI」を知るべきなのか
