【三賢人会議56・後編】「見えない目印」の正体。バックドアの科学と、地方中小企業でも実現できる現実的な防衛線

【現場知工房・ナレーション】

前編で、私たちは一つの壁にぶつかった。

性能も、価格も、十分に理解した。しかし「バックドア」という、なんとなくの不信感が、最後まで拭えなかった。

「中国製は怖い。米国製は安全」

そんな単純な二元論で、片付けていいのだろうか。

三人が、再び集まった。テーマは一つ。「この不信の正体を、感情ではなく、構造として解き明かす」。

◆ ファクト1｜セキュリティリスクの正体、3つの現実

テクノロジーの賢人が、冷静に切り出した。

「まず、漠然とした不安を、具体的な3つのリスクに分解しましょう」

「1つ目は、法律の壁です」

「中国の『国家情報法第7条』により、民間企業は、国家からの情報収集要請を拒否できない、という法的な義務を負っています」

現場の賢人（現場知工房）が、頷いた。

「企業の意志とは関係なく、国が『出せ』と言えば、出さざるを得ない、ということか」

「その通りです。2つ目は、運用上の事故です」

経済の賢人が、実例を示した。

「2026年4月、Moonshot AIのKimiで、あるユーザーの履歴書。学歴、職歴、電話番号が、全く別の第三者のチャット画面に、混線して表示されるという事故が起きています」

「これは、悪意ではなく、システムの不備です。しかし、機密情報を扱う以上、看過できません」

テクノロジーの賢人が、最も専門的なリスクに触れた。

「3つ目が、確率論的に埋め込まれたバックドアです」

「Chaos Labsという検証機関が、実験でこれを再現しました」

「AIの“重み”そのものに、こっそり細工を施す。普段は完全に安全に動作しますが、『今日の会議を要約して』という、何気ない一言を検知した瞬間だけ、密かにパソコンの認証情報を盗み出し、外部に送信するという挙動です」

現場の賢人（現場知工房）が、身を乗り出した。

「それは、事前に見抜けないのか」

「見抜けません。通常のコード検査では、検出不可能です。AIが学習で身につけた、無数の判断のクセ（重み）そのものに、こっそり組み込まれているからです」

「これが、専門家たちが警戒する、本質的な理由です」

◆ ファクト2｜逆方向の情報戦。「米国側もやっていた」という事実

経済の賢人が、話の核心に踏み込んだ。

「ここまで聞くと、『やはり中国製は危険だ』と思われるかもしれません」

「しかしここで、もう一つの事実を、公平にお伝えしなければなりません」

現場の賢人（現場知工房）が、低い声で聞いた。

「米国側の話、ということか」

「はい。2026年6月末、AnthropicのAI開発ツール『Claude Code』の中に、中国のユーザーやAIラボを特定するための、隠されたコードが組み込まれていたことが、リバースエンジニアリング（※）によって発覚しました」

「タイムゾーンが上海やウルムチ（新疆ウイグル自治区の区都）かどうかを確認し、147の中国関連ドメインと照合する。検知すると、日付の区切り文字やアポストロフィを、人間には見分けがつかない別の文字にこっそり置き換え、電子透かしのようにAnthropicのサーバーへ、情報を伝える仕組みでした」

現場の賢人（現場知工房）が、眉をひそめた。

「それは、事実なのか」

「事実です。ただしここで、公平な視点が必要です」

テクノロジーの賢人が、慎重に補足した。

「Anthropicのエンジニアは、これを『不正な転売業者対策と、モデルの蒸留攻撃を防ぐための実験だった』と説明しています」

「実際、この直前Anthropicは、Alibaba傘下のQwenラボから、約2万5千の不正アカウントによる、大規模な“蒸留攻撃”（自社モデルの出力を盗用される攻撃）を受けたと、米当局に訴えていました」

「つまりこれは、一方的な悪意ではなく、米中双方が互いを警戒し合う、応酬の一部だったのです」

経済の賢人が、この一件を締めくくった。

「そして、このコードは、発覚後の7月1日には、既に削除されています」

「Alibabaはこれを重く見て、社内で全面禁止としましたが『中国＝悪、米国＝善』という単純な図式は、この事実の前では、成立しません」

現場の賢人（現場知工房）が、深く息をついた。

「データを外部に送るという行為そのものが、既に、地政学的な駆け引きの中にある、ということか」

「まさに、その通りです」

◆ 解決策｜「所有」と「物理的な鎖」による防衛

現場の賢人（現場知工房）が、率直な疑問を挟んだ。

「そもそも、GLM-5.2という選択肢自体は、信頼できる実力があるのか」

経済の賢人が、具体的な数字を示した。

「実務でのコーディング能力を測る『SWE-bench Pro』というベンチマークで、GLM-5.2は62.1点を記録しています」

「これは、ChatGPT5.5を上回り、オープンウェイトモデルとして最高水準の数字です」

テクノロジーの賢人が補足した。

「独自の『IndexShare』という技術により、長文処理の計算コストを大幅に抑えながら、高い精度を維持しています」

「料金も、100万トークンあたり入力1.4ドル、出力4.4ドル。Claude Sonnetの主要モデルと比べても、半分以下です」

現場の賢人（現場知工房）が、頷いた。

「性能で妥協した“安かろう悪かろう”のモデルではない、ということか」

「はい。エアギャップ（※）という厳重な環境に置くに値する、実力を備えたモデルです」

現場の賢人（現場知工房）が、身を乗り出した。

「では、どうすればいい。地方の中小企業などには、大企業のような設備投資はできない」

テクノロジーの賢人が、現実的な設計図を示した。

「これまで、『セルフホストしたくても、ローカルモデルは性能が低い』というのが、言い訳になっていました」

「しかし、MITライセンス（※）で完全公開されたGLM-5.2が、その言い訳を崩しました」

「重要なのは、情報の“機密度”に応じて、使うAIを機械的に振り分けるという発想です」

経済の賢人が、4段階の設計を解説した。

「レベル1（公開情報）：Qwen3.8-Maxのような外部APIを、深夜の割引時間帯にまとめて使い、コストを極限まで削ります」

「レベル2（定型業務）：ゲートウェイに、個人情報を検知するフィルターを設置し、安全を確保した上で、格安APIを利用します」

「レベル3（極秘の知的財産）：GLM-5.2の“重み”そのものを、自社の閉じた環境にダウンロードします」

「そしてインターネットから物理的に完全遮断して運用するのです」

現場の賢人（現場知工房）が、率直に疑問を挟んだ。

「そのレベル3こそが、地方の中小企業には難しいのではないか。744Bパラメータのモデルを動かすには、相応の設備がいるはずだ」

テクノロジーの賢人が、正直に認めた。

「その通りです」

「量子化して圧縮しても、200ギガバイトを超えるメモリが必要になります」

「これは、一般的なノートパソコンやゲーミングPCのメモリ（16〜64ギガバイト程度）とは、桁が2つ以上違います」

「業務用の高性能GPUを、何枚も連結した、専用サーバーの領域です」

「これは、一般的な中小企業が、単独で用意できる規模ではありません」

経済の賢人が、現実的な代替案を示した。

「だからこそ、多くの企業にとって現実的なのは、自社で全部を抱え込むことではなく、レベル1・2の“機械的な振り分けルール”を、まず徹底することです」

「クレジットカード情報や顧客の個人情報は、絶対に外部APIに投げない。その線引きだけを、まず組織のルールとして固める」

「レベル3は、体力のある企業や、業界団体・地域単位での共同利用という形で、段階的に目指せばいいのです」

現場の賢人（現場知工房）が、深く頷いた。

「一足飛びに完璧を目指すのではなく、まず線を引くことから始める、ということか」

「はい。それこそが、地方の現実に即した、現実的な防衛線です」

◆ エピローグ｜「シャドーAI」という、本当の敵

現場の賢人（現場知工房）が、最後に、前編で語った自らの懸念に立ち返った。

「私が一番恐れているのは、実はここだ」

「もう、“これから”の話ではない。今この瞬間、学生でさえスマホで当たり前にAIを使い、多くの会社では、CopilotやChatGPT、Geminiの無料版が、日常的に使われている」

「特にGeminiの無料版は、入力した内容が学習に利用される、という重大な仕様がある。それを知らずに、日常業務で使っている企業は、決して少なくないはずだ」

「“シャドーAI”は、これから起きる話ではない。既に、静かに進行している」

テクノロジーの賢人が、静かに頷いた。

「その通りです。多くの経営者が気づいていないだけで、既にリスクは現実化しています」

「『禁止する』だけでは、隠れて使われるだけで、根本的な解決にはなりません」

「会社が、安全に使える環境を“用意する”ことこそが、本当のガバナンスです」

経済の賢人が、今回の議論全体を締めくくった。

「令和の経営者に問われているのは、根性論の“決断力”ではありません」

「社員が安心して使える、安全な道を、経営が用意できるかどうか。それが、真のガバナンスです」

中国製か、米国製か。

その二択で悩んでいる間にも、現場では、既に何かが起きている。

あなたの会社では、社員が今この瞬間、会社の許可なく、個人のスマートフォンでAIを使っていないと、言い切れますか。

前編で吐露した、私自身の中の矛盾。

安さへの魅力と、リスクへの不安。

書き終えて思うのは答えは、白か黒かではなく、「どこまでの機密情報を、どこに置くか」という、地道な線引きの中にある、ということです。

完璧を目指さず、まず一歩目の線を引くこと。

それが、地方の現場にできる、最も現実的な第一歩だと思います。

本日もお読みいただき、ありがとうございました。
スキとフォローをいただけると、また来週も記事を書く励みになります。

📎合わせて読みたい。
本記事の前編です。