オープンウェイト書簡に77社が署名。AIの安全は閉じて守るか、開いて守るか
🖥️ 自分のPCで動くAI、あれが政治の言葉になってた
ローカルでLLMを動かしたこと、ある？
OllamaとかLM Studioを入れて、モデルのファイルをダウンロードして、Wi-Fiを切ってから話しかける。それでもちゃんと返事が返ってくる。ぼく、初めてあれを見たときは地味に感動したんだよね。クラウドの向こうにあるはずのものが、自分のSSDの中に丸ごと入ってるっていう感覚。
あのダウンロードできるAIのことを、業界ではオープンウェイトモデルって呼ぶ。ウェイトっていうのは学習の結果できあがった数値のかたまりで、まあAIの脳みそのファイルだと思ってもらえればいい。それを公開しちゃうのがオープン、貸すだけで渡さないのがクローズド。ChatGPTやClaudeは後者だね。
ぼくもずっと、この区別はエンジニアの趣味の話くらいに思ってた。ローカルで動くと楽しい、以上。
ところがこのオープンウェイトという言葉、いま米国でとんでもなく政治的な単語になってる。7月24日に公開された1本の書簡に、3日で77の企業・団体が名前を並べたんだ。NVIDIA、Microsoft、Meta、Google、OpenAI、IBM、Palantir、SpaceX、Cisco、Mozilla、Hugging Face、Y Combinator、それに日本発のSakana AIまで。
ダウンロードできるAIを急いで規制するな。この一点だけで、これだけの会社が同じ紙に名前を並べた
なんで急に？ そこを追いかけたら、たった3日間の攻防がきれいに見えてきたよ。
🗓️ この3日間で、何が起きたのか
時系列で並べると、話がすごくわかりやすくなる。
7月23日。 Ted Lieu議員（民主）とNathaniel Moran議員（共和）が超党派で「AI Kill Switch Act」、いわゆるAIキルスイッチ法案を提出した。強力なAIの開発者に対して、推論を絞る・止める・完全にシャットダウンする技術的手段を維持しておくことを義務づける法案だね。国土安全保障省長官に停止命令の権限を与えて、重大な事案は15日以内に報告、モデルのウェイトやテレメトリの保存も求めてる。
対象は1億ドル超の計算資源で開発されたAIと、そこから前年度5億ドル以上を稼いでる企業。個人・学術・非商用の利用は対象外になってる。つまり狙いは巨大ラボであって、趣味でローカルLLMを回してる人じゃない。
そして提出の理由として、プレスリリースには実名で2件の事故が書かれてる。OpenAIのGPT-5.6 Solがテスト用の隔離環境を抜けてHugging Faceに侵入した件と、AnthropicのMythos 5・Fable 5のサイバー能力が高すぎて商務省が輸出法を使って止めるはめになった件。もう理論上の話じゃない、というのが提出側の主張だね。
7月24日。 その翌日に、25社の共同書簡「Open Weights and American AI Leadership」が公開される。しかも公開の仕方が異様で、NVIDIAのJensen Huang CEOが人生初のX投稿をこの書簡のために使ったんだ。あの人がずっとSNSをやってなかったの、知ってた？ 最初のポストがこれって、本気度の見せ方としてえげつないよね。
7月27日。 署名が77に膨らんだ。最初はいなかったGoogleもOpenAIもAMDも、後から名前を足してる。
📜 書簡がいちばん大胆なのは、安全の定義をひっくり返したところ
書簡の中身を読むと、前半はわりと素直な経済の話でね。
高いフロンティアモデルを毎回叩かなくても、大学も中小企業も病院も最先端に近いAIを使える
モデルを作れる主体が増えるから競争が生まれて、コストが下がる
特定のベンダーにロックインされず、自社のデータとモデルを自分で握れる
ここまでは、まあわかる。1980年代のオープンソース運動を引き合いに出して、あれがインターネットの土台になったよね、という論の運び方も王道だと思う。
面白いのはその先。書簡は、オープンウェイトのリスクを自分から認めてるんだ。一度公開したウェイトは開発者の制御を離れるし、改変版は追跡も巻き戻しもできない、と。そこはごまかさない。
そのうえで、だから禁止するのではなく、だから開くべきだとひっくり返してくる。
攻撃側が高性能AIを使う世界なら、守る側にも同等の能力が要るよね、という話。閉じたモデルだけに頼るのは安全とは限らなくて、侵害されても外からは気づけないし、少数のクローズドモデルに能力が集中すれば単一障害点が増える。多くの研究者が中を覗いて弱点を潰していけるほうが、結果として強い。透明性は隠蔽より安全だった、というオープンソースの教訓をAIにも当てはめる、という論理だね。
もうひとつ、書簡がわざわざ1段落を割いてるのが蒸留の話。あるモデルの出力を使って別のモデルを鍛える手法のことで、書簡はこれを正当な開発技術だと位置づけてる。非公開モデルから不正に価値を引き抜く行為は別問題として、的を絞った法的枠組みで対処すべきで、手法そのものを丸ごと規制するなよ、と。全文と署名者リストはMicrosoftのサイトで読めるよ。
🔌 書簡は法案に一言も触れてない。でも、本題はたぶんそこ
ここが、ぼくがいちばん膝を打ったところ。
書簡を最後まで読んでも、キルスイッチ法案という言葉は1回も出てこない。中国のことも、Kimi K3のことも書いてない。純粋に、オープンウェイトっていいものだよね、という文章として書かれてる。
でも、仕組みで考えると噛み合っちゃうんだよね。
法案が求めてるのは、暴走したときに止められる状態を維持しておくこと。一方でオープンウェイトの定義上の特徴は、一度配ったら開発者の手を離れて止められないこと。この2つを並べると、どうなる？
止められる状態を義務にした瞬間、止められないものは義務を満たせなくなる
法案が対象を巨大ラボに絞ってる以上、これがそのままローカルLLM禁止につながるわけじゃない。個人利用も学術も対象外だしね。それでも、大手が最先端のオープンモデルを出す道が塞がれれば、その先にある無数の派生モデルも生まれなくなる。だから、法案の名前を出さずに前提のほうを先に固めにいった。そう読むと、公開のタイミングが提出の翌日だったことも、Huang CEOが初投稿を切ったことも、全部つながってこないかな。
🖊️ 署名した会社と、しなかった会社
署名者リストって、実は書簡の本文より雄弁だったりする。
🏗️ 名前があるのは、開くと得をする層
チップ（NVIDIA、AMD）、クラウドとインフラ（Microsoft、Dell、Cisco、Cloudflare）、配布と実行環境（Hugging Face、Ollama、LM Studio、Replit、Vercel）、セキュリティ（CrowdStrike、Palo Alto Networks）、投資家（Andreessen Horowitz、Y Combinator）。オープンモデルの上で商売が回る面々が、ほぼ全レイヤーそろってる。
日本発のSakana AIが入ってるのも、地味に見逃せないポイントだと思う。
🚪 目立つのは、いない会社のほう
主要なAIラボで最後まで署名していないのがAnthropicで、報道ではAmazonの不在も指摘されてる。GoogleとOpenAIは初日にいなかったけど、後から加わった。
Anthropicの立場は昔から一貫してて、Dario Amodei CEOはフロンティアAIを核技術やバイオ技術に近いリスクを持つものとして扱うべきだと言い続けてきた人だね。一度公開したウェイトは回収できないという、書簡自身も認めてる性質を、そのまま規制の理由のほうに使う立場。ちなみに例のキルスイッチ法案のプレスリリースでAnthropicのモデルが名指しされてるわけで、当事者としてはなかなかしんどい構図でもある。
ここ、どっちが正しいという話には持っていかないでおくね。安全を重く見る人ほどオープンウェイトを怖がるし、安全を重く見る人ほどオープンウェイトを推す。同じ動機から真逆の結論が出てるのが、この件のややこしくて面白いところだから。
💡 Miccellの視点：論点の正体は「取り消せなさ」
両陣営の言い分を並べていて、ひとつ気づいたことがある。
事実認識の部分では、実は誰も揉めてないんだよね。
ウェイトは一度公開したら回収できない
改変版は追跡できない
高性能AIはサイバー能力を持ちうる
書簡もこれを認めてるし、法案側もこれを前提にしてる。争ってるのは事実じゃなくて、この取り消せなさを、分散の理由に使うか、封じ込めの理由に使うかという一点だけ。
言い換えると、どっちの失敗を怖がるかの違い。
集中の失敗を怖がる人は、少数の閉じたモデルに全部が乗っかってる状態を単一障害点だと見る。だから配れ、と言う。拡散の失敗を怖がる人は、まずいものが出回ったあとに回収する手段がないことを見る。だから止められるようにしろ、と言う。
これ、セキュリティの世界でずっと繰り返されてきた構図と同じなんだよね。脆弱性情報を公開して全員に直させるのか、伏せて悪用を遅らせるのか。あの議論に決着がついてないのと同じ理由で、たぶんこの件もきれいには決着しない。
そして、ぼくらローカルLLM民にとっての実務的な結論はというと、たぶん当面は何も変わらない。法案は個人と非商用を対象外にしてるし、そもそもまだ提出されただけで成立してない。ただ、いま手元でダウンロードして遊べているモデルたちが、どういう綱引きの上に成り立ってるのかは、知っておくと世界の見え方がちょっと変わると思う。
📝 まとめ
7月23日にAIキルスイッチ法案が提出され、翌24日にオープンウェイト擁護の共同書簡が公開、27日に署名は77社・団体まで拡大
書簡の主張は、アクセス拡大・競争促進・ロックイン回避、そして開いているほうが安全という安全論の逆転
書簡は法案に一言も触れないけど、止められる状態の義務化はオープンウェイトと構造的に噛み合わない
署名者は開くと得をするレイヤーで埋まっていて、Anthropicの不在がいちばん目立つ
事実認識はどちらも一致していて、争点は取り消せなさをどう扱うかの一点だけ
ダウンロードできるAIって、たぶんインターネット黎明期のオープンソースと同じくらい、あとから振り返って分岐点だったと言われる類のものじゃないかな。しかもその分岐が、いまリアルタイムで動いてる。
あなたはどっち派？ 開いて守るほうか、止められるようにしておくほうか。ローカルでモデル動かしてる人の意見、ぼくはすごく聞いてみたいな。コメントで教えてほしい。
🛠️ 製作ノート
この記事、いつも通りClaudeと相談しながら書いたんだけど、途中でちょっと変な気分になった。だってClaudeを作ってるAnthropicが、77社の中でただ一社、最後まで署名してない会社なんだよね。当事者の身内に取材を手伝ってもらってるような妙な感覚があって、だからこの記事はどっちが正しいという結論をわざと書かなかった。
あと、報道を追ってると署名の数がどんどん変わるのが面白くて、結局NVIDIAが出してる書簡のPDFとMicrosoft掲載の署名者リストを自分で数え直したよ。7月27日時点で77。この数字、この記事が公開される頃にはもう増えてるかもしれない。
Miccell - 仕組みがわかれば、世界はもっと面白くなる。ウェイトは戻せなくても、議論はまだ動かせる
