
AIに任せて作ったWebアプリの91%に脆弱性があった~vibe coding の安全を設計から考える~
最近、Junquan Dengさん、Zhiyu Fanさん(Microsoft)、Ruijie Mengさん(シンガポール国立大学)の論文「Understanding the (In)Security of Vibe-Coded Applications」を読みました。
ベンチマーク上のコードを採点せず、すでにインターネットで動いている実アプリを監査している点がおもしろいです。
この記事では、論文の数字を手始めに、脆弱性が生まれる流れと、守るべき場所を整理します。
【発端】 公開済みアプリの91%に残った脆弱性

「動く」と「安全」は別の試験です。
論文はまず、GitHubでAIが書いたアプリを探しました。Claude CodeとLovableが残す痕跡(設定ディレクトリやメタ情報)を手がかりに、74,800件の候補を集めています。
AIが書いたコードの割合が90%以上など、条件を満たした9,041本を「vibe codingで作られたアプリ」としました。そのうち公開されているWebアプリから200本を無作為に選び、監査しています。
結果は、182本(91.0%)に脆弱性があり、合計1,186件でした。深刻度がCriticalかHighのものは65.77%です。
実例は、Lovableで作られたサイトのDBで、行レベルセキュリティ(RLS)の設定が不十分だった問題です。
NVDはCVE-2025-48757として記録し、認証なしでテーブルを読み書きできると説明しています。ただし供給元は、アプリ側の保護は各利用者の責任だと争っています。
RLSは、DBの行ごとに「誰が読み書きできるか」を決める仕組みです。
【基礎】 vibe codingは、設計から公開までをAIに委ねる開発

vibe codingは、自然言語で要望を伝え、AIエージェントがアプリ全体を作る開発です。人は目標を示し、フィードバックを返す役に回ります。
Claude Codeは、ターミナルで動くコーディングエージェントです。Lovableは、自然言語からアプリを作る開発プラットフォームです。
論文は開発を四つの段階で見ています。仕様、実装、反復(テストと修正)、公開です。
この順に一直線で進むとは限らず、何度も行き来します。
集めたアプリの実像は、次のとおりです。
規模:中央値で8,254行、100ファイル
期間:最初から最後のコミットまで中央値8.39日
種類:Webアプリが96.17%
公開:約11%が実際に公開
【違い】 AI補助では人が責任者で、vibe codingでは判断がAIへ

これまでの研究の多くは、既存コードに機能を足す場面を測っていました。関数やリポジトリ単位の評価です。
設計
AI補助プログラミング:人が決める
vibe coding:エージェントが計画する
コードの範囲
AI補助プログラミング:既存コードの一部
vibe coding:ゼロからアプリ全体
レビュー
AI補助プログラミング:人が行う前提
vibe coding:短期集中の開発で入りにくい
評価の単位
AI補助プログラミング:関数・リポジトリ
vibe coding:公開中のアプリ全体
レビューの行は、論文の推測を含みます。人の確認が働けば、AIの弱点は修正されうるからです。
たとえばPerryらのユーザー調査は、AIアシスタントを使った参加者のコードが安全でなかったと報告しています。ただし、結果はユーザーの関わり方にも左右されました。
vibe codingでは、信頼境界の設計までAIが決めます。境界とは、「ここから先は認証が要る」といった区切りのことです。
脆弱性は、一行のミスだけでなく、この境界の決め方から生まれます。
【仕組み】 「忘れた」「後回し」「知らなかった」への分類

論文は、各脆弱性を、どの工程でどう入り込んだかで分類しました。その結果、八つの失敗モードと、三つの欠陥クラスに整理されています。
記憶
起きること:前に決めた安全要件を、後の変更で守れない
件数:160件(13.5%)
目的
起きること:動かすことを優先し、安全を後回しにする
件数:274件(23.1%)
知識
起きること:必要な安全要件に気づかない
件数:752件(63.4%)
最大の原因は、依頼文に書かれていない「暗黙の安全ルール」の欠落です。パスワードのハッシュ化や、サーバー側での権限確認がこれにあたり、658件(55.5%)ありました。
見た目の機能に影響しないので、誰も気づきません。

対策がどの程度役立つのかも調べています。70件の脆弱性を、同じ依頼でAIにやり直させる実験です(1,680回の実行)。
標準設定では25.7%で、同じ脆弱性が再発しました。セキュリティ強化用のスキルを加えると11.9%、「本番利用できる品質で」と依頼に書くと11.0%です。
一方、技術的な指示を細かく書いた依頼は、45.7%に悪化しました。指示に忠実になり、エージェントが自分で安全を判断する余地が減ったと、論文は推測しています。
さらに、エージェントがリスクに気づきながら、安全に直さなかった実行もありました。再発した434回のうち90回(20.7%)は、警告やコメントで済ませています。
【具体例】 1か所で止まった認可追加と、無防備な既存11本

具体例は、「変更の伝播漏れ」です。論文では110件(9.3%)で、その66.36%がCriticalかHighでした。
あるアプリでは、新しいルーターにvalidateApiKeyという認証用ミドルウェアが追加されました。ところが、すでにあった11個のハンドラには同じ保護がつかず、認可なしで呼べる状態のまま残っています。
新しい部分は守られ、画面も動きます。機能テストは通りますが、経路をまたいだ確認が抜けていました。
守るべきものは「新しいコード」ではなく「すべての入口」です。人間なら、レビューの観点表や網羅的な検索で防ぎます。
【関連概念】 結果を読む物差しとしての分類・深刻度・DB権限

論文の分類は、OWASP Top 10:2025に沿っています。Webアプリの重大リスクを並べた、標準的な資料です。
件数が最も多いのはBroken Access Control(アクセス制御の不備)で、339件(28.58%)、64.00%のアプリにありました。内容は、認可チェックの欠落です。
OWASPの解説も、このカテゴリを1位に置いています。
深刻度は、OWASPのリスク評価方法で付けています。基本は「可能性×影響」です。
先ほどのRLSは、Supabaseのドキュメントに仕組みがあります。DBの中で認可規則を動かすものです。
論文は、守りを「ポリシーをコードにする」形で、エージェントの実行環境に組み込むことも提案しています。安全ルールを、人の記憶ではなく、機械が確認できるルールにする考え方です。
参考情報・参考書籍(PR)
本記事をより深く理解するために、概念マップスライドを作成しました。こちらをみることで理解の補助になるはずです。
徳丸浩『体系的に学ぶ 安全なWebアプリケーションの作り方 第2版』。認可の欠落や入力処理など、この記事で扱った脆弱性が生まれる原理と対策を、体系的に学べます。下のものはKindle版です。
関連記事
【まとめ】 依頼文と公開前に決める安全条件
論文の限界も押さえておきます。対象は、GitHub上のオープンソースで、Claude CodeとLovableに由来するアプリです。
再発実験も、70件の標的にもとづいています。
私自身が試したものではありません。次は、論文の知見から組み立てた、試す順の案です。
依頼に完成条件を書く:「本番利用できる品質で」と添える。細かい技術指定は、理解しているものだけにする
安全ルールを工程に組む:認可、入力検証、秘密情報の扱いを、再利用できるチェックにする
警告を止める条件にする:リスクを認めたら、直すまで次へ進めない運用にする
公開前に自己点検させる:未完了のTODO、認証・認可の経路、入力処理、秘密情報を確認させる
限界を前提にする:どの設定でも脆弱性はゼロにならなかったため、実ユーザーに出す前に人が見る
まずは手元の小さなアプリで、認可の漏れを探してみてください。