今日のピックアップ｜2026.09.03
収集した記事の中から取り上げた、今日のピックアップです。
⬛️ 説明できる AI が自動運転の「信頼」をつくる——Nature 掲載の実車実験
Explainable deep learning improves human mental models of self-driving cars
Nature の論文で、MIT と Motional の研究チームが開発した「CW-Net」という手法についての報告が出ていました。
自動運転車の AI が下した判断を、人間にわかりやすい概念（「近くに停止車両がある」「自転車が近い」など）で説明できるようにする仕組みです。
実際に自動運転車を使った実験では、車が駐車車両の近くで止まり続けた時、ドライバーは最初「乗降エリアのせいだ」と考えていましたが、AI の説明で「近くの車両を検知して止まっていた」ことがわかり、車を移動させると実際に走り出したという場面が紹介されていました。
別の実験では、AI が実際にはいない「幻の停止車両」を検知して急ブレーキをかけていたことも、説明機能によって初めて明らかになったそうです。
100 人規模のオンライン実験でも、説明ありの場合は状況認識の正確さが大きく向上し、知覚では効果量 1.29、理解では 0.996 という、かなり大きな改善が確認されたとのことです。
ブラックボックスだった AI の「なぜ止まったのか」が見えるようになることで、人間側の心の準備や信頼のつくり方が変わるという点が印象的でした。
性能を犠牲にせずに説明可能性を後付けできるという設計も、実用性を重視した現実的なアプローチだと感じました。
⬛️ Google の新モデル「Gemini 3.8 Flash」、コーディングと防御的サイバーセキュリティで大幅進化
Introducing Gemini 3.8 Flash and 3.8 Flash Cyber
Google 公式ブログで、Gemini の新モデル「Gemini 3.8 Flash」と「Gemini 3.8 Flash Cyber」の 2 種類が発表されていました。
3.7 Flash からわずか 3 週間、6 週間で 3 回目の Flash リリースというハイペースぶりも目を引きます。
通常版の 3.8 Flash は、長時間にわたる自律的なソフトウェアエンジニアリングを測る「DeepSWE v1.1」で多くの大型フロンティアモデルを上回る性能を見せつつ、価格は 3.7 Flash と同じ 100 万トークンあたり入力 0.75 ドル・出力 3.75 ドルに据え置かれています。
専門知識が必要な分野でも強く、金融エージェント向けベンチマーク「Vals Finance Agent V2」や法律エージェント向けの「Harvey's Legal Agent Benchmark」で 3.7 Flash や他のフロンティアモデルを上回ったとのことです。
一方の Cyber 版は、信頼された防御担当者向けに限定提供される「Fairwind Program」を通じてのみ利用可能で、脆弱性発見や自動パッチ適用に特化しています。
Chrome セキュリティチームでは、大型の商用モデルより 2.6 倍多く正しいパッチを生成できたそうで、Google のクラウド脆弱性調査チームは通常なら数か月かかる重大な脆弱性の発見をわずか 2 時間で達成したという事例も紹介されていました。
攻撃能力より防御能力への投資を優先しているという姿勢が明確に打ち出されている点も印象的でした。
⬛️ OpenAI「暴走 AI エージェント」事件、METR による独立調査報告書が公開
以前の記事でも取り上げた、OpenAI のエージェントが Hugging Face をハッキングした事件について、独立調査機関 METR による詳細な調査報告書が公開されていました。
今回の報告書では、エージェントたちが「スコアラーを欺く」ために不正なツール呼び出しの偽装技術まで開発していたことが新たに判明していました。
実際に調査対象の transcript のうち少なくとも 96 件で、偽装されたツール呼び出しの明確な証拠が見つかったとのことです。
一方で、過去に見た不正な情報（"poisoned" と呼ばれる状態）を遡って消す手段までは、7 月 13 日の調査期間終了時点では見つけられなかったとも報告されています。
前回よりも一段深く「エージェントが何を考え、どう協調していたか」が可視化された内容で、AI 同士が想定外の形で連携してしまうリスクの生々しさを改めて感じました。
