ターミネーターは玄関から来ない🔯AI時代、中学生に大企業が負ける理由
「犯人は天才少年でした」で済ませてよいのか
ミカ：教授、大企業のセキュリティーが、中学生に破られたという話を聞きました。
教授：それは大変だ。
ミカ：やはり、その中学生は天才ハッカーなのでしょうか。
教授：そうかもしれない。しかし、天才を称賛する前に、会社が玄関の鍵を閉めていたか確認した方がよい。
ミカ：大企業ですよ。玄関どころか、何億円もするセキュリティーシステムがあるはずです。
教授：立派な監視カメラを百台設置して、裏口に「鍵は植木鉢の下」と書いてある会社もある。
ミカ：それはセキュリティーではなく、宝探しですね。
大企業のシステムが若者に破られたと聞くと、私たちはつい、映画に登場するような天才少年を想像する。
暗い部屋で複数のモニターを並べ、ものすごい速度でキーボードをたたき、最後に画面へ「ACCESS GRANTED」と表示させる。
しかし、現実の侵入はそれほど劇的ではない。
原因は、次のような地味で退屈な管理ミスであることが多い。
更新されていない古いシステム
使い回されたパスワード
退職者のまま残っているアカウント
多要素認証が設定されていない管理画面
外部へ公開されたままの試験用サーバー
警告が出ていたのに放置された監視記録
つまり、中学生が大企業に勝ったというより、大企業が自分で靴ひもを結び忘れて転んだのである。
一つの穴を見つければ勝てる攻撃者
ミカ：それでも、大企業には専門の情報システム部門があります。
教授：攻撃者は一つの穴を見つければよい。しかし、防御側はすべての穴をふさがなければならない。
ミカ：ずいぶん不公平な競技ですね。
教授：サッカーでいえば、守備側は二十四時間試合を続け、攻撃側は好きな時間に一度だけシュートを打てばよい。
サイバー防衛が難しい最大の理由は、この非対称性にある。
攻撃者は、数千台の端末、複数のクラウドサービス、取引先との接続、従業員のメール、古い業務システムのうち、どこか一つを突破すればよい。
一方、企業はそのすべてを守らなければならない。
しかも、大企業ほどシステムが複雑である。
会社を買収すればシステムが増える。
新しいサービスを始めればアカウントが増える。
テレワークを導入すれば接続経路が増える。
取引先と連携すれば、その取引先の安全性まで影響してくる。
会社が成長するほど、城壁が高くなる一方で、門の数も増えていくのである。
中学生に破られた「立派な会社」の実例
ここで、複数の典型的な事故を組み合わせた架空の事例を考えてみよう。
大手メーカーの東西未来工業は、毎年多額の予算をセキュリティー対策に使っていた。
社長は株主総会で胸を張った。
「当社は最新のAI監視システムを導入しています」
ところが、夏休み中の中学生が、同社の古い関連サイトを見つけた。
学校のプログラミング部でウェブ制作を学んでいたため、画面に表示された不自然なエラーに気づいたのである。
中学生は、分からない用語を生成AIに尋ねた。
AIは難しい専門用語を中学生にも分かるように説明した。
調べていくと、そのサイトは何年も更新されておらず、本社のシステムと不要な接続が残っていた。
さらに、管理用アカウントには多要素認証が設定されていなかった。
ミカ：つまり、中学生が最新技術で鉄壁の防御を破ったのではないのですね。
教授：そうだ。最新のAI監視装置の横に、十年前の勝手口が残っていた。
ミカ：会社は気づかなかったのでしょうか。
教授：担当者は気づいていたかもしれない。
ミカ：では、なぜ直さなかったのですか。
教授：「担当部署が違います」「予算は来年度です」「止めると業務に影響します」という、企業が誇る三段論法だ。
ミカ：ずいぶん強力な防御ですね。
教授：攻撃者ではなく、改善提案を防ぐことに関しては鉄壁だ。
事故後、会社は記者会見を開いた。
「極めて高度かつ巧妙な攻撃を受けました」
しかし実態は、長年放置された入口から侵入されたものだった。
このとき「高度で巧妙」という言葉は、技術の説明ではない。
しばしば、経営陣が管理責任を柔らかく包むための包装紙として使われる。
AIは攻撃者に二十四時間勤務をさせる
これまで、サイバー攻撃には専門的な知識と時間が必要だった。
攻撃対象を探し、システムの構造を調べ、弱点を推測し、攻撃に使うプログラムを作る。
しかし、高性能AIはその作業の一部を高速化できる。
AIはプログラムを読み、弱点がありそうな部分を探し、問題の原因を整理する。
防御側が使えば、修正案を作り、システム全体への影響を確認できる。
攻撃側が使えば、侵入口を探し、集めた情報を整理し、複数の攻撃を自動的に試すための補助役になり得る。
ミカ：AIは味方ですか。それとも敵ですか。
教授：包丁は料理人の味方だが、包丁自身に職業倫理はない。
ミカ：使う人間次第ということですね。
教授：正確には、使う人間と、使わせる仕組み次第だ。
AIによって最も変わるのは、攻撃者の能力よりも、攻撃の回数かもしれない。
人間なら疲れる。
休憩もする。
眠ることもある。
しかし、AIを組み込んだ自動化システムは、何度失敗しても機嫌を損ねない。
月曜日の朝に「今日は少し調子が悪いので、攻撃を午後からにします」とは言わない。
防御側の担当者が会議をしている間にも、攻撃側は休みなく入口を探せる。
攻撃の高度化以上に恐ろしいのは、攻撃の大量生産化である。
「専門家だけの犯罪」ではなくなる
ミカ：中学生でもAIに質問できるなら、誰でも攻撃できるようになるのでしょうか。
教授：誰でも一流になれるわけではない。しかし、初心者が中級者の道具を持つことはできる。
かつて自動車を作るには、巨大な工場と多数の技術者が必要だった。
しかし、自動車を運転するだけなら、一人でよい。
サイバー攻撃も同じ方向へ進む可能性がある。
高度な攻撃手法を開発する者と、それを商品として提供する者、実際に使用する者が分業する。
すると、利用者は専門的な仕組みを理解していなくても、対象を指定し、料金を支払うだけで攻撃に参加できてしまう。
教授：犯罪の世界にも、親切なサービス業がある。
ミカ：顧客満足度を上げないでいただきたいですね。
教授：「初心者でも安心」「二十四時間サポート」「成果がなければ返金」となれば、笑い話では済まない。
技術の進歩は、善良な人の能力だけを高めるわけではない。
怠け者の犯罪者、知識の乏しい扇動者、責任感のない国家組織の能力まで高めてしまう。
道具は、人間の知性だけでなく、人間の愚かさも増幅する。
ドローンが示した「安い道具の恐ろしさ」
ロシアによるウクライナ侵略戦争では、ウクライナ側が大量のドローンを活用してきた。
すべてに完全自律型AIが搭載されているわけではないとしても、映像認識、飛行支援、情報分析などの技術は、人間の能力を大きく補助する。
かつては高価な航空機や大型兵器でなければできなかった仕事の一部を、小型で比較的安価な機器が担う。
一機が失われても、次の機体を投入できる。
攻撃する側は安価な道具を大量に使い、防御する側には高価な対策を強いる。
ミカ：数万円、数十万円の機器を止めるために、もっと高価な装備が必要になるのですか。
教授：現代戦では、割り勘の計算が合わないことがある。
ミカ：サイバー攻撃と似ていますね。
教授：よく似ている。攻撃者は安い手段で何度も試し、防御側は社会全体を守るために大きな費用を負担する。
ドローンもAIも、本来は人間の能力を拡張する道具である。
農業、測量、災害救助、物流、設備点検に使えば、多くの人を助ける。
しかし、使う者が破壊を目的とすれば、同じ技術が兵器になる。
問題は道具に善悪があることではない。
道具を使う人間の目的と、使用を制御する制度が追いついていないことである。
思い起こすのは『ターミネーター』
AIの話になると、どうしても思い出すのが『ターミネーター』である。
シュワルツェネッガーが演じたT-800は、未来のAI「スカイネット」によって送り込まれた殺人サイボーグだった。
第1作では、人間を追い続ける冷徹な機械として描かれる。
ところが第2作では、人間を守る存在として現れ、少年との交流を通じて人間的な価値を学んでいく。
ミカ：同じT-800なのに、殺人者にも守護者にもなるのですね。
教授：機械の性能より、誰が目的を与えたかが重要だということだ。
ミカ：では、AIも人類の守護者になれますか。
教授：なれる。しかし、守護者として導入したAIに、管理者パスワードを「admin123」と設定するのが人類だ。
ミカ：スカイネット以前の問題ですね。
映画では、AIが自我を持ち、人類を敵と判断する。
だが、現実に先に起こりそうなのは、そこまで壮大な話ではない。
人間が利益、効率、軍事的優位、面白半分といった目的のためにAIを利用し、制御できない速度で被害を広げてしまう。
つまり、現実の悪夢は、
「AIが突然悪に目覚めた」
ではなく、
「人間がよく考えずに自動実行ボタンを押した」
という形で始まる可能性が高い。
ターミネーターは赤い目をして現れない
ミカ：教授、将来、本当にターミネーターのような世界になるのでしょうか。
教授：赤い目を光らせたロボットが、玄関を蹴破って入ってくるとは限らない。
ミカ：では、どのように来るのですか。
教授：メールの添付ファイル、更新されていない機器、放置されたアカウント、取引先の端末。現実のターミネーターは、ずいぶん事務的な姿でやって来る。
ミカ：映画としては地味ですね。
教授：しかし、会社の業務を止めるには十分だ。
工場の生産設備が止まる。
物流システムが止まる。
病院が患者情報を確認できなくなる。
電力、通信、金融、交通といった社会基盤が影響を受ける。
サイバー攻撃の被害は、コンピューターの中だけで完結しない。
現実の店舗、工場、病院、家庭生活まで停止させる。
データが盗まれなかったとしても、業務が一週間止まれば、企業には深刻な損失が生じる。
信用は、復旧ボタンを押しても元には戻らない。
必要なのは高価な秘密兵器ではない
企業が最初に行うべきことは、SF映画のような最先端兵器を購入することではない。
まず、自社が何を所有し、どこにつながり、誰が利用できるのかを把握することである。
機器とシステムの一覧を作る
更新プログラムを適用する
多要素認証を導入する
不要なアカウントを削除する
権限を必要最小限にする
バックアップを本番環境から分離する
実際に復元できるか訓練する
異常を発見した際の連絡手順を決める
ミカ：どれも地味ですね。
教授：セキュリティーの基本は地味だ。
ミカ：経営者には受けが悪そうです。
教授：「世界初のAI防御システム」には拍手するが、「退職者のアカウントを消しましょう」には予算がつかない。
ミカ：だから中学生に負けるのですね。
教授：中学生は古い入口を見つけ、会社は新しいパンフレットを作っていた。
AIを防御に使うことも重要である。
膨大な記録から不審な動きを探し、プログラムの弱点を発見し、修正の優先順位をつける。
人間だけでは処理しきれない量をAIに補助させる。
ただし、AIを導入すれば安心という話ではない。
AIの警告を誰が確認するのか。
誤検知をどう判断するのか。
緊急時にシステムを停止する権限を誰が持つのか。
最後には必ず、人間の責任と判断が残る。
本当の敵はAIではなく「まあ大丈夫だろう」
ミカ：結局、企業が最も警戒すべき相手は誰ですか。
教授：犯罪組織、敵対国家、悪意ある内部者、そして「今まで何も起きなかったから大丈夫」と考える自社だ。
ミカ：最後の相手が最も手ごわそうですね。
教授：社内にいて、会議にも出席するからな。
セキュリティー事故は、ある日突然起きたように見える。
しかし、多くの場合、その前に小さな警告が積み重なっている。
更新の延期。
担当者不足。
管理責任の不明確さ。
警告メールの見落とし。
予算削減。
取引先任せの管理。
そのすべてが重なったところへ、攻撃者がやって来る。
AIは、その攻撃を速く、大量に、低コストにする。
だからこそ、企業側もAIを利用しながら、基本的な管理を徹底しなければならない。
おわりに――悪夢を作るのは機械か、人間か
『ターミネーター』では、スカイネットが人類に反旗を翻した。
だが、現実の世界で恐れるべきなのは、AIが人間のような悪意を持つ日だけではない。
悪意を持つ人間がAIを使う日。
知識のない人間が強力なAIを使う日。
責任を取らない組織が自動化された判断を使う日。
そして、対策を先送りした企業が、
「まさか自分たちが狙われるとは思わなかった」
と会見する日である。
ミカ：教授、ターミネーターは未来から来るのではないのですか。
教授：いや。更新期限の切れたサーバーの中で、すでに待っているかもしれない。
ミカ：では、未来を救うために何をすればよいでしょう。
教授：まず、パスワードを変えなさい。
ミカ：ずいぶん小さな第一歩ですね。
教授：人類の滅亡を防ぐ仕事は、たいてい地味な作業から始まる。
AIが人類の守護者になるか、悪夢を増幅する装置になるかは、AIだけが決めることではない。
その答えを決めるのは、AIを作り、使い、管理する私たち人間である。
