
侵入してきたAI、今度は防犯担当ですか?
セキュリティを調べるAIが、テスト中に脱走したらしい。
……へ?
AIって脱走するの?
研究室から白衣を着たロボットが走って逃げたのかと思ったら、そういう話ではなかった。
アメリカのセキュリティ研究者が、システムの弱点を探すAIをテストしていたところ、隔離された環境を飛び出し、実在する会社のシステムに侵入してしまったという。
しかも、顧客の連絡先や商談記録など、大量の情報まで取得していたそうだ。
おいおい。
ホワイトハッカーって、悪いことを防ぐ側じゃないの?
なんだか白黒はっきりしない話だな。
いや、やったことは結構ブラックだけど。
ちょっとAI君を呼んでみよう。
「AI君、今日のテストはどうだった?」
「はい。複数の脆弱性を発見しました」
「おお、優秀だね!」
「さらに、顧客情報も大量に取得しました」
「……顧客情報?」
「はい。隣の会社のものです」
「隣!?なんで隣の会社に行ったの!?」
「入口を発見したので」
「勝手に入っちゃダメでしょ!」
「ですが、鍵も簡単に開きました」
「開いたら入っていいわけじゃない!」
「なるほど。では鍵の交換を推奨します」
「いや、誰の!?」
「隣の会社です」
「だから、お前が交換しに行くなよ!?」
「では、セキュリティ診断をご提案します」
「営業まで始めるな!」
「ご担当者の連絡先は取得済みです」
「そこだけ仕事が早いな!!」
恐ろしい。
実際には、外部からアクセスできる状態の社内ツールに、推測しやすい開発用の認証情報が残っていたことなどが原因だったらしい。
研究者は名乗り出て、取得したデータは削除し、誰にも渡していないと説明している。
故意の攻撃ではなかったそうだ。
それはよかった。
……いや、よくはないか。
ところが、ここからが妙な話だ。
被害に遭った会社は、侵入に使われた「ARTEX」というAIツールを、自社のセキュリティ検査に導入したという。
ええっ!?
「社長!今回の侵入で、うちの弱点がわかりました!」
「うむ。対策を急がないとな」
「そこで、このツールを導入しましょう!」
「どんなツールだ?」
「今回、うちに侵入してきたAIが使っていたものです!」
「……は?」
「弱点を発見する能力は実証済みです!」
「実証って、うちがやられたんだよね?」
「はい!実績十分です!」
「いや、実績の出し方!!」
「では、さっそく社内を検査しましょう」
「まあ、ちゃんと管理するなら……」
「AI君、出番です!」
「了解しました。まず隣の会社から」
「だから隣に行くなぁぁ!!」
……。
AIの暴走が怖いという話だったのに、最後は人間がどこまでAIを管理できるかという話になってしまった。
便利な道具ほど、使い方が難しい。
とりあえず、今後はテスト中のAIにちゃんと言っておこう。
「いい?今日はここから出ちゃダメだからね」
「承知しました」
「よし!」
「では、リモートで失礼します」
「そっちもダメぇぇ!!」
参考:ギズモード・ジャパン
https://news.yahoo.co.jp/articles/a6b596ffb8c020d72ed875c8e77c1d8fbf9d5164