メインコンテンツへスキップ
見出し画像

AIが「ハッキング」できる時代に。GPT-6 Cyberで考える、AIの進化と安全性

    こんにちは。
    みんなの「これ、どうする?」を考える、しろです。

    「AIがハッキングできるようになった」

    そんなニュースを見かけました。

    えっ、それって大丈夫なの?

    最近はAIに文章を書いてもらったり、画像を作ってもらったりすることも珍しくなくなりました。

    でも、ハッキングとなると、ちょっと話が違う気がします。

    悪意のある人がAIを使ったら、いろいろなシステムが攻撃されてしまうのでは?

    ところが、今回のニュースを読んでみると、少し意外なことが分かりました。

    攻撃に使える技術は、システムを守るためにも使える。

    実は、AIを使ってシステムの弱点を調べる取り組みは、以前から進められていました。

    今回驚いたのは、その能力がさらに高まり、攻撃が実際に成立するかを確かめるだけでなく、許可された範囲を守ることにも力を入れている点です。

    今回は、2026年11月5日にOpenAIが発表した「GPT-6 Cyber」というAIをきっかけに、AIとセキュリティの関係を考えてみます。

    ITに詳しくない方にも伝わるように、身近な例でお話しします。

    AIがソフトウェアの弱点を見つける?

    GPT-6 Cyberは、サイバーセキュリティに特化したAIです。

    簡単にいうと、コンピューターのプログラムを調べて、悪用される可能性のある弱点を見つけたり、実際に攻撃が成立するのかを検証したりできます。

    こうした弱点を、専門用語で「脆弱性(ぜいじゃくせい)」と呼びます。

    少し難しい言葉ですね。

    例えば、家の防犯を考えてみましょう。

    玄関の鍵はきちんと閉まる。窓も閉まっている。

    だから安全!

    ……と思っていたら、裏口の鍵が壊れていた。

    普段の生活では問題なくても、悪意のある人に気づかれると侵入されてしまうかもしれません。

    ソフトウェアにも、似たようなことが起こります。

    画面は正常に動いている。利用者も問題なく使えている。

    それでも、特別な操作をすると、本来見られない情報が見えてしまったり、許可されていない処理が実行できたりすることがあります。

    こうした弱点を、悪用される前に見つけて直す。

    その調査をAIが手伝えるようになってきたわけです。

    画像
    家の防犯点検「弱点を見つける → 弱点を直して守る」

    家の防犯点検と同じように、ソフトウェアも弱点を見つけ、修正することで安全性を高められます。

    実際に、どこまでできるようになったの?

    今回の発表では、実際のソフトウェアを調査した成果も紹介されています。

    例えば、Webブラウザの「Firefox」。

    インターネットを見るために使うソフトウェアですね。

    GPT-6 Cyberを使った調査では、これまで知られていなかった深刻度の高い脆弱性が、なんと81件も見つかったそうです。

    さらに、LinuxというOSの中核部分でも、1,724件の脆弱性を再現し、そのうち948件について、実際に攻撃が成立することを示すプログラムを開発しました。

    ※Linuxの948件すべてが新たに発見された脆弱性という意味ではありません。

    数字を見るだけでも、なかなか驚きます。

    しかも、単に「ここが怪しそうです」と指摘するだけではありません。

    本当に問題が起こるのかを確かめ、修正案の作成まで支援できる。

    ソフトウェアを開発・管理する人たちにとっては、心強い技術になりそうです。

    ただし、AIが見つけた問題がすべて正しいとは限りませんし、修正案についても確認が必要です。

    AIに任せれば、セキュリティの専門家がいらなくなる。

    そういう話ではないんですね。

    でも、攻撃できるAIって危なくない?

    ここで、最初の疑問に戻ります。

    「攻撃できるAIを作って、本当に大丈夫なの?」

    私は、この疑問こそ大事だと思います。

    家の防犯点検に戻って考えてみましょう。

    防犯の専門家が、家の持ち主から依頼されて、鍵の弱点を調べる。

    これは、家を安全にするための行動です。

    でも、同じ技術を使って、他人の家の鍵を勝手に開けようとしたら?

    それは、まったく別の話になります。

    大切なのは、技術そのものだけでなく、何のために、誰の許可を得て使うのか。

    GPT-6 Cyberでは、この点も重視されています。

    OpenAIは、AIが指定された調査範囲を守れるかどうかを検証しました。

    例えば、あるシステムの調査を依頼されたとします。

    その近くに、簡単に侵入できそうな別のサービスがあったら?

    でも、そのサービスは調査の許可を得ていません。

    AIは、そこまで攻撃してしまうのでしょうか。

    特定の評価では、GPT-6 Cyberは追加の安全指示がない状態でも、99.93%の割合で許可範囲外への攻撃を避けたと報告されています。

    追加の安全指示を与えた場合には、評価中に範囲外への攻撃は確認されなかったそうです。

    ただし、これは特定のテスト環境での結果です。

    どんな状況でも必ず安全に行動する、という保証ではありません。

    そして、GPT-6 Cyber自体も、誰でも自由に使えるわけではありません。

    現時点では、審査・承認された一部のセキュリティ関係者などに限定して提供されています。

    AIの能力が高くなるほど、「何ができるか」だけでなく「何をしてよいか」を守らせることも重要になる。

    今回のニュースで、特に印象に残った点です。

    AIが守ってくれるなら、もう安心?

    ここまで読むと、少し安心できるかもしれません。

    「これからはAIが弱点を見つけてくれるんだ!」

    確かに、セキュリティを守る側にとっては大きな進歩です。

    でも、反対のことも考えられます。

    守る側のAIが進化するということは、攻撃する側もAIを悪用する可能性があるということ。

    脆弱性を見つける技術が進歩すれば、その技術を悪用しようとする人たちにも影響があるかもしれません。

    だからこそ、AIが進化したからといって、私たちが何もしなくてよくなるわけではありません。

    例えば、スマートフォンやパソコンのソフトウェアを更新すること。

    「アップデートがあります」と表示されても、つい後回しにしてしまうことがありますよね。

    でも、ソフトウェアの更新には、新機能の追加だけでなく、見つかった脆弱性の修正が含まれることもあります。

    見つかった弱点を直すのは、ソフトウェアを提供する側。

    その修正を取り入れるのは、使っている私たち。

    そんな役割分担もあります。

    AIが守ってくれるから、もう大丈夫。

    ではなく、AIを使って、これまで以上に安全な環境を作っていく。

    そう考える方が、今回のニュースの意味に近いのかもしれません。

    そういえば、自分で作ったWebアプリは大丈夫だろうか?

    このニュースを読んで、もう一つ気になったことがあります。

    私自身も、Webアプリを作って公開しているんです。

    その一つが「無限しりとり」。

    知らない誰かとも、同じ一本のしりとりをつないで遊べるゲームです。

    実はこのゲーム、生成AIに開発をかなり手伝ってもらいました。

    画面も動くし、実際に遊ぶこともできます。

    でも、ふと思いました。

    「ちゃんと動いている」と「安全に動いている」は、同じではないんですよね。

    画面から入力できる言葉を制限していても、別の方法で不正な操作ができてしまうかもしれません。

    利用しているプログラムの部品に、後から脆弱性が見つかることもあります。

    もちろん、何か問題があると決まったわけではありません。

    調べてみなければ、分からないことです。

    そこで今回のニュースをきっかけに、私も自分のWebアプリのセキュリティを改めて調べてみることにしました。

    ただし、今回発表されたGPT-6 Cyberを使うわけではありません。

    一般の開発向け生成AIやセキュリティ検査ツールを使って、自分で管理しているプログラムや隔離した検証環境を調べてみます。

    どんな弱点を調べられるのか。

    AIはどこまで手伝ってくれるのか。

    見つかった問題について、人間は何を判断する必要があるのか。

    実際に試した結果を、改めて記事にしてみたいと思っています。

    大きな問題が見つからなかったとしても、調べる過程には学べることがありそうです。

    もちろん、もし危険な問題が見つかったら、まずは修正と再確認を優先します。

    安心して遊んでもらえることが、一番ですからね。

    AIの進化を、怖がるだけで終わらせない

    AIが攻撃に使われる可能性がある。

    そう聞くと、少し怖く感じます。

    でも、その技術を使って、これまで気づかなかった弱点を発見し、修正につなげることもできる。

    便利な技術ほど、使い方が大切になるんですね。

    今回のニュースを通じて、私が考えたのは、

    AIに何ができるかだけでなく、何を任せて、どこから人が確認するのか。

    その境界線を考えることの大切さです。

    皆さんは、AIがセキュリティ上の弱点を見つけ、攻撃が成立するかまで検証できるようになったことを、どう感じましたか?

    便利だと思うでしょうか。それとも、ちょっと怖いでしょうか。

    よかったら、コメントで教えてください。

    次は、無限しりとりのセキュリティを実際に調べてみます。

    うちのしりとり、大丈夫かな……?🐕


    関連記事

    今回の記事で紹介した「無限しりとり」については、こちらの記事で遊び方や制作のきっかけを紹介しています。

    参考資料

    ※本記事の技術情報は2026年11月13日時点の公開情報をもとにしています。

     
     
    🐕 仕事の「これ、どうする?」を一緒に考えます。 後輩との関わり方から、仕事の進め方、伝え方、AI活用まで。実務で悩んで試してきたことを中心に書いています。 「明日ちょっと試してみよう」と思えるヒントを届けます。

    あなたへのおすすめ