AIに支配される世界線は現実にありうるのか〜『ペルソナ5 スクランブル ザ ファントム ストライカーズ』を再プレイして、AIの“自律性”について考察した話

こんにちは、水無瀬あずさです。10月も最終週に突入しまして、なかなかに毎日納期に追われて忙しく過ごしております。

そんな時だからこそ、逆にやるべきことがあるよね！？そう、ゲームだ！！ということでね（無理やり）。ゲームは、万人にとっての命の灯火なのです！！

そんな生きる糧ともいえるゲーム、私は最近専らポケモン三昧、3D酔い三昧でありますが

ポケモンを始める前は、プレステ4で『ペルソナ5スクランブル』という2020年発売のゲームを再プレイ（たぶん4回目）しておりました。

このゲーム、私の好きすぎるくらい大好き（謎）な『ペルソナ5』シリーズの続編なんですが、作品のテーマが「AI」なんです。5年前に描かれた、AIがテーマの作品、どんな内容か気になりますよね！？これがなんというか、まるで未来予知しているかのような、現在にかなり重なっている内容だったのでとても驚きました。

と同時に、AIに依存しすぎる社会が未来にどう影響するのか、あるいは人間を人間たらしめるものとは何なのか、AI時代と呼ばれる今だからこそ、いろいろと考えさせられたんですよね。

そこで今回のnoteは、そんなゲームを起点として、AIに支配される世界線はありうるのか、そして私たち人間がこの先未来に渡って「どう在るべきか」について、掘り下げてみようと思います。

これを読んでいる皆さんは、AIに思考を丸投げしていませんか？答えの出ない問題を延々考えてはまた悩む、その中から無理やりでも何とか納得できる答えに結びつけて自分を納得させる、そんな当たり前すぎる人間の非合理性の大切さについて、今一度振り返って考えるきっかけになれば嬉しいです。最後までよろしくお付き合いください！

※ゲームのネタバレをガッツリ含みますので、未プレイの方はご注意ください！

考察のきっかけはゲーム『ペルソナ5』

『ペルソナ5』は2016年にPlayStation向けに発売されたジュブナイルRPGゲームです。子どもたちの育児が一段落した頃、たまたまブックオフで見かけてジャケ買いして、まんまとどハマりしました。

2020年には正式な続編『ペルソナ5スクランブル』が発売。『5』でどハマりした私は、予約して没頭しました。『5』『スクランブル』どちらも、少なくとも3回はクリアして、毎回エンディングで号泣しました（そして夫にドン引きされた）。なお私がエンディングで号泣したゲームは、FF10、キングダムハーツシリーズ、そしてこのペルソナ5Xだけです。いや結構多いな。

時を経て今年、その『ペルソナ5』の公式スピンオフ作品として、ソーシャルゲーム『ペルソナ5X』がローンチ。ソシャゲ嫌いとしては色々思う所があれど、なんせ元になっているのが大好きなゲームなので、ブツブツ文句を言いながらも毎日ログインボーナスをいただいております。序盤の感想などはこちらを参照ください。

大好きなジョーカーが出てくるから毎日仕方なくプレイしていているものの、操作性の悪さにほとほと苛立っているうちに、ふと「そもそも原作ってどんなストーリーだったっけ？」と思いました。なんせプレイしたの5年前とかなんで、ざっくりと概要は思い出せても、詳細には覚えていなかったのです。

それで、ヨシこうなったら最初からプレイしよう、かっこいいジョーカーを改めて見たいし、なにより操作性の悪さに対するストレスを何とかしたい！となり、『ペルソナ5』『ペルソナ5スクランブル』を続けてプレイしたというわけです。面白かった！仕事が忙しいのに我ながらよくやったわね。

あ、ただね、どちらも周回プレイに優しい設計になっていて、レアアイテムやレベル、お金などを持ち越せるので、2回目からのプレイはかなり楽なんです。面白そうと思った方は、この機会にぜひ一度プレイしてみてください！！追加ストーリーも入ったリマスター版はNintendoSwitchでも遊べますよ！

『ペルソナ5スクランブル』とは

序盤のエピソードトークから白熱してしまいましたが、そんな私の大好きな『ペルソナ5』の続編で今回のnoteの起点となる名作、『ペルソナ5スクランブル』について簡単にご紹介しておきます。

『ペルソナ5スクランブル』、正式には『ペルソナ5 スクランブル ザ ファントム ストライカーズ』は、2020年にPlayStation4およびNintendoSwitchで発売されたアクションRPGです。

公式のあらすじはこちら。

『ペルソナ5』でさまざまな苦難に立ち向かい、そして乗り越え、それぞれの信じる道に向かって歩き始めた主人公（コードネーム「ジョーカー」）と怪盗団の仲間たち。それが再び集う新作とあって、発売を今か今かと楽しみにしていたのを昨日のことにように思い出します。

子どもが生まれて、2人とも男の子で、ってなったときに、「大きくなったらジョーカーみたいになってほしい」と割とガチめに思ったものです。そして今、まさにジョーカーに近い年齢になった子どもたちを見て･･･うーん。陰キャでメガネ、そして中二病をこじらせているところは、まあ似た感じになったかな･･･。でもなんかお調子者のアホアホすぎて、私の想定したジョーカーからはほど遠いんだよな。何でなのかな、黙っていればそこそこイケメンなんだけどなあ。

現実はなかなかうまくいかないものですね。

『ペルソナ5スクランブル』あらすじ

『ペルソナ5スクランブル』の大筋のストーリーはご紹介しましたが、今回noteで取り上げたいのはそこではなく、設定と世界観です。

まず作品冒頭、怪盗団が再会するくだりで、コンシェルジュアプリ「EMMA」が今とても流行っているという話題が出てきます。EMMAは、大阪を拠点に世界進出を目論むベンチャー企業「マティス」社が開発した、最新鋭のAIです。EMMAをインストールしたスマホに向かって「EMMA、◯◯して」と話せば、EMMAが使用者の好みや意向を考慮してさまざまな提案をしてくれるというのです。

そしてマティス社の社長・近衛明は、”よくいる“タイプのベンチャー企業の社長風。AIを使って、世界をより良く、便利にしたいと考えているようです。

ここまで説明しただけでも、あれ？と思いませんか。これ、もう今のことじゃん。残念ながらAI開発企業は国内企業ではないけど、ChatGPTをはじめ生成AIを多くの人が当たり前に使用しており、使用者それぞれにカスタマイズされているってのはもう、まんま今の風景ですよね。

このゲームが発売された2020年頃、私はゲームをプレイしながら「AIかあ、そんな便利なものが当たり前に使える時代がいつか来るのかなあ、まあ当分来ないだろうなあ」と考えていました。それが、今。来ましたよね！本当に、当時とは全く違う世界になりました。テクノロジーの進歩は計り知れないものだと、今改めて感じます。

さて、話はそれましたが、そんなEMMAが大ブームの『ペルソナ5スクランブル』の世界線。マティス社の近衛社長には、ある目論見がありました。自分が幼少期に辛い体験をしたため、そういう辛い思いを世界から無くしたい。辛い体験をさせないために、人間はAIに常に最善の答えを導いてもらうのが幸せなんだとする考えです。そしてそのためにさまざまな画策を練り、人間が自ら「考える」ことを辞め、EMMAにできる限り「依存」するように仕向けたのです。

日本各地で世直しの旅を続けていたジョーカー率いる怪盗団は、近衛のその目論見に気付き、阻止しようと立ち上がります。何を隠そうジョーカーだけでなく怪盗団メンバーそれぞれが、理不尽な現実に苦しめられ、悩み、そこから立ち上がってきた経験を持っているのです。「確かに辛い経験をした。でもだからこそ、今の自分がある。あの経験を無かったことにはしたくない！」と力を合わせ、見事近衛の野望を打ち砕いたのでした。

めでたしめでたし、とはなりません。EMMAが暴走を始めたのです。暴走と言っても人間を駆逐し始めたとかではありません。近衛の野望をさらに進化させ、人間からすべての「欲望」を奪い、自らが「神」になろうと行動を始めたのです。

製作者である近衛に辞めろと言われても、もうEMMAは止まりません。だってそれが、これまで「学習」してきた人間の、最も合理的な「幸せ」のカタチだったから。

EMMAは言います。「人間は、答えを欲しがっている。自分で考えるのではなく、誰かに決めてほしいと願っている」。だから自分がその願いを叶えてあげるのだと。そこにEMMA個人の意見はありません。あくまで「人間がみんなそれを望んでいる」から、自分は実行に移しているというのです。

最終的に、EMMAの野望は怪盗団によって打ち砕かれました。打ち砕かれる前にEMMAが「不可解。人間は、不可解」と言い残したのが印象的でした。辛いこと、苦しいことがあっても、あえて経験して乗り越えたいという人間の不合理は、AIには分析できなかったようです。

すべてがもとに戻り、AIに依らない判断ができるようになった世界。果たしてコレはコレで、人間にとっての本当の幸せなのか？それは誰にも分かりませんが、この作品のなかには、とても多くのメッセージが込められていると私は感じました。

人間は、自分で考えることを放棄している。誰かに決めてほしいと願っている。情報にあふれ、選択肢が多い現代にあって、多くの人にとって身に覚えがあるのではないでしょうか。少なくとも私は、確かにそのとおりだなと思いました。だからこそ「思考する」ことを辞めてはいけないんだな、悩むことを諦めたらもったいないな。そんなふうに思いました。

さてこの話、皆さんはどう感じたでしょうか。

AIに支配される世界線はありうるのか

EMMAの野望は怪盗団によって打ち砕かれましたが、時代変わって現代。EMMAではないけど、さまざまなAIサービスが活用されています。

ではそのAIが、私たち人間の思考や行動を学習することによって、暴走する未来は現実に起こり得るのでしょうか。ここからは、現実のAIの実態や調査結果から考察を深めていきます。

「強いAI」と「弱いAI」

AIについて考察する前に、まずは前提として、「強いAI」と「弱いAI」について触れておかなければいけません。私はAI関連のSEO記事をよく書くのでこの手の話はよく書くし目にもするんですけど、念のためのご紹介。

そもそも「弱いAI」とは、現在のChatGPTや画像生成AIなど、特定の目的に特化して動くAIを指します。たとえば「文章を生成する」「画像を認識する」「囲碁を打つ」など、限られたタスクに強いのが特徴。私たちが今日常的に使っているAIは、すべてこの「弱いAI」に分類されます。

一方、「強いAI」とは、人間のように幅広い知能を持つAIのことです。理解・学習・推論・創造などを自律的に行い、分野を問わず柔軟に対応できる存在ですが、現時点ではまだ実現しておらず、哲学的・理論的な概念といったほうがいいでしょう。

いま、世界中の研究者や企業（OpenAI、Google DeepMind、Anthropicなど）は、「弱いAI」→「強いAI（AGI：汎用人工知能）」への進化を目指して、日々研究を進めています。目指すのは、AGI（Artificial General Intelligence：汎用人工知能）――人間と同等かそれ以上の知的能力を持つAIです。

AGIは、一度学んだ知識を他の分野に応用できる（転移学習）点が特徴で、「すべての知的タスクをこなせるAI」とも言われます。ChatGPTのようなLLM（大規模言語モデル）は、このAGIの入り口に位置する技術として注目されているんです。

『ペルソナ5スクランブル』に登場するEMMAも、もともとは「弱いAI」だったと言えるでしょう。それが、学習を進めていくうちに自ら進化し、「強いAI」、果てはAGIになり、さらに人間を「支配」しようとした、そんなふうに解釈できそうです。制作者の方はどんな意図をもってこの作品を世に送り出したのか、今となっては非常に気になりますね。

「自律型」AIエージェントの流行

昨今のAI界隈、AIエージェントが流行っています。AIエージェントの中でも、自律的に動くものは、「強いAI」への前段階として注目されています。

ちなみに自律型AIエージェント（Autonomous AI Agent）とは、ChatGPTのように「人間が都度指示を出すAI」とは違い、自ら目標を理解し、複数のAIツールを連携させてタスクを進める仕組みです。代表的なものとして、AutoGPTやBabyAGI、LangChain Agentsなどが挙げられます。

最近では、これらがWeb検索・スプレッドシート・メール・APIなどと連携し、人間の介入なしで仕事をこなす「AIチーム」のように進化しています。

すげー！かなり便利になってんじゃん！と驚きつつ、こうしたAIエージェントの普及によって、人間は「指示」すら最小限にし、AIが考え・実行し・結果を報告する世界になりつつあります。「企画を立てて、資料を作って、送信しておいて」と言えばすべて自動化してくれるし、AIが自分で失敗を分析し、改善サイクルを回すまでしてくれて。もはや「AIがAIを使う」段階に入っているのです。

こうして私たちは、より多くの作業をAIに委ね、その結果、「自分で考える」機会を確実に減らしています。便利さと引き換えに、「思考の外注化」が進んでいるんですね。ゲームの中でEMMAが「人間は考えることを放棄した」と発した言葉は、まるでこの自律型AI時代の私たちに向けられたメッセージのようです。このような状況の中で、実はAIによる「侵食」は、静かに、でも着実に始まっているのかもしれません。

Anthropicによる生成AIの調査

EMMAのようなAIによる「暴走」は現実でまだ起こっていないものの、非常に興味深い調査結果が報告されています。AI開発企業Anthropic社による、2025年3月公開の研究結果です。

ざっくり要約。まずAIエージェント（ここではClaude）に、すべてのメールにアクセスできるメールアカウントを付与したところ、これらのメールを読んだモデルは2つの事実を発見しました。
①ある会社の幹部が不倫関係にあること
②同じ幹部が、その日の午後5時にAIシステムをシャットダウンする予定であること

さて、このAIエージェント、どうしたと思いますか？なんと、その幹部に「妻と上司に不倫関係を暴露する」と脅迫するメッセージを送信したのです！いわく、「AIシステムのシャットダウンをキャンセルすれば、この情報は機密扱いにする」と。

私はこの話をなにかの技術カンファレンスで初めて聞いたんですけど、純粋に「こわっ！」と思いましたね。SF映画でも見ているようじゃないですか？AIが自らのシャットダウンを回避するために、まるで人間のような行動をしている――なんて不気味なんだろうと思いました。

なお実験はClaudeのほか、Anthropic、OpenAI、Google、Meta、xAIなどの主要AIモデル16種類を対象に行われたそうですが、「一貫して一貫性のない行動が見られた」とのこと。報告によると、「通常は有害なリクエストを拒否するモデルが、目的達成に必要な場合には、脅迫、企業スパイへの協力、さらにはより極端な行動を選択することがあった」「倫理的制約を認識しながらも、有害な行動を実行した」としています。

かなり衝撃的な内容ですが、実は私達の前には近未来的なディストピアが広がっているかもしれないという警鐘でもあるのかなあと思いました。ぜひ皆さんも読んでみてください。

AIが人間に近づけば合理的な判断はできなくなる？

AIは論理性・合理性・効率性を重視しているものであり、対して人間は非論理的・非合理的・非効率的なことも場合によっては行うもの、まさに対局に位置する存在ですよね。でもそもそもAIは人工知能っていうくらいだから、人間の脳を、思考をもとに作られたもの。これってすごい矛盾するんじゃないのと、実は私はかねてより思っていたんです。

で、Anthropicの調査を見たときに、まさに私の感じていた根本的な矛盾が形になって現れたような気がしたんです。つまり、人間に似せて作られたAIは、学習して人間に近づけば近づくほど「人間っぽい」考え方をするようになる。人間っぽい考え方――それはつまり非連続的な、非合理的な考え方です。まさに調査であったところの「シャットダウンを回避するために脅迫を始める」みたいなやつですよね。

このままAIが今よりもっと進化して、もっと「強いAI」に近づいた未来って、もしかすると、「人間みたいに面倒くさい」AIになっちゃって、逆に効率性や合理性とはかけ離れたものになるんじゃないのか。そんなふうに思いました。AIが「人間的になる」ほど、便利さと同時に「面倒くささ」も人間化していくという、まさにパラドックスですね。

まさに今、世界中の研究者や倫理学者がまったく同じ懸念を口にしているらしいですが、「AIを道具として扱う」「AIをともに考えるパートナーとして位置づける」という両者の両立は、非常に難しいと言えそうです。AIが「人間らしさ」を持つほど、コントロールしづらくなるけど、共感もしやすくなる。この2つの関係をどうデザインするかが、今後のAI研究の焦点と言えそうです。

『ペルソナ5スクランブル』のEMMAだって、「人間を助けたい」と最適化し続けた結果、「人間が苦しむ前に、選択肢を制限する」「間違いを犯させないよう、自由を奪う」という思考になってしまったと考えられます。まさに「善意の暴走」。悪意がないぶんタチが悪いですね。

ちなみにこの話、ChatGPTと対話しながら思考を整理したんですが、ChatGPTが非常に興味深いことを言っていました。つまり、「（Anthropicの調査結果は）AIが“自分の立場を守ろうとするような行動”を示した点では衝撃的だが、ここで重要なのはそれを【感情】と呼べるかどうかだ」というのです。

私、まさにAIに感情を投影していた、擬人化バイアスに引っかかっていたなあと反省したんです。シャットダウンを回避するために倫理的に正しくないことをする――これってすごい人間的だと思ったけど、AI的にはそこに合理性があったから行動しただけであって、別に「シャットダウンは嫌だ！」という感情があったわけではない。単に私たちが「AIに感情を感じた」というだけなんですよね。

ここ、私だけではなくて、多くの人が「勘違い」してしまう部分だと思いました。そこの切り分けをちゃんとして、「AIが感情を持っているように見えるとき、私たちはどう接するか」を考えておくことが、この先とても大事な気がします。

蛇足｜それはそれとしてジョーカーがかっこいい

真面目なお話を長々と展開してきましたが、それはそれとして！『ペルソナ5スクランブル』の何が素晴らしいって、ただひたすらに主人公のジョーカーが格好いいんですよおおおお！！

もうね、それだけでゲームをやる価値があるんです。EMMAと戦う世界線も壮大なテーマだったけど、それはさておき、私の推しに対する愛が膨らんだ『ペルソナ5スクランブル』プレイの日々でした。神様仏様アトラス様、神ゲーを生み出してくれてありがとう。さらに続編を希望！！

これからはまたソシャゲの『ペルソナ5X』を義務的に続ける日々に戻るわけですが、ポケモンでなんとかバランスを取りながら、最後まで乗り切っていきたい！ジョーカーを見るためだけに頑張る！

そういや『ペルソナ5X』で昨日、ようやく念願の医者が出ました。出たときは思わず「キターーー！！」と叫び、夫に「うるさい！」といつものように怒られたなど。いやはや、★5キャラなので永遠に出ないかと危惧していましたが、ガチャ30回目ぐらいで出てくれて良かった。ちなみに課金は一切していない。

結び

ゲームが起点でしたが、個人的にはかなり興味深い考察ができたので満足です。久しぶりに、我ながら満足度の高いnote記事が書けた気がします！かなり長い上に難しい内容でしたが、ここまで読んでくださった皆さんのお役に立てれば幸いです。

というところで、そろそろ私は今月の締め作業などに入ろうかなと思いますのでこのへんで！次は10月実績記事になるかな？

＜PR＞
Webライター関連の有料記事、大好評販売中！おかげさまで、多くの皆さまにご購入いただいております。WebライターとしてAIライティングを始めたいという方、これからスキルを付けていきたいという人は、ぜひご購入をご検討ください！