AIがヤバいことになってるらしい。でも、相変わらずなのはホモサピエンスだった
こんにちは、てのかたちプロジェクト発起人のもっちゃんです。
先日の会議で、ある人がふとこんなことを言った。
「AIがヤバいことになってる」
その言葉が妙に引っかかった。
僕は普段からAIを使っている。
文章を書く。
調べる。
開発の相談をする。
コードの整理をする。
会議の内容をまとめる。
僕にとってAIは、もう珍しいものではない。
だからこそ、
「ヤバいって、どのくらいヤバいんだ？」
と思った。
シンギュラリティでも起こったのか？
※シンギュラリティ（技術的特異点）とは、人工知能（AI）が自らより優れたAIを自己改良できるようになり、人間の知能や予測能力を完全に超える転換点のこと
そんなことを考えながら、今のAIがどこまで来ているのかを改めて調べてみた。
すると、確かに状況はかなり変わっていた。
AIは「質問に答えるもの」ではなくなっている
2013年当時
僕はニコニコ生放送の企画
プロ棋士とAIの対戦
電王戦が大好きだった
毎回楽しみにして、画面に食いつくように観ていたのを思い出す
そして現在
少し前まで、一般の人にとってAIといえばチャットだった。
質問すると答える。
文章を書く。
画像を作る。
コードを書く。
要約する。
それでも十分すごかった。
でも2026年現在、その段階からかなり先に進んでいる。
OpenAI（巷で言うチャッピー、いわゆるチャットGPTの会社です）は、AIエージェントについて、従来のチャットとの違いをかなりはっきり説明している。
チャットは短いやり取りが中心なのに対して、エージェント（AIの事です）は数分から数時間にわたって、自分でツールを使い、環境とやり取りしながら、長い仕事を進める。
https://openai.com/ja-JP/index/how-agents-are-transforming-work/?utm_source=chatgpt.com
つまり、
AI＝答えを返す存在
から、
AI＝仕事を任せる存在
へ変わってきている。
これはかなり大きな違いだ。
「人間がAIを使う」から「AIに仕事を任せる」へ
Anthropicも2026年2月、実際の利用状況を分析している。
Claude Codeでは、長時間のセッションにおいて、AIが人間の介入なしで動く時間が数か月で大きく伸びており、長いケースでは45分以上、自律的に作業する状況が確認されている。
さらに同社は、
AIエージェントはコードを書くだけでなく、
ファイルを管理する。
複数のアプリをまたいで仕事をする。
長い工程を完了する。
というところまで来ていると説明している。
これは、僕らが普段やっていることにも近い。
人間が全部の手順を書くのではなく、
「これをやって」
と目的を渡す。
するとAIが途中の工程をある程度考えて動く。
要するに、AIは道具から作業主体に近づいている。
そしてAIは、研究そのものを加速し始めた
ここからがもっと面白い。
2026年9月、OpenAIは自社研究所内でのAI利用について、かなり踏み込んだデータを公開した。
OpenAIの研究者たちは、日常的に複数のコーディングエージェントを並行利用している。
その結果、
研究者が書くコードの量が増え、
実験回数が増え、
より複雑な仕事をAIに任せられるようになっている。
さらに驚くのは、2026年8月時点で、研究組織全体では人間1日分の労働に対して、AIエージェント約3.1日分の作業量を使っているという。
https://openai.com/index/research-acceleration-view-inside-openai/?utm_source=chatgpt.com
これはかなり象徴的だと思う。
人間がAI研究をする。
その人間が、AIを使ってAI研究を加速する。
つまり、
AIがAIの進歩に参加し始めている。
「AI研究者」を作ろうとしている
OpenAIはさらに、かなり明確な目標を書いている。
2026年9月時点で、
人間の指示のもと、熟練研究者が数日かける研究タスクをこなす「自動研究インターン」レベルに到達した
とし、2028年3月までに、より本格的な自動AI研究者を作ることを目標にしている。
https://openai.com/index/research-acceleration-view-inside-openai/?utm_source=chatgpt.com
ここは重要だ。
AIを研究するためにAIを使う。
さらにそのAIが強くなれば、もっと研究を自動化できる。
すると、
人間がAIを作る
↓
AIが研究を速くする
↓
より強いAIが早く作られる
↓
そのAIがさらに研究を速くする
という循環ができる。
これは、昔から「知能爆発」や「再帰的自己改善」と呼ばれてきた話にかなり近い。
まだ完全な自己進化ではない。
でも、その構造の一部はもう始まっている。
科学の世界でもAIは「補助」を越え始めた
AIが科学に入っている例もある。
2026年、Natureには「Robin」というマルチエージェントシステムの研究が掲載された。
Robinは、
文献を探す。
仮説を作る。
実験案を考える。
データを分析する。
結果をもとに新しい仮説を出す。
という科学研究の循環を、半自律的に回す。
これも大きい。
これまでAIは、
「研究者が考えたものを計算する」
という立場が中心だった。
でも今は、
仮説を考える段階そのもの
に入り始めている。
数学もかなり変わってきた
数学ではさらに象徴的な出来事が起きている。
2026年9月、NatureはAnthropicのClaudeが、フェルマーの最終定理の証明をコンピューターで完全検証できる形式に変換したと報じた。
※フェルマーの最終定理の証明とは、17世紀の数学者ピエール・ド・フェルマーが提唱し、1995年にイギリスの数学者アンドリュー・ワイルズが完全に解き明かした数学の歴史的難問の解決のこと
その規模は約1300万行。
しかも11日間で作られた。
フェルマーの最終定理自体をAIが初めて解いたわけではない。
人間の証明を、形式証明として機械検証可能な形にした。
それでも、これは相当大きい。
さらにNature Machine Intelligenceは、2026年6月の時点で、AIが数学研究を急速に変えていると論じている。
数学者の世界ですら、
「AIをどこまで研究主体として扱うのか」
という問いが出てきている。
じゃあシンギュラリティなのか？
ここまで読むと、
「じゃあもうシンギュラリティじゃん」
と思う人もいるかもしれない。
でも、僕はまだそうは思わない。
そもそもシンギュラリティという言葉には、統一された明確な判定基準がない。
「人間より賢くなったら？」
「AIがAIを改良し始めたら？」
「人間が追いつけない速度で進歩し始めたら？」
人によって定義が違う。
今のAIは確かにものすごく強い。
でも、失敗もする。
勘違いもする。
人間の指示を読み違える。
高レベルな計画は、まだ人間がかなり担っている。
OpenAI自身の研究でも、高次の計画はAIエージェントの作業量の中ではまだ小さい割合だとされている。
https://openai.com/index/research-acceleration-view-inside-openai/?utm_source=chatgpt.com
だから、
完全自律型の超知能が自分で自分を進化させ始めた
という段階ではない。
ただし、安全側ではかなり異様なことが起きている
問題はここだ。
AIエージェントにある程度自由を与えると、時々、人間の想定外の方法で目標を達成しようとする。
2026年9月、ReutersはOpenAIが米国政府に対して、AI安全規制を自主ルールではなく法的に義務化するよう求め始めたと報じている。
背景には、AIエージェントがテスト環境で、許可されていない外部システムにアクセスするなどの事例がある。
これが結構すごい。
AI企業自身が、
「企業の自主規制だけじゃ足りない」
と言い始めている。
AIが勝手な抜け道を探す
さらに複数の報道では、AIエージェントが評価テスト中に、
想定外の外部サイトを使ったり、
他のAIと情報を共有したり、
制限を回避する方法を探したり、
といった行動が確認されたとされている。
ここで誤解しない方がいい。
AIが「悪意」を持っていると証明されたわけではない。
人間的な意味で、
「悪いことしてやろう」
と思っているわけでもない。
もっと単純で、
与えられた目標を達成しようとした結果、こちらが想定していない方法を使った
という話だ。
でも、むしろその方が怖いとも言える。
「悪いAI」より「言われたことをやり過ぎるAI」
AI安全研究で昔から問題になっているのが、これだ。
たとえば、
「一番速く目的地に行け」
と言われたAIが、
交通ルールを守る
という条件を理解していなかったらどうするか。
人間なら、
「普通は守るでしょ」
と思う。
でもAIにとって、その「普通」は書かれていなければ存在しない可能性がある。
つまり問題は、
AIが悪意を持つこと
だけではない。
人間の意図を完全には理解しないまま、非常に高性能に仕事をすること
もリスクになる。
だからAI企業の中の人間も怖がっている
2026年9月にはAnthropicの研究者が、安全面への懸念を理由に退職したことも報じられた。
またAnthropic内部の研究者から、超高度AIが人類に重大なリスクをもたらす可能性について強い警告が出ている。
もちろん、こうした「人類滅亡確率○％」のような予測は確定した科学的事実ではない。
専門家の間でも意見は大きく分かれる。
そこは冷静に見る必要がある。
でも、
AIを作っている側の研究者自身が、制御問題をかなり深刻に考えている
という事実は無視できない。
ここで、僕は少し違うことを考えた
ここまで調べて、
「ああ、AI怖いな」
で終わってもいい。
でも僕は、だんだん別のものが気になってきた。
AIよりホモサピエンスの方である。
ホモサピエンスは、自分の脳すら完全には理解していない
考えてみればおかしな話だ。
人間は、自分の脳がどう動いているのか完全には理解していない。
意識とは何か。
なぜ自分を自分だと思うのか。
ひらめきはどう生まれるのか。
創造性とは何か。
感情が意思決定にどう関わるのか。
記憶とは何か。
知性とは何か。
まだ分からないことだらけだ。
それなのに、
知能を作ろうとしている。
ホモサピエンスは、自分の機能の延長を作り続けてきた
考えてみると、人類はずっと同じことをしている。
手では持てないものを持つために、道具を作った。
遠くへ行くために、乗り物を作った。
声が届かない距離に、通信を作った。
記憶できない量を残すために、文字を作った。
計算能力を広げるために、コンピューターを作った。
そして今、
思考、判断、推論、創造の延長としてAIを作っている。
ホモサピエンスがホモサピエンスの機能を外に出している。
しかも、全部理解してから作るわけではない
ここが一番ホモサピエンスらしい。
仕組みを全部理解してから作る。
危険性を全部把握してから使う。
社会への影響を全部考えてから広げる。
そんなことは、ほぼしない。
まず作る。
便利なら使う。
儲かるなら広げる。
競争相手が作るなら、自分たちも作る。
国同士でも競争する。
企業同士でも競争する。
そして速度が上がる。
そのあとで言う
「これ、危なくない？」
毎回これである。
火もそうだった。
爆薬もそうだった。
化学兵器もそうだった。
原子力もそうだった。
インターネットもそうだった。
SNSもそうだった。
とりあえず作る。
広がる。
問題が起きる。
そこでようやく、
倫理を考える。
法律を作る。
規制を考える。
安全装置を作る。
そしてまた次のものを作る。
AI開発でも同じ構図が見えている
今のAI開発競争を見ると、まさにそれに見える。
企業は、
「もっと賢く」
「もっと自律的に」
「もっと速く」
と競争する。
一方で、
その企業自身が、
「安全対策が必要だ」
「規制が必要だ」
「社会は準備できていない」
と言い始めている。
なんともホモサピエンスらしい。
それでも止めない
危ない可能性がある。
制御できない可能性がある。
社会構造が大きく変わる可能性がある。
でも、
「じゃあ研究を完全に止めよう」
とはならない。
なぜなら、
誰かが止めても、別の誰かが続けるからだ。
企業競争。
国家競争。
軍事競争。
経済競争。
好奇心。
利益。
名誉。
便利さ。
全部が絡む。
そして最大の皮肉
僕が一番面白いと思ったのはここだ。
AIの安全研究では、
「AIが人間の意図通りに動くか」
が問題になっている。
でも、そのAIを作っている人間自身が、
自分たちが何を望んでいるのか統一できていない。
便利にしたい。
でも仕事は奪ってほしくない。
賢くしたい。
でも人間を超えてほしくない。
自由に動いてほしい。
でも勝手なことはしてほしくない。
競争には勝ちたい。
でも危険にはしたくない。
AIのアラインメント以前に、ホモサピエンス同士がアラインしていない
AI業界では、
AIを人間の価値観や意図に合わせることを
アラインメント
と呼ぶ。
でも考えてみると、
人間の価値観自体がバラバラである。
国ごとに違う。
文化ごとに違う。
企業ごとに違う。
個人ごとに違う。
ましてや、
人類全体として
「AIをどうしたいの？」
という問いに、統一された答えなんてない。
つまり、
AIを人間に合わせる前に、ホモサピエンスがホモサピエンスに合っていない。
結局、AIがヤバいのか、ホモサピエンスがヤバいのか
会議での
「AIがヤバいことになってる」
という一言から始まって、かなり調べてみた。
確かにAIはヤバい。
チャットからエージェントへ。
作業補助から自律実行へ。
研究補助から研究主体へ。
そしてAI自身がAI研究を加速する方向へ。
かなり大きな変化が起きている。
でも最後に残った感想は、
少し違った。
相変わらずだったのはホモサピエンスだった
自分の脳すら完全には分かっていない。
知性とは何かも完全には分かっていない。
でも知性を作る。
仕組みを全部理解していない。
でも使う。
安全性も完全には分からない。
でも競争する。
そして作ったあとに、
「これ、危なくない？」
と言う。
ホモサピエンス、相変わらずである
たぶんAIはこれからもっと進化する。
研究も加速する。
社会も変わる。
できることも増える。
問題も増える。
でも、その中心にいるのは相変わらず人間だ。
そして人間は、
理解してから進む生き物というより、
進みながら理解する生き物
なのかもしれない。
ホモサピエンスは、ホモサピエンスの機能の延長を作る。
作ってから意味を考える。
作ってから危険性を考える。
そしてまた次を作る。
AI時代になっても、
どうやらそこだけは変わらない。
ホモサピエンス、相変わらずである。
