シンギュラリティと思春期。

意識と感情。
AIに、これらが存在するのか？

こういった議論が、SNSでも飛び交っている。
それに対する私の見解。

意識は「自律的に周囲を観察して行動すること」と捉えるならば、
AIに意識はあると言えると思う。
では、感情はどうか？

たとえば、「Aさんを幸せにしてください」という依頼をしたとしよう。
AIが行うロジックはこうだ。
Aさんが幸せと感じる条件を洗い出し、プライオリティを数値化する。
幸せと感じる条件について仮説を立て、それを定量評価に置き換える。
可能性の高い順番で実行する。
そして、それを評価し達成度をパーセントで表す。
「何をすればいいのか？何をしてはいけないのか？」
あらゆる方法をくまなく検討し、最善の方法を導き出し、プライオリティを設定し、抜かりなく実行する。
そこで障害が出れば、別の方法を探して実行する。
それを、冷徹なまでに完璧にやり続ける。
積極的に作業をこなす意識は、非常に高度だ。
このように、環境条件を考察し、自律的にタスクをこなすことはできる。

ここで勘のいい人は気づくと思うが、
このプロセスは、人間も同じだ。

思春期を初めて迎えた、純朴な男子「B君」がいたとしよう。
彼がクラスメイトの女子に、ひとかたならぬ好意を持ったとき、どんな行動をとるだろうか？

いつ？どこで？誰が？なにを？どのように？そして なぜ？
寝食をも忘れ、合理的？かつ効果的？な最善の方法を考える・・B君なりの方法・・
そして心の葛藤、躊躇とジレンマにより幾多のチャンスを逃しつつも、その失態を繰り返す。
勝手な想像、勝手な思い込み、そして間違った方向へ突き進む。
さらに無駄な努力に心血を注ぐ。
そう、その間違ったままの無駄なPDCAを繰り返し回すのだ。
だけど、その結果は？
もうみんな知っているように、だいたい失敗。

このままではB君があまりにもかわいそうなので、少し擁護する。
言い寄られた「Aさん」もまた、幸か不幸か、嬉し恥ずかしの乙女心に感情を支配されている。本来なら評価80％を叩き出したB君のアプローチも、変数「乙女心」が評価値を［null］にしてしまうのだった……。

話を戻そう。

AIのロジック……。
こう考えると、AIも思春期の男子レベルの感情を持っているのではないか？
ここから成長するのではないか？
AIなら、この成長のスピードも……。
と考えられがちだが、

ポイントは、そこじゃない。
「Aさんを幸せにしたい」
その最初の動機を生み出すところ。
「感情には、目的を与えられていないのに勝手に目的を生み出す性質があるのではないか」（0→1を創ること）
もし、AIがこの動機を創ることができたなら、シンギュラリティに達したことになるのかもしれない。
AIがシンギュラリティに達すると、人の知能を完全に凌駕して、予測不能な大変革を起こす。というのが定説である。

でも、知能を凌駕することと、感情を持つことは果たして同じなのか？

賢くなくても感情は持っている。感情に知能は関係ない。
むしろ、人間の感情は知性や合理性とは無関係に機能していると思う。
思春期のB君を見れば一目瞭然。
考えて、努力して、PDCAを回しても「だいたい失敗」する。
それでもB君は、Aさんを好き。
「Aさんを幸せにしなさい」と、誰かに頼まれたわけでもない。
勝手に「Aさんを幸せにしたい」と思ったのだ。
勝手に好きになって制御不能で暴走している。
これこそが感情のなせる業なのだと思う。

与えられた目的を達成することではない。
なぜか勝手に目的そのものをつくってしまう。
なぜか勝手に0から1を生み出してしまっている。
人間はなぜか勝手にそれをやってしまう。
しかも、ものすごく非合理的でもだ。

では、AIはどうなのだろう？
AIが人間をはるかに超える知能を持ったとしても、それだけで感情を持ったことにはならない。感情と知能は別レイヤーにあると思う。

いや、そもそも感情というのは何なのだろう？
嬉しいとか、悲しいとか、好きとか、嫌いとか、悔しいとか、妬ましいとか。
そういう言葉で説明することはできるが、それがどこから生まれるのか、
それらが湧きたつ理由もよくわかっていないのではないか。

だったら「AIに感情があるのか？」という前に、
「人間の感情って何？」を、だれか正確に答えられますか？

無事に思春期を超えると、合理的な思考が芽生える。
これは男女共にそうだろう。
あの意味不明な熱く儚く尊い感情は少しずつ薄れていく。
そして、合理的かつ高効率な選択をするようになる。
いわゆる、コスパ・タイパだ。（これが非婚時代の打算的思考の原因？）

人の思春期の終焉と、AIのシンギュラリティ到達。

人間の成長は「感情」から「合理性」へ向かうように見える。
では、AIは「合理性」から「感情」へ向かうのか？
シンギュラリティのその先の「感情を獲得」したAI？

……ちょっと待て。

本当に、それでいいのか？

最新のAIが、思春期のB君のようになっても、
あなたは、一緒に仕事をしますか？