メインコンテンツへスキップ
見出し画像

家康からAI、そしてP2Pへ。⑨|仕組みそのものをP2Pにしたら?

    政治を検証するためのAI。

    その開発元が乗っ取られないようにするため、モデルの公開や学習内容の透明化を考えた。

    さらに、有志の計算資源を利用する方法まで検討した。

    しかし、最後まで気になっていた問題がある。

    クラウドだ。

    クラウド型は便利である。

    高性能なパソコンを持っていなくても、誰でもAIを利用できる。

    一方で、運営元が乗っ取られれば、利用者全体に影響が及ぶ可能性がある。

    ローカル型なら、すでに配布したモデルを勝手に変更される心配は小さい。

    しかし、今度は利用者に一定の設備が必要になる。

    両方を併用すれば、ある程度は解決できそうだ。

    だが、どうにもすっきりしない。

    そもそも、ここまで分散を考えてきたのに、利用する段階で中央のクラウドに頼るというのも妙な話である。

    ……。

    あれ?

    ならさ。クラウドじゃなくて、仕組みそのものをP2Pにしたら?

    クラウドを作らないという選択

    P2Pとは、Peer-to-Peerの略である。

    ネットワークに参加するコンピューター同士が、直接、あるいは互いを経由して通信する方式だ。

    一般的なクラウドサービスでは、中央のサーバーが処理を引き受ける。

    利用者は、そのサーバーへ要求を送る。

    しかし、P2Pなら事情が変わる。

    ネットワークに参加するコンピューターが、それぞれ役割を持つことができる。

    例えば、ある人間が政策について質問する。

    その要求を、ネットワーク上の計算機が処理する。

    必要な情報を別の計算機が提供する。

    計算結果を別の計算機が検証する。

    こうした処理を、一つの中央サーバーに集めずに実行できないだろうか。

    もちろん、すべての計算機が同じ仕事をする必要はない。

    高性能なGPUを持つ計算機。

    大量の資料を保存している計算機。

    統計処理を担当する計算機。

    分析結果を検証する計算機。

    それぞれの能力に応じて、役割を分担すればいい。

    AIモデルそのものも公開されている。

    必要な資料も公開されている。

    そして、計算資源も有志が提供する。

    ならば、それらを利用する仕組みまで中央に集約する必要はないのではないか。

    運営元が消えても動くのか

    ここで、以前から考えていた乗っ取り問題に戻る。

    あるAIサービスが社会的な信用を獲得したとする。

    その運営元を、特定の政治勢力が掌握した。

    中央のサーバーで分析している場合、運営者がモデルや情報源を変更すれば、多くの利用者が同時に影響を受ける可能性がある。

    では、P2Pならどうだろう。

    ネットワークに参加する計算機が、それぞれモデルや情報を保持している。

    ある計算機が不正な結果を返してきても、別の計算機で検証できる。

    一部の計算機が停止しても、別の計算機が処理を引き受けられる。

    元の開発者が活動を停止しても、ネットワークそのものは継続できるかもしれない。

    つまり、一つの運営元を掌握したからといって、仕組み全体を支配できるとは限らなくなる。

    これは、ここまで考えてきた組織の独立性ともつながる。

    乗っ取られない組織を作る。

    そうではなく、乗っ取られても機能が失われない仕組みを作る。

    その考え方を、AIの運用基盤そのものに適用するわけだ。

    ただし、すぐに新しい問題が浮かんだ。

    誰のパソコンが計算しているのか

    P2Pでは、さまざまな計算機がネットワークに参加する。

    しかし、参加者が全員善意である保証はない。

    例えば、国家規模の勢力が大量の計算機を参加させたらどうなるだろう。

    表向きは、計算資源を提供する協力者だ。

    しかし、実際には意図的に誤った結果を返しているかもしれない。

    さらに、同じ勢力が大量の参加者を装うことも考えられる。

    計算機が百台ある。

    そのうち九十台が、実は同じ勢力の管理下にある。

    もし多数決のような仕組みで結果を採用していたら、簡単に誘導されてしまうのではないか。

    これでは、中央の組織をなくした意味がない。

    分散しているように見えて、実際には一つの勢力が支配している。

    以前考えた「一つの勢力が二票を持つ」という問題が、今度は大量の計算機によって発生するわけだ。

    そこで、参加する計算機を身元照会の上で会員制にする方法を考えた。

    誰でも無条件に計算結果を提供できるようにするのではなく、一定の確認を受けた計算機を区別する。

    例えば、本人確認を済ませた参加者。

    登録された計算機。

    一定の条件を満たして認証された計算環境。

    こうした仕組みがあれば、少なくとも無制限に匿名の計算機を増やすことは難しくなるだろう。

    しかし、ここにも問題がある。

    本人確認ができたからといって、その人間が正直である保証はない。

    計算機が認証されていても、返された計算結果が正しいとは限らない。

    それに、すべての参加者へ本人確認を要求すれば、参加の自由度も下がる。

    では、どうするのか。

    計算機にも信用度を付けられないか

    そこで、もう一つ考えた。

    何らかの証明を行った計算機について、その重要度を上げる仕組みを作れないだろうか。

    P2Pのネットワークに参加する計算機を、ノードと呼ぶ。

    このノードを、すべて同じ条件で扱う必要はないのではないか。

    例えば、本人確認を済ませたノード。

    計算環境について一定の証明ができるノード。

    長期間にわたって正常に稼働しているノード。

    過去の計算結果が、独立した検証によって確認されているノード。

    それぞれに異なる信用度を設定する。

    そして、その信用度に応じて、重要な処理を任せる優先度や、検証の必要性を調整する。

    こうすれば、何も確認されていないノードと、一定の実績があるノードを区別できる。

    もちろん、認証する仕組み自体にも問題がある。

    誰が証明するのか。

    何を証明するのか。

    証明した情報をどこまで公開するのか。

    参加者の個人情報をどう保護するのか。

    考えるべきことは多い。

    それでも、何らかの証明によってノードを区別できれば、無条件にすべての計算機を信用する必要はなくなる。

    ただし、ここで一つ注意したい。

    信用度が高いノードだからといって、その計算結果が必ず正しいわけではない。

    長年正常に動いていた計算機が、ある日突然不正な結果を返す可能性もある。

    以前考えた、長期間かけて信用を獲得してから組織を乗っ取るという問題と同じだ。

    ならば、信用度だけで結果を決めてしまうわけにもいかない。

    結局、検証は必要になる

    では、計算結果そのものをどう評価するのか。

    例えば、ある政策の費用対効果を計算したとする。

    複数のノードへ同じ計算を依頼する。

    それぞれが結果を返す。

    計算方法と入力データが同じであれば、結果を照合できる。

    仮に一台だけ大きく異なる数字を返してきたら、そのノードを調査する理由になる。

    これは、以前調べたBOINCの冗長計算にも通じる考え方だ。

    ただし、AIの分析では単純に同じ答えが返ってくるとは限らない。

    例えば、ある政策の将来的な経済効果を推計する場合。

    使用する前提条件によって、結果が変わることもある。

    分析方法によっても違いが出る。

    その違いが計算ミスなのか、正当な推計の差なのかを判断する必要がある。

    だから、すべての結果を単純な多数決で決めることはできない。

    必要なのは、結果を比較し、その違いを分析できる仕組みだろう。

    複数のノードが計算する。

    結果を照合する。

    異常な値を検出する。

    必要なら、別のノードへ再計算を依頼する。

    さらに、どの情報を使い、どのような計算を行ったのかを記録する。

    そうした仕組みがあれば、不自然な結果を調査できる。

    ここまで考えて、ようやく問題の中心が見えてきた。

    結局、統計的収束と分析可能性が肝になるか。

    複数の計算結果を比較して、どの程度一致しているのかを確認する。

    一致しない場合には、その原因を追跡できるようにする。

    ただし、多数の結果が一致していても、共通の前提が間違っていれば全員が同じ誤りに到達する。

    だから、結果の一致だけではなく、分析の根拠そのものも検証する必要がある。

    最初に考えていた、AIによる政策評価と同じだ。

    AIの結論だけを信用しない。

    根拠を確認できるようにする。

    それをネットワーク全体にも適用するわけだ。

    チート検出の技術は使えないのか

    ここで、別の分野が思い浮かんだ。

    オンラインゲームである。

    オンラインゲームには、不正なプログラムを利用するプレイヤーが存在する。

    いわゆるチートだ。

    ゲームの運営側は、こうした不正を検出するためにさまざまな方法を使っている。

    例えば、人間には不自然な操作速度。

    通常のゲーム内では起こり得ない移動。

    異常な行動の繰り返し。

    本来の処理では発生しないデータ。

    こうした特徴を調べ、不正の可能性を検出する。

    ならば、P2PのAIでも似たようなことができないだろうか。

    ノードごとの処理時間。

    計算結果の傾向。

    他のノードとの一致率。

    過去の履歴から見た変化。

    それらを継続的に分析すれば、不自然な挙動を発見できるかもしれない。

    もちろん、ゲームのチート検出をそのままAIの検証に転用できるわけではない。

    正しい計算結果でも、他と大きく異なる場合はあるだろう。

    逆に、複数の不正なノードが結託して同じ結果を返す可能性もある。

    しかし、異常を検出するという考え方そのものは参考になる。

    最初から完全に信用できるノードを探すのではない。

    参加しているノードの挙動を継続的に分析し、問題を発見できるようにする。

    信用度による重み付け。

    複数のノードによる照合。

    統計的な異常検出。

    そして、計算過程の記録。

    これらを組み合わせれば、ある程度は不正への対処ができるのではないだろうか。

    そもそも、どこまで既存技術でできるのか

    画像

    ここまで考えると、随分と技術的な話になってきた。

    しかし、自分で一からすべてを開発する必要があるのだろうか。

    そこで、既存の取り組みとの比較を考えた。

    まず、libp2p。

    P2Pネットワークを構築するための技術群である。

    ネットワークに参加している相手を探す。

    相手と通信する。

    異なる環境にある計算機同士を接続する。

    こうした機能を提供する。

    今回の構想では、ノード同士の接続や通信に利用できる可能性がある。

    次にPetals。

    これは複数の計算機が協力して、大規模な言語モデルの推論や追加学習を行うための仕組みだ。

    高性能な一台の計算機だけに頼るのではなく、複数の計算機でモデルの処理を分担する。

    今回考えていた、AIの処理そのものを分散させるという発想に近い。

    さらにHivemind。

    こちらは、インターネット上に分散した計算機を利用して、AIの学習を行うための技術だ。

    性能や通信環境が異なる計算機を利用するための仕組みが研究されている。

    そして、以前登場したBOINC。

    有志が計算資源を提供し、複数の計算結果を照合するという点で参考になる。

    つまり、今回考えていた構想には、すでに研究や実装が存在する部分がある。

    P2P通信。

    分散推論。

    分散学習。

    計算結果の検証。

    これらは、まったく未知の技術というわけではない。

    ただし、それぞれ目的が違う。

    libp2pは、ネットワークの通信を支援する。

    Petalsは、複数の計算機によるAIの実行を扱う。

    Hivemindは、分散した計算資源による学習を扱う。

    BOINCは、有志の計算資源を利用する仕組みだ。

    どれか一つを導入すれば、今回の構想が完成するわけではない。

    特に、政治の検証という目的に必要な信頼性や情報の保全については、別途設計しなければならない。

    それでも、必要な技術の一部はすでに存在している。

    ならば、既存技術を組み合わせながら、不足する部分を検討する方向が考えられそうだ。

    分散すれば、信用しなくて済むのか

    ここで、一度考えを整理してみる。

    最初は、政治を検証する独立したAI組織を作ろうとしていた。

    政府やメディアとは別の情報源を作る。

    国民が判断するための材料を提供する。

    それが目的だった。

    しかし、組織には資金が必要になる。

    資金を集めれば、出資者の影響を受ける可能性がある。

    信用を獲得すれば、今度は乗っ取られる価値が生まれる。

    そこで、組織の内部情報を公開する方法を考えた。

    記録を改ざんできないようにする方法も考えた。

    権限を分散させる仕組みも検討した。

    それでも、人間が組織を運営する限り、利害関係の問題は残る。

    そこで、AIモデルそのものを公開する方向に変わった。

    誰でも利用し、改良し、検証できるようにする。

    さらに、学習や検証のための計算資源も有志から提供してもらう。

    そして、利用するための仕組みまでP2Pにする。

    こうして考えると、随分と姿が変わった。

    最初に必要だと思っていた巨大な組織は、必須ではなくなった。

    信用できる一つの発信者を作るのではなく、複数の人間が独立して検証できる仕組みに近づいている。

    もちろん、P2Pだからといって自動的に中立になるわけではない。

    大量のノードを一つの勢力が支配することも考えられる。

    誤った分析結果が、多数のノードから返される可能性もある。

    認証や重み付けの仕組みが悪用されるかもしれない。

    しかし、それらは少なくとも具体的に検討できる問題になってきた。

    誰が参加できるのか。

    どのノードを信用するのか。

    どの結果を採用するのか。

    不正な挙動をどう発見するのか。

    何を記録し、何を公開するのか。

    そして、特定の運営元が消えても、ネットワークを維持できるのか。

    こうした問題を一つずつ検証していけば、構想の実現性を評価できそうだ。

    家康はどこへ行った

    さて。

    ここまで考えたところで、最初の話を思い出した。

    徳川家康が総理大臣になったら、どうなるのだろう。

    そんな映画から始まった話だった。

    政治家には決断が必要なのか。

    国民は、政治家の判断をどう評価するのか。

    そのための情報を、誰が提供するのか。

    情報を提供する側が間違っていたら、誰が検証するのか。

    その検証者が乗っ取られたら、どうするのか。

    そして、そもそも誰か一人に検証を任せる必要があるのか。

    問いを重ねた結果、最後に残ったのは、政治を検証する能力そのものを社会に分散させるという構想だった。

    技術的な問題は、まだいくらでもある。

    実装できるかどうかも、詳細な検証が必要になる。

    しかし、少なくとも思考実験としては、一つの仕組みの輪郭が見えてきた。

    最初に考えていたのは、政治家が正しく決断できるかという問題だった。

    そして今考えているのは、その決断を国民が検証できる仕組みである。

    政治家にすべてを任せるのでもない。

    AIにすべてを任せるのでもない。

    国民が判断するための道具を、できるだけ多くの人間が利用できるようにする。

    そのために、特定の組織への依存を減らしていく。

    ……。

    なるほど。

    家康を総理大臣にする話だったはずなのに。

    どうやら、家康に仕事を任せる前に、国民へ道具を配ることになったらしい。

    結論。

    「徳川家康が総理大臣になったら」を考えていたはずが、誰が総理大臣になっても、その判断を検証できる仕組みを考える事になった。

     
     
    余談をしているつもりはない。結果的に全部余談になる。 「何について書いてあるんですか?」 「分かりません。書き始めた時点では筆者も知りません」 「ジャンルは?」 「出発点によります」 「結論は?」 「到着してから考えます」 筆者は至って真面目である。

    あなたへのおすすめ