メインコンテンツへスキップ
見出し画像

800台超のMCPサーバーを一つの門で束ねる~UberのMCP Gatewayに学ぶエージェントの道具管理設計~

    【発端】 AIエージェントの難所はAIの外側

    画像
    難所はモデルの外側、つまり道具のつなぎ方にあった

    最近、Uber Engineering(@UberEng)の「Designing MCP Gateway Uber's MCP Management Platform」を読みました。Uber社内でAIエージェントが使う道具を、一つのゲートウェイで管理している話です。

    モデルの性能ではなく、つなぎ方が主題になっている点が面白いです。同社のブログ版では、MCPサーバーが800台超、ツールが5,000個超、このゲートウェイの上で動いているとされています。

    この記事では、MCPとは何か、個別実装と何が違うのか、登録簿と中継役がどう分担するのかを順に説明します。

    最後に、ツールが増えすぎたときの対策と、自分の現場で試せる一歩まで進みます。

    【基礎】 MCPは、AIが道具を呼ぶための共通の口

    画像
    サーバーがツールを公開し、モデルが必要に応じて見つけて呼ぶ

    つまり、MCPはAIにとっての「USBの差し込み口」のような約束事です。

    MCP(Model Context Protocol)は、AIアプリと外部のデータやツールをつなぐオープンなプロトコルです。Anthropicが2024年11月に発表しました。

    MCPの仕様では、サーバーがツールを公開します。ツールは、名前と入力の型(スキーマ)を持ちます。

    クライアントはツール一覧を取得し、tools/callというリクエストで呼び出します。ツールは、言語モデルが文脈に応じて見つけて呼べるように設計されています。

    小さく試すうちは、この呼び方で足ります。Uberでも最初は各チームが個別にMCP連携を作り、いまの業務情報にアクセスできるエージェントの有用性を確かめていました。

    【違い】 数百チームの規模で崩れる個別実装

    画像
    差が出るのは、作り方ではなく「誰が何を持つか」の軸

    つまり、問題はMCPそのものではなく、チームごとに作ることでした。

    Uberの記事によると、チームが独立に連携を作った結果、ツール類が断片化し、基盤が重複しました。ツールは見つけにくく、運用の信頼性を保ちにくく、特定のサービスやエージェントの実装と強く結び付いていました。

    数百のチームがエージェントを試し始めると、運用の複雑さ、セキュリティリスク、開発者の負担が増える見込みでした。そこで共通のゲートウェイが作られました。

    誰が作るか

    • チームごとの個別実装:各チームがサーバーを手作りする

    • MCP Gateway:既存APIから自動で生成できる

    見つけ方

    • チームごとの個別実装:担当者に聞くか、URLを配線する

    • MCP Gateway:レジストリで一元的に探せる

    安全性

    • チームごとの個別実装:チームごとにばらつく

    • MCP Gateway:認可とPII(個人情報など)の秘匿を共通で適用する

    既存サービス

    • チームごとの個別実装:改修が必要になりやすい

    • MCP Gateway:下流の変更なしで公開できる

    責任の所在

    • チームごとの個別実装:曖昧になりやすい

    • MCP Gateway:サービス側のチームが持ち主として承認する

    MCP Gatewayの側は、同社が挙げる利点の整理です。見つけやすさと導入、既存APIのノーコード公開、観測性(動作をあとから追えること)とセキュリティの組み込み、所有とガバナンス(誰が責任を持つか)の一元化が並びます。

    【仕組み】 登録簿の決定と、中継役の実行

    つまり、「何を公開するか」を決める面と、「実際に呼ぶ」面を分けた設計です。

    二つの面

    画像
    制御側(Registry)と実行側(Proxy Gateway)の二面構造

    ゲートウェイは二つの部品でできています。一つは、サーバーとツールの台帳であるMCP Registryで、コントロールプレーン(制御側)です。

    もう一つは、実行時にリクエストを処理するProxy Gatewayで、データプレーン(実行側)です。

    自動で見つけ、勝手には開けない

    画像
    自動生成の速さを、所有と差分レビューで支える

    社内には、HTTP、gRPC、TChannelという通信方式のAPIを持つサービスが数千あります。手作業でMCPサーバーを書かせるのは現実的ではありません。

    そこでAutoCrawlerが、社内のIDL(インターフェース定義)レジストリを定期的に走査します。Cadenceという分散ワークフローの仕組みで動きます。

    ProtobufやThriftは、APIの型を書く形式です。定義から、メソッド名、入出力の型、コメントを取り出します。

    LLM(大規模言語モデル)でエージェント向けの説明文を作り、MCPのスキーマに変換します。

    native(MCPを直接実装した)サーバーは、起動の合図であるハートビートの指標で見つけます。その後listToolsを呼んでツールを取得します。

    ここで守られているのは、「発見は公開を意味しない」という原則です。見つかったものはすべて、無効の状態でレジストリに入ります。

    持ち主のチームが内容を確認して有効にします。ツール説明を変えると差分が出て、持ち主の承認が要ります。

    前の版へ戻すこともできます。

    実行時の流れ

    実行側は、設定を一定間隔でメモリに読み込み直します。そのため、有効化やツールの更新は再起動なしで反映されます。

    サーバーごとに/<サービス名>/mcpという入口が用意されます。

    IDLに支えられたツールが呼ばれると、次の順で処理されます。

    1. 受け取ったJSONを適切な形式に変換する

    2. ProtobufまたはThriftのバイト列にする

    3. 下流サービスへ転送する

    4. 返ってきたバイト列をMCP互換のJSONに戻す

    実際の転送は、サービスメッシュのサイドカーであるMuttleyに任せます。メッシュは、サービス同士の通信をまとめて扱う共通の仕組みです。

    既存のサービス間ルーティングの恩恵を、そのまま受けられます。

    権限と秘匿

    認可は、サーバー単位で設定し、必要ならツール単位で上書きします。呼び出し元は人、サービス、エージェントに区別されます。

    レスポンスからは、PIIなどの機微情報が自動で伏せられます。

    【具体例】 渡しきらないツール定義と段階的な探索

    画像
    サーバーを横断して検索する仕組みがMCPに無い、という規模の壁への対策

    つまり、全ツールを最初に見せず、必要になった分だけ聞きに行かせます。

    規模が大きくなると、小さな運用では見えなかった問題が出ました。MCPには、サーバーをまたいで検索する仕組みがありません。

    エージェントは、先に相手のサーバーを知っている必要があります。

    数百のサーバーを全部配線すれば、その情報だけで、モデルの文脈の上限を使い切ります。Uberの対策は三つあります。

    • Omni MCP:全サーバーへの入口となる一つのプロキシです。discover_server(意図からサーバーを探す)、discover_tools、get_tool_schema、invoke_toolの4つで、段階的に探して呼び出します。

    • Response Projection:ツールの入力に項目を足し、必要なフィールドのパスだけをLLMに指定させます。ゲートウェイが実行時に応答を絞ります。GraphQLの呼び方に似た発想です。

    • Code Mode:CLIのaifxを通して、一覧、検索、呼び出しを行います。出力をファイルに書き、エージェントが必要な部分だけ検索して読みます。MCPの定義を文脈に置かずに済み、コーディングエージェントでは同社の既定になっています。

    記事は、これらによるトークン削減率などの数値は示していません。効果は、自分の環境で測って確かめる必要があります。

    【関連概念】 文脈の節約と、権限の境界

    画像
    Uberの設計を、他の資料と結びつけて読む

    つまり、次に調べる軸は「文脈をどう減らすか」と「誰に何を許すか」です。

    文脈の節約として、Anthropicはコード実行とMCPの記事で、ツールをコードのAPIとして見せる方法を提案しています。必要なツールだけを読み込み、データは実行環境で加工してからモデルに返します。

    UberのCode Modeと同じ方向の考え方です。

    高度なツール利用の記事によれば、ツールの定義と結果が、依頼を読む前に5万トークン以上を使うことがあります。

    権限の境界として、Uberは別の記事で、MCP Gatewayをツール呼び出しのポリシー適用点と位置づけています。呼び出し元を認証し、ツール呼び出しを認可してから、下流へ中継します。

    CLIという入口として、同社の別の投稿では、モデルがシェルコマンドを実行し、CLIが実行時にゲートウェイ経由で道具を呼ぶ方式が紹介されています。これにより、Uber MCPのスキーマをセッションの文脈から外せるそうです。

    参考情報

    本記事をより深く理解するために、概念マップスライドを作成しました。こちらをみることで理解の補助になるはずです。

    関連記事

    【まとめ】 まず棚卸しと「初期は無効」からの試し

    つまり、AIの外側にある配線を整える仕事が、エージェントを実務で使えるかを分けます。

    Uberの記事の結論も、最も難しいのはAIではなく、発見、セキュリティ、信頼性という「つなぎの層」だというものでした。既存APIが道具になる最短の道だ、という見立ても同じです。

    この記事の整理を、自分の現場に置き換えるなら、次のような確認から始められます。

    1. □ 社内のAPIを数え、IDLやスキーマが機械で読める形で残っているかを確認する

    2. □ 新しく公開するツールは、初期状態を「無効」にして台帳に載せる

    3. □ ツール説明の変更に差分レビューと巻き戻しの手段を付ける

    4. □ ツール定義が文脈に占める量を測り、増えたら段階的な発見を検討する

    5. □ 呼び出し元(人、サービス、エージェント)ごとに、許す範囲を決める

    参考情報

     
     
    海外でバズった最新テック関連情報をわかりやすく整理します! スキの数やページビューが多いなどの反響が多いものがあれば、実際の環境で操作した結果や手順などを共有する記事も作成したいとも思ってます! とりあえずこれを見ておけばディープな最新情報もキャッチアップ!できるものを目指します

    あなたへのおすすめ