Citoras（シトラス）とは？自社のGPU環境で音声合成APIを運用する仕組みを解説！

皆さんこんにちは。
感情豊かな音声合成技術を誰もがかんたんに活用できる未来を目指す、Aivis Project です✨

音声合成を業務システムやWebサービスへ組み込むと、音質だけでなく、データの保管場所、応答速度、同時処理、モデル管理、監視まで考える必要が出てきます。

たとえば、

・問い合わせ内容や顧客名を含むテキストを外部のクラウドへ送れない
・キャラクターが増えるたびにGPUを追加する構成は避けたい
・共有型のクラウドサービスではなく、自社で確保したリソースを使いたい

こうした要件は、検証段階では見えにくくても、本番運用へ進むと重要になります。

そのためにAivis Projectが提供しているのが、エンタープライズ向け音声合成APIサーバー「Citoras（シトラス）」です。

Citorasは、Aivis Cloud APIの内部で実際に稼働している音声合成基盤を、お客様が管理するGPU環境で運用できる製品です。

この記事では、Citorasの位置づけ、Aivis Cloud APIやAivisSpeech Engineとの違い、導入に向いているケースを順番に解説します📚

【結論】Citorasは、本番向けの音声合成基盤を自社管理環境で動かす製品

Citorasは、多数の音声合成リクエストと複数のモデルを、本番環境で安定して扱うためのAPIサーバーです。
Dockerイメージとして提供され、お客様が管理するNVIDIA GPUサーバーへ導入します。

最大の特徴は、Aivis Cloud APIと音声合成API・ユーザー辞書APIのインターフェイスが共通していることです。

そのため、まずはAivis Cloud APIで音声品質や応答速度を検証し、要件が固まった段階でCitorasへ移行できます。

Citorasは、クラウドで試した音声合成基盤を、本番では自社の管理範囲へ移して運用したい企業向けの製品です。

Aivis Cloud API・Citoras・AivisSpeech Engineの違い

3つは同じAivis Projectの音声合成技術を活用していますが、想定する利用形態が異なります。

Aivis Cloud API：すぐに試して使えるクラウドAPI

Aivis Cloud APIは、GPUサーバーを用意せず、APIキーを発行してすぐに使えるクラウド型の音声合成APIです。
PoCや小規模なサービス、利用量が変動するシステムなど、インフラ運用をAivis Project側へ任せたいケースに向いています。

Citoras：自社でリソースを管理する本番向けAPI基盤

Citorasでは、GPUの性能や台数、ネットワーク構成、モデルの保管先を、お客様の要件に合わせて設計できます。
共有型のクラウド基盤ではなく、自社専用のリソースを確保したい場合や、データの処理範囲を管理したい場合に適しています。

CitorasはNVIDIA GPUサーバーで多数のリクエストを扱うために設計され、低遅延ストリーミング、複数モデルの自動配置、監視APIなどを備えています。

AivisSpeech Engine：PCでのローカル利用を中心としたエンジン

AivisSpeech Engineは、一般的なPC上でAivisSpeechのバックエンドとして動作し、ローカルでの音声制作や検証に使われます。
CPUのみでも動作するAIVMX形式とONNX Runtimeを採用しており、個人や少人数での対話的な利用に適した設計です。

⚠️ AivisSpeech EngineとAivis Cloud API・Citorasでは、API仕様が異なります。
AivisSpeech Engineから移行する場合は、接続先の変更だけでなく、APIリクエストの実装変更が必要です。

Citorasの主な特徴

最速0.3秒で再生を始められる低遅延ストリーミング

Citorasは、生成した音声データを順番に返すリアルタイムストリーミングに対応しています。
音声全体の生成完了を待たず、最初のデータが届いた時点から再生を始められるため、AIエージェントや会話型サービスの体感待ち時間を抑えられます。

NVIDIA RTX A4000を使用した実測では、最速0.3秒で再生を開始し、30秒・230文字の音声を最速0.8秒以下で生成しています。
対応する出力形式は、WAV・FLAC・MP3・AAC・Opusです。

⚠️ これらは特定の機材・テキスト・設定における最速値であり、すべての環境で同じ性能を保証するものではありません。
実際の速度は、GPU、同時リクエスト数、利用モデル、入力文、出力形式などによって変わります。

GPU・CPU・ストレージを使い分けるモデル管理

一般的には、音声合成モデル（キャラクター数）が増えるほど、すべてのモデルをGPUメモリへ常時載せておく構成は非効率になります。

Citorasは、GPU VRAM・CPU RAM・ストレージの3階層を使い分け、利用状況に応じてモデルの配置を自動調整します。

よく使うモデルはGPUへ、待機中のモデルはCPUメモリやストレージへ配置します。
CPU側にあるモデルが呼び出された場合はGPUへ移し、その後の推論を高速に処理します。

Citorasは、VRAM 16GBクラスのGPUを搭載した1台のサーバーでも、400件以上のモデルを扱えるよう設計されています。

Aivis Projectの実環境では、同クラスのGPUサーバー2台で400件以上のモデルを約1年間運用してきた実績があります。
これは400件すべてをGPUへ常駐させるという意味ではなく、利用頻度に合わせてGPU・CPU・ストレージの配置を管理する仕組みによるものです。

S3互換ストレージからモデルを自動認識

音声合成モデルは、S3互換ストレージに配置できます。
Citorasはストレージを監視し、モデルの追加や削除を自動的に認識するため、モデルを追加するたびにサーバーを再起動する必要はありません。

保管先は、Cloudflare R2などの外部オブジェクトストレージだけでなく、MinIOなどを使ったオンプレミス構成も選択できます。
既存のセキュリティポリシーやネットワーク設計に合わせて、モデルの置き場所を決められます。

Citorasの推論で使用するのは、GPUサーバー向けのAIVM形式です。AivisSpeech Engineが使用するAIVMX形式とは役割が異なるため、導入前に利用予定モデルの形式とライセンスを確認してください。

日本語の読みと表現を細かく調整

Citorasは、英単語、数値、日付、時刻、単位などを含む日本語テキストの読みを整えたうえで音声を生成します。
固有名詞や専門用語については、ユーザー辞書で読み、アクセント型、品詞、優先度を指定できます。

ユーザー辞書はIDごとに分けられるため、SaaSの利用企業やエンドユーザーごとに異なる辞書を適用できます。
AivisSpeechやAivis Cloud APIから書き出した対応形式の辞書データを取り込む運用も可能です。

また、SSMLのサブセットに対応しており、文章の一部に間を入れる、話速や音量を変える、特定の読み方を指定するといった制御ができます。

LLMが生成した文章をそのまま読み上げるだけでなく、用途に合わせた話し方へ整えられます。

本番運用に必要な監視・アクセス制御を標準搭載

Citorasには、複数のAPIキーによる認証、CORS制御、IPアドレス単位のレート制限が用意されています。
さらに、ヘルスチェック、GPU・CPUメモリの使用状況、モデルのロード状態、利用統計などを確認するための監視APIを備えています。

ロードバランサーの配下に複数台のCitorasを配置すれば、負荷分散や冗長化を含む構成も可能です。

Citorasは特定のクラウドやネットワーク構成を強制せず、既存システムに合わせて配置することができます。

入力テキストと生成音声はどこで処理されるのか

Citorasでは、入力テキストの解析から音声生成までを、お客様が管理するGPU環境で実行します。

入力テキストや生成音声をAivis Projectのサーバーへ送信する必要はありません。

ただし、システム全体として外部通信を行わない構成になるかどうかは、導入時の設計によって決まります。

たとえば、モデル保管先に外部のS3互換ストレージを使う場合は、そのストレージとの通信が発生します。
外部サービスとの接続を避ける必要がある場合は、MinIOなどを含めてモデル保管先もお客様環境内へ配置します。

導入時には、次の範囲を明確にしておくことが重要です。

・入力テキストと生成音声の保存有無
・アプリケーションログへ残す情報
・モデルファイルの保管先
・監視サービスやエラー収集機能との接続
・社内ネットワークからCitorasまでの認証経路

「オンプレミスだから安全」と一括りにせず、データフローと外部接続先を構成図で確認することが、機密情報を扱うシステムでは欠かせません🔒

Citorasが活きる主なユースケース

AIエージェント・音声対話AI

ストリーミング生成によって、LLMの返答を低遅延で音声へ変換できます。受付端末、AIキャラクター、対話型アプリなど、返答までの待ち時間が体験に直結するサービスに向いています。

家電・IoT機器の音声インターフェイス

製品やサービスに複数のキャラクター音声を組み込み、サーバー側で一元管理できます。
モデルの追加や更新をサービス停止なしで反映しやすいことも、多製品展開に有効です。

コールセンター・IVRの自動応答

社名、商品名、人名などをユーザー辞書で調整しながら、案内内容を動的に読み上げられます。
顧客情報を含むテキストを扱う場合も、自社のデータ管理方針に合わせて構成を設計できます。

コンテンツ制作・ナレーション

複数の音声モデルを管理し、用途ごとに声やスタイルを切り替えられます。
WAVからOpusまで複数の出力形式に対応しているため、アーカイブ、Web配信、リアルタイム再生など、利用先に合わせた出力が可能です。

Aivis Cloud APIからCitorasへ進む導入ステップ

Citorasの導入を検討されている企業様には、最初から大規模な環境を構築するのではなく、次の順序で導入の検討から始めることを推奨しております。

1．Aivis Cloud APIで性能と音声品質を確認する

まずはAivis Cloud APIにて、実際に使用するテキストやモデルを使って、読み、感情表現、応答速度を検証します。
AivisHubアカウント初回登録特典のクレジットを活用することで、500円分の音声を無料で生成できるほか、クレジット購入やサブスク加入にて自由に音声を生成できるため、初期段階ではGPUサーバーを用意する必要がありません。

2．利用する音声合成モデルと要件を整理する

利用する音声合成モデルの候補を、ライセンスなどを踏まえて確認します。

AivisHub上のモデルをそのまま利用することもできるほか、まるなげボイスという弊社サービスを通じて、新しい音声合成モデルの制作をご依頼いただくことも可能です。

同時接続数、1日の生成量、許容遅延、可用性、外部通信の可否もここで整理します。

3．GPU・ネットワーク・ストレージを設計する

公開している推奨構成の目安は、NVIDIA RTX A4000クラス以上、GPUメモリ16GB以上、システムメモリ16GB以上、ストレージ50GB以上です。
ただし、必要な台数や容量はモデル数、同時推論数、冗長化の有無によって変わるため、個別にサイジングします。

4．Citorasを導入し、既存システムと接続する

Docker環境へCitorasを展開し、認証、ネットワーク、モデルストレージ、監視を接続します。
Aivis Cloud APIと共通のAPIインターフェイスを利用できるため、PoCで確認した実装を本番構成へ移しやすくなっています。

5．負荷試験後に本番運用を始める

実際のリクエスト量を想定した負荷試験を行い、同時推論数、タイムアウト、レート制限、障害時の切り替えを確認します。
運用開始後も、監視APIでリソース使用量やモデルの状態を確認しながら調整します。

料金と導入時に必要な費用

Citorasは、月額10万円（税別）の定額制で提供しています。

モデル数やAPIリクエスト数に応じたCitorasの追加料金は発生せず、監視・認証・ログ機能、契約期間中の機能更新や内蔵辞書の改善も含まれます。

ただし、GPUサーバー、ストレージ、ネットワーク、監視基盤など、お客様側で利用するインフラの費用は別途必要です。
利用量が多いほど必ずCitorasが安くなるとは限らないため、Aivis Cloud APIの利用料と、自社でGPU環境を保有・運用する費用を合わせて比較してください。

大規模な利用や専有リソースが必要な場合は、コストだけでなく、性能を自社で制御できることや、データ管理方針へ合わせられることも含めて判断するのがおすすめです。

よくあるご質問（FAQ）

Q．入力テキストや生成音声が、社外へ送信されることはありますか？

Citorasの音声合成処理は、お客様が管理するGPU環境で実行されます。入力テキストの解析から音声生成までをお客様環境内で処理するため、入力テキストや生成音声をAivis Projectのサーバーへ送信する必要はありません。

ただし、Cloudflare R2などの外部ストレージや外部監視サービスを利用する場合は、それらのサービスとの通信が発生します。外部通信を避ける必要がある場合は、ストレージや監視基盤も含めてお客様環境内へ配置します。

Q．完全なオンプレミス環境でも運用できますか？

はい。Citorasを動かすGPUサーバーに加えて、モデルの保管先にもMinIOなどのS3互換ストレージを利用することで、音声合成に必要な環境をお客様の管理範囲内へ構築できます。

外部インターネットへ接続できない環境で運用する場合は、製品の導入、アップデート、内蔵辞書の更新方法も含めて事前に設計します。

Q．CitorasはZero Data Retention（ZDR）に対応していますか？

Citorasはお客様が管理する環境で稼働するため、入力テキスト、生成音声、ログの保存内容や保存期間をお客様側で管理できます。

ただし、Citorasを導入しただけで、自動的にZDR要件を満たすわけではありません。外部ストレージ、監視サービス、アプリケーションログなどを含め、システム全体のデータフローを確認する必要があります。

ログを保存しない運用を希望する場合は、求められるセキュリティ要件を確認したうえで個別に構成を設計します。

Q．Aivis Cloud APIを使ったPoCで、機密情報を送信しても問題ありませんか？

Aivis Cloud APIへ送信された入力テキストや生成音声を、音声合成モデルの学習に利用することはありません。

ただし、Aivis Cloud APIは現時点でZero Data Retentionに対応しておらず、サービスの安定運用や障害調査に必要な最小限のログを保持しています。

機密性の高いデータを使って検証する場合は、ログ管理方針が自社のセキュリティ要件を満たすか確認するか、匿名化・マスキングしたテストデータをご利用ください。

Q．どのようなアクセス制御に対応していますか？

Citorasには、複数のAPIキーによる認証、CORS制御、IPアドレス単位のレート制限が用意されています。

シングルサインオン、利用者ごとの権限管理、社内ネットワークとの統合など、より高度な認証・認可が必要な場合は、Citorasの前段に認証サーバーやAPIゲートウェイを配置します。

Q．手元のStyle-Bert-VITS2モデルを使えますか？

利用予定のモデルをAIVM形式へ変換することで、Citorasで運用できます。

既存のStyle-Bert-VITS2モデルは、Aivis Projectが提供するAIVM Generatorを使って無料で変換できます。ただし、変換前にモデルの権利関係や利用条件を必ずご確認ください。

モデルの制作や変換を含めたご相談も承っています。

Q．推奨構成より小さいGPUでも動きますか？

必要なGPU性能とメモリ容量は、利用するモデル数、同時推論数、求める応答速度によって変わります。

推奨構成を下回る環境で利用できるかは一律に判断できないため、想定するリクエスト量や運用モデル数を共有いただいたうえで個別に確認します。

まとめ

音声合成を本番サービスへ組み込むときは、音質だけでなく、どこで処理するか、どのようにモデルを増やすか、障害や負荷をどう監視するかまで含めた設計が必要です。

Citorasは、Aivis Cloud APIで培ってきた音声合成基盤を、お客様のセキュリティ方針や運用要件に合わせて展開するための製品です。
まずはAivis Cloud APIで、実際のモデルと文章による品質・速度をご確認ください✨

以上で、この記事はおしまいです。

Aivis ProjectやCitorasに関してご不明点やご相談がある場合には、お問い合わせフォームよりお気軽にご連絡ください。