見出し画像

GPT-5.6の入力コストを90%割引――AWSが「明示的プロンプトキャッシュ」を導入

この記事でわかること

  • AWS公式ブログ(2026年7月30日公開、Melanie Li氏ほか3名、OpenAIとAWSの共同執筆)は、Amazon Bedrock上のOpenAI GPT-5.6モデル(Sol/Terra/Luna)向けに「明示的プロンプトキャッシュ(explicit prompt caching)」を導入したと発表した。原文は「a new capability that gives you control over which parts of your prompt are cached and reused across requests」と説明し、キャッシュがヒットした入力は「a 90 percent discount」で課金され、「30 minutes」の間再利用できるという

  • GPT-5.5以前のモデルは自動(暗黙的)キャッシュのみでキャッシュ書き込みに追加料金はなかったが、GPT-5.6では「prompt_cache_breakpoint」を明示的に指定するモードが新設され、キャッシュへの書き込みは通常入力の1.25倍で課金される一方、ヒット時は90%割引になるという、書き込みコストと読み込み割引を天秤にかける新しい運用判断が必要になる

  • 原文(AWS公式ブログ)によれば、この機能で実際にコストが下がるのは「a workload lowers its net input cost once cache reads make up roughly 20 percent of the tokens that flow through the cache」、つまりキャッシュからの読み込みが全体のトークンのおおむね20%を超えて初めてだという。機能を有効にするだけで自動的に得になるわけではない設計であることが分かる


「a new capability that gives you control over which parts of your prompt are cached and reused across requests」――AWSは2026年7月30日、Amazon Bedrock上のOpenAI GPT-5.6モデル向けに、この新機能を公式ブログで発表した。

「モデルを賢くする」競争だけでなく、「同じモデルをどう効率よく動かすか」という運用面の工夫が問われる場面が増えている。この記事は、その一例として今回の機能を一次情報から整理する。

一次情報の要約――GPT-5.6向け「明示的プロンプトキャッシュ」とは何か

対象となるのは、Amazon Bedrock上で利用できるOpenAIのGPT-5.6シリーズだ。原文は「The family covers three capability tiers: GPT-5.6 Sol for the most complex reasoning and agentic coding work, GPT-5.6 Terra for balanced everyday production workloads, and GPT-5.6 Luna for fast, high-volume tasks such as classification and summarization」と説明している。

Solは複雑な推論・エージェント向けコーディング、Terraは日常的な用途、Lunaは高速・大量処理向けという位置づけの3モデルで構成されているという。

プロンプトキャッシュとは、プロンプトの一部(システム指示やツール定義など、繰り返し使われる部分)を「キャッシュ」として保持し、次回以降のリクエストで再利用することで、同じ内容を毎回処理し直すコストを省く仕組みだ。今回の発表は、GPT-5.6シリーズにおいてこのキャッシュの境界を利用者が「明示的に」指定できるようにした、という内容になる。

本題――GPT-5.6のキャッシュ運用は「賢いモデルを選ぶ」から「同じモデルをどう運用するか」へ

原文は、暗黙的(implicit)モードと明示的(explicit)モードの違いを「two modes: implicit, where Amazon Bedrock places cache breakpoints for you automatically, and explicit, where you mark the cache boundary yourself for precise control」と説明している。暗黙的モードではBedrockが自動でキャッシュの区切りを判断するのに対し、明示的モードでは利用者自身がprompt_cache_breakpointというパラメータで区切りの位置を指定できるという。

キャッシュを利用するための条件も具体的に示されている。原文は「A stable prefix of at least 1,024 tokens can be cached and reused」と述べ、少なくとも1,024トークンの安定したプレフィックス(変化しない先頭部分)が必要だとしている。

また「you can set up to 4 breakpoints per request on input_text, input_image, and input_file blocks」とあり、1リクエストあたり最大4箇所までキャッシュ境界を設定できるという。

課金面では、「Cached input is billed at a 90 percent discount」(キャッシュから読み込まれた入力は90%割引で課金される)とされる一方、「cache writes are billed at 1.25 times the uncached input rate」(キャッシュへの書き込みは、キャッシュを使わない場合の入力料金の1.25倍で課金される)とも明記されている。キャッシュは書き込むたびに割高になり、読み込んで再利用するたびに割安になる、という構造だ。

この設計の実務上の意味として、原文は「a workload lowers its net input cost once cache reads make up roughly 20 percent of the tokens that flow through the cache」と述べている。キャッシュを経由するトークンのうち、読み込み(再利用)がおおむね20%を超えて初めて、正味のコストが下がり始めるという。同じキャッシュを何度も再利用する使い方でなければ、書き込みコストの方が上回ってしまう可能性があるということになる。

具体的な活用場面として、原文はインシデント対応アシスタントの例を挙げている。「In a tool-calling loop, the system prompt and tool definitions repeat on every turn while the conversation grows at the end」、すなわち一連のツール呼び出しのループの中で、システムプロンプトとツール定義は毎ターン繰り返される一方、会話の末尾だけが増えていくという特性のワークロードに向いているという。

最初のターンでシステムプロンプトをキャッシュに書き込み、以降のターンではその静的な部分をキャッシュから読み込みつつ、新しいツール呼び出しと結果だけを追加で処理する、という使い方になる。キャッシュの有効期限(TTL)は最短30分とされており、「long enough to cover the burst of calls a single agent run generates」、つまり1回のエージェント実行で発生する一連の呼び出しをカバーできる長さだとしている。

予備一次情報(Bedrock公式ドキュメント)を確認すると、この「明示的キャッシュ」への切り替えは、GPT-5.6シリーズだけの変化ではないことが分かる。GPT-5.5以前のモデルについては「prompt caching is automatic. You do not need to add any special parameters」「Cache writes have no additional fee on these models」と説明されており、自動キャッシュのみでキャッシュ書き込みに追加料金は発生しなかったという。

GPT-5.6になって初めて、利用者が明示的に境界を指定するモードと、それに伴うキャッシュ書き込み課金(1.25倍)が導入されたことになる。

同じドキュメントは、Bedrock上のAnthropic Claudeモデル群についても、モデルごとに最小トークン数・キャッシュ境界の最大数・TTLが異なる形でキャッシュの仕組みを提供していると説明している。モデルが新しくなるほど、あるいはモデルが変わるごとに、キャッシュの設計・運用方法そのものを見直す必要が生じる、という構図がAWS Bedrock上の複数のモデルファミリーに共通して見られる。

見落とされがちな視点――「90%割引」は利用料金全体の削減率ではない

いくつか押さえておきたい留保点がある。

まず、「90%割引」はあくまでキャッシュから読み込まれた入力トークンに対する割引率であり、AI利用料金全体が自動的に10分の1になるという意味ではない。実際の削減幅は、リクエスト全体に占めるキャッシュ読み込みの割合に左右される。前述のとおり、原文はキャッシュ読み込みがおおむね20%を超えて初めて正味のコスト削減が始まるとしており、キャッシュの使い方次第では削減効果が小さい、あるいは書き込みコストの分だけ割高になる可能性もある。

次に、この記事で紹介したインシデント対応アシスタントの例は、原文が仕組みを説明するために挙げた例示であり、実際の顧客による導入事例・削減率の報告ではない。具体的な企業名や、実運用での削減率(%)といった数値は、今回参照した一次情報には示されていない。

さらに、これはAWSとOpenAIの共同執筆によるサービス発表であり、独立した第三者機関による検証結果ではない。

日本の読者への示唆

ここからは一次情報を踏まえたAI TREND LABの考察であり、断定ではなく推測を含む点をあらかじめ断っておく。今回の一次情報は米国企業による発表であり、日本国内での提供状況や日本語対応の詳細については言及がない。

会社員として社内のAI活用・ツール選定に関わる立場にある人にとっては、「新しいモデルに切り替えれば自動的にコストが下がる」とは限らず、モデルが変わるたびにキャッシュの設計(どこまでを固定部分にし、どこからを可変部分にするか)を見直す必要があるという点は、AIツールのコスト評価における一つの視点になりそうだ。ベンダーから「〇%割引」という数字が示された場合も、それが実際の利用パターンでどこまで効くのかを併せて確認する姿勢が役立ちそうだ。

個人開発者にとっては、システムプロンプトやツール定義など「毎回繰り返される固定部分」と、ユーザー入力など「毎回変わる部分」を明確に分けて設計するという考え方は、AIエージェントを実装するうえで具体的に応用できるパターンだ。1,024トークン以上の安定したプレフィックスを用意できるか、同じキャッシュキーを使い続けられる設計になっているかは、実装前に確認しておく価値がありそうだ。

副業や事業としてAI導入支援を行う立場の人にとっては、「どのモデルを使うか」だけでなく「同じモデルをどうキャッシュ設計するか」という切り口は、モデル選定とは別のコンサルティング領域になりうる。特に、キャッシュ書き込みコストとの兼ね合いを踏まえた損益分岐点(今回であればおおむね20%という目安)の説明は、提案の説得力を高める材料になりそうだ。

まとめ:明日から試せること

今回の発表が示しているのは、AIエージェントの運用コストが、モデルの性能そのものだけでなく、「プロンプトのどの部分を固定し、どう再利用するか」という設計判断によっても大きく変わる、ということだ。

明日から試せることとして、自分や自社が使っているAIエージェント・チャットボットの実装で、システムプロンプトやツール定義といった「毎回変わらない部分」と、ユーザー入力のような「毎回変わる部分」が、コード上で明確に分離されているかを一度確認してみるとよいだろう。

具体的には、その「毎回変わらない部分」のトークン数がどれくらいあるか、そして同じ内容が実際に何度繰り返し呼び出されているかの2点を見てみるとよい。分離されていない、あるいは繰り返しの頻度が低い場合は、キャッシュの仕組みをうまく活用できていない可能性がある。詳細は、ぜひ一次情報にも直接あたってみてほしい。

出典

Melanie Li, Chris Dickens, Joe Magerramov, Saurabh Trikande「Introducing explicit prompt caching for OpenAI GPT-5.6 models on Amazon Bedrock」(AWS Machine Learning Blog、2026年7月30日)
https://aws.amazon.com/blogs/machine-learning/introducing-explicit-prompt-caching-for-openai-gpt-5-6-models-on-amazon-bedrock/

(予備一次情報)
AWS Bedrock公式ドキュメント「Prompt caching for faster model inference」
https://docs.aws.amazon.com/bedrock/latest/userguide/prompt-caching.html

おわりに

AI TREND LABでは、海外で発表される調査・レポート・公式発表を一次情報から丁寧に裏取りし、誇張や断定を避けながら、日本のビジネスパーソンが実務や副業にどう活かせるかという視点で翻訳・整理して届けている。

今後もAI TREND LABでは、海外の一次情報をもとに、AIの最新動向を正確かつ分かりやすく発信していく。

いいなと思ったら応援しよう!

この記事は noteマネー にピックアップされました

noteマネーのバナー