メインコンテンツへスキップ
見出し画像

AIに長いタスクを丸投げすると料金が急に跳ねる。「コンテキストの壁」の正体と、分割して単価を戻す実践ガイド

    「同じようなタスクなのに、今日は妙にトークンを食う」——AIコーディングを使い込むほど、この感覚に覚えがあるはずです。とくに長いタスクを一気に丸投げしたとき、後半になるほど1リクエストのコストが跳ね上がっていきます。

    直近では、GPT-5.6 Sol を長いタスクで回すと「272Kトークンの壁」を超えたあたりから単価が急増し、同じ作業でも従来比2.34倍のコストになった、という報告も出ていました(X上の使用感レポートより。数値は投稿者の実測値で、公式発表ではありません)。この「壁」の話はSol固有に見えますが、実は仕組みはどのAIコーディング環境にも共通します。

    この記事では、まず「なぜ長いタスクほど単価が跳ねるのか」を仕組みから分解し、後半で「タスクを分割して単価を元に戻す実践ワークフロー」をコピペできるレベルでまとめます。

    この記事でわかること

    • 長いタスクで料金が跳ねる仕組み(コンテキスト肥大)

    • 単価を戻すためのタスク分割の型

    • 分割を仕組み化して再発させない設定

    第1章: なぜ長いタスクほど単価が跳ねるのか

    AIコーディングの課金は、ざっくり「入力トークン × 単価 + 出力トークン × 単価」で決まります。ここで見落とされがちなのが、会話が進むほど「入力トークン」が雪だるま式に増えるという点です。

    AIは前のやり取りを覚えているわけではありません。毎リクエストで、それまでの会話履歴・読み込んだファイル・ツールの実行結果を「全部もう一度」入力として送り直しています。つまり長いタスクの後半では、1回の指示に対して過去の文脈すべてが毎回課金対象になる。これが「後半ほど高い」の正体です。

    さらに厄介なのが、多くのモデルには一定の文脈量を超えると単価そのものが上がる段(ティア)が存在することです。冒頭の「272Kの壁」もこの一種で、閾値を越えた瞬間にリクエスト単価が跳ねる。長さが二重に効く——履歴が増えて入力量が膨らみ、さらに閾値超えで単価まで上がる。これが「急に料金が跳ねる」体験を生みます。

    裏を返せば、対策はシンプルです。1タスクあたりの文脈量を、単価が跳ねる閾値の内側に抑え続ける。そのための具体的な分割の型を、ここから実践編としてまとめます。

    第2章: 単価を戻すタスク分割の型

     
     
    AI×開発の実験日記。Claude / Ollama / MLX を Mac で動かしたり自動化したり。SaaS勤務の30代、本業の合間に検証してnoteに書いてます。たまにやりすぎて寝不足。

    あなたへのおすすめ