メインコンテンツへスキップ
見出し画像

Claude Haiku 5.5 から読む~小型モデルを役割で使い分ける設計~

    最近、Anthropicの発表ページ「Introducing Claude Haiku 5.5」(2026年10月7日付)を読みました。Claudeの小型モデルHaikuの新しいバージョンで、価格が前の世代より大きく下がり、ベンチマークの点数が大きく上がった、という内容です。

    モデル単体の点数よりも、同じページに並んだ設計の材料がおもしろいです。性能と費用を切り替えるeffortという設定、Sonnet 5.5のキャッシュ読み取りの値下げ、サブエージェントとしての使い方が、一つの発表にまとまっています。

    この記事では、小型モデルがどんな役を担うのか、従来の「一つの大きなモデルに任せる」やり方と何が違うのか、費用と性能がどう決まるのかを順に説明します。数字はすべて発表ページの公表値で、私が測ったものではありません。

    【発端】 安いモデルの発表から、使い分けの提案へ

    画像
    同じ日に出た三つの発表が、費用を下げる別々の経路を示している

    この発表は「新しい安いモデル」の紹介にとどまらず、モデルを仕事の性質で分ける前提を置いています。

    AnthropicはHaiku 5.5を、これまでで最も安く、最も速く、最も高性能な小型モデルと位置づけています。想定する仕事は、要約、会話履歴の圧縮(compaction)、データベースへの問い合わせ、分類のように、短くて繰り返しの多い作業です。

    コーディングでは、Opus 5.5やSonnet 5.5の下で動くサブエージェントとして使う想定です。応答の速さが求められるライブの顧客サポートやブラウザ操作にも向く、と書かれています。

    費用面では、Haiku 4.5と比べて平均で約75%安く動かせるとあります。同じ日に、Sonnet 5.5のキャッシュ読み取りの半額化と、MaxとTeamの契約者向けの月額APIクレジットも発表されました。

    【基礎】 小型モデルは、量の多い狭い仕事を引き受ける役

    画像
    サブエージェントは、親から割り振られた狭い仕事だけを実行して、結果を返す

    小型モデルの価値は「小さい頭脳」ではなく、呼び出し回数が多い仕事の単価を下げるところにあります。

    ClaudeにはOpus、Sonnet、Haikuの系列があり、Haikuが最も小さく速い系列です。大きなモデルは難しい判断に向き、小さなモデルは決まった形の作業を大量にさばくのに向きます。

    サブエージェントは、親のエージェントから狭い仕事を割り振られ、結果だけを返すエージェントです。発表に載った金融系の顧客Rogoの例では、大きなモデルがスライド資料を組み立てる間に、Haiku 5.5のサブエージェントが有価証券報告書(10-K)から必要なセグメント売上の行を拾います。

    料金は、モデルが読み書きするトークン(文字を細かく区切った単位)の量で決まります。入力、出力、キャッシュの読み書きで、単価は別です。

    キャッシュは、同じ前置き(長い指示や資料)を何度も送るときに、再利用分を安く読み取る仕組みです。

    【違い】 一つのモデルに任せる運用から、役割分担へ

    画像
    価格は100万トークンあたり。Haiku 5.5 は100,000トークン以下のプロンプトの場合

    従来は「どのモデルを選ぶか」を一度決めていましたが、これからは「仕事ごとにどのモデルとeffortを選ぶか」を決めます。

    比較の軸は、単価、得意な仕事、調整できる幅の三つです。価格は発表ページの表(100万トークンあたり、Haiku 5.5は100,000トークン以下のプロンプトの場合)から取りました。

    入力

    • Haiku 4.5:$1.00

    • Haiku 5.5:$0.10

    • Sonnet 5.5:$2.00

    出力

    • Haiku 4.5:$5.00

    • Haiku 5.5:$0.50

    • Sonnet 5.5:$10.00

    キャッシュ読み取り

    • Haiku 4.5:$0.10

    • Haiku 5.5:$0.01

    • Sonnet 5.5:$0.10

    発表での位置づけ

    • Haiku 4.5:前世代の小型

    • Haiku 5.5:大量の短い仕事、サブエージェント

    • Sonnet 5.5:複雑なエージェント型のコーディング

    Haiku 4.5からHaiku 5.5への変化は、価格だけではありません。コンピュータ操作の評価OSWorld 2.1(オフライン部分集合)は15.7%から72.4%へ、コマンドライン作業の評価Terminal-Bench 4.0は0.0%から39.2%へ上がりました。

    値下げ幅は、100,000トークン以下の依頼で90%安く、それを超える依頼で50%安くなります。

    Haiku 4.5の依頼の約90%は100,000トークン以下でした。新しいトークナイザー(文章をトークンに区切る仕組み)の影響で、タスクあたりのトークン数がわずかに増えるため、平均の「約75%安い」はその分も織り込んだ値です。

    【仕組み】 effort とキャッシュが決める費用対性能

    画像
    Terminal-Bench 4.0。Sonnet 5.5 はキャッシュ読み取り$0.10の値

    費用は「モデルの単価」と「どれだけ考えさせるか」と「どれだけ使い回せるか」の掛け算で決まります。

    Haiku 5.5は、Haikuとして初めてeffortの調整に対応しました。effortは、モデルが一つの依頼に使う推論の量を選ぶ設定で、Low、Med、High、Xhigh、Maxの5段階があります。

    費用を優先するか、知能を優先するかは、利用者の選択です。

    発表ページのOSWorld 2.1のグラフから、数値の一部を抜き出します。コストは1回の試行あたりの米ドル、スコアは部分点を含む得点です。

    Haiku 5.5 Low

    • コスト:$0.0695

    • スコア:42.0

    Haiku 5.5 High

    • コスト:$0.1827

    • スコア:61.3

    Haiku 5.5 Max

    • コスト:$0.6111

    • スコア:72.4

    Sonnet 5.5 Low

    • コスト:$0.6811

    • スコア:57.9

    Sonnet 5.5 Max

    • コスト:$5.7328

    • スコア:83.9

    Haiku 5.5のHighは、Sonnet 5.5のLowより高い得点を、約4分の1のコストで出しています。一方で最高得点はSonnet 5.5のMaxが上で、小型モデルが大きなモデルを置き換えるとは言えません。

    難しいコーディングでは、この関係が逆になります。Terminal-Bench 4.0では、Haiku 5.5のMaxが39.2点で、コストは$2.6433です。

    Sonnet 5.5のHighは43点で$1.462なので、点数もコストもSonnet 5.5が有利です(Sonnetのキャッシュ読み取りを$0.10とした値)。発表ページも、複雑なコーディングにはSonnet 5.5とOpus 5.5を勧めています。

    キャッシュの値下げも同じ発表に含まれます。Sonnet 5.5のキャッシュ読み取りは$0.20から$0.10に下がりました。

    エージェント作業ではトークン消費の大きな部分をキャッシュ読み取りが占めるため、ほとんどのエージェント型作業で約20%安くなるとあります。

    プロンプトキャッシュの公式ドキュメントによると、キャッシュの保持時間は、初めの設定では5分で、使うたびに延長されます。読み取りの単価は基本入力の0.1倍が標準で、Sonnet 5.5とOpus 5.5では0.05倍という記載です。

    Sonnet 5.5の入力は$2.00なので、0.05倍は発表ページの$0.10と同じです。

    【具体例】 週800万回の文書質問を試算

    画像
    週800万回の文書質問の試算。
    仮定:1回あたり入力2万トークン、キャッシュなし、100,000トークン以下、出力は計算しない

    呼び出し回数が多い仕事では、単価の差がそのまま週の費用の差になります。

    発表ページには、調査サービスAlphaSenseの声が載っています。文書への質問に答える機能「Ask in Document」は、本番で週に約800万回呼び出される大きな費用項目です。

    400件のクエリで比べると、Haiku 5.5の評価値は0.84で、Haiku 4.5の0.76を統計的に有意に上回りました。

    ここから先は、私が置いた仮定による試算です。1回あたりの入力を2万トークン、キャッシュなし、100,000トークン以下、出力は計算しない、と置きます。

    Haiku 5.5

    • 入力単価:$0.10

    • 週の入力費用:$16,000

    Haiku 4.5

    • 入力単価:$1.00

    • 週の入力費用:$160,000

    Sonnet 5.5

    • 入力単価:$2.00

    • 週の入力費用:$320,000

    計算は、800万回に2万トークンを掛けた1,600億トークン(16万の100万トークン)に単価を掛けたものです。実際には出力費用、キャッシュ、トークン数の増加が加わります。

    1回の入力が2万トークンというのも、AlphaSenseの実数ではありません。

    それでも、費用の差の出方は分かります。量が多く、依頼が長くなく、評価値でHaiku 5.5が足りると確認できた仕事なら、モデルの選択だけで入力費用が10倍から20倍変わります。

    確認できなかった仕事は、大きなモデルに残す判断です。

    【関連概念】 カスケード、サブエージェント、自前の評価

    画像
    三つの考え方は、どれも自前の評価で費用と精度を測ることに戻る

    Haiku 5.5の使い方は新しい発明ではなく、費用を下げる既存の考え方に、実用的な単価が付いたものです。

    2023年の論文FrugalGPTは、LLMの費用を下げる戦略を三つに整理しています。プロンプトの工夫、LLMの近似、LLMカスケード(問い合わせごとに使うモデルの組み合わせを選ぶ方法)です。

    論文は、最良の単一モデルと同等の性能を最大98%のコスト削減で出せたと報告しています。この数字は論文の実験条件でのもので、Haiku 5.5の効果ではありません。

    サブエージェントへの割り当てはツール側にも決まりがあり、Claude Codeのモデル設定によると、/modelで切り替えたモデルは親のモデルを引き継ぐサブエージェントにも及びます。

    カスタムのサブエージェントを小さなモデルに固定したいとき、固定先はその定義のmodelです。

    手元の評価も欠かせません。HubSpotは模擬ポータルでCRMの作業を評価し、Haiku 5.5が自社の評価で最高の92.8%(3回平均)を出したと述べています。

    Boxは11ポイントの向上と約半分の遅延、Asanaは遅延30%超の減少を報告しました。いずれも早期テストの顧客の声なので、自分の仕事で測り直すのが前提です。

    安全面の条件も確認が要ります。Haiku 5.5のサイバーセキュリティ向けの制限は、Haiku 4.5より厳しく、他の最近のモデルよりやや緩い設定です。

    ペネトレーションテストなど、攻撃者が使いやすい手法は止められます。

    参考情報・参考書籍(PR)

    本記事をより深く理解するために、概念マップスライドを作成しました。こちらをみることで理解の補助になるはずです。

    『LLMのプロンプトエンジニアリング ―GitHub Copilotを生んだ開発者が教える生成AIアプリケーション開発』(John Berryman、Albert Ziegler)は、モデルへの入力設計とLLMアプリ開発の全体を扱う本です。モデルやeffortを使い分ける前提を押さえるのに役立ちます。

    『実践 AIエージェント開発 ―マルチエージェントシステムの設計と実装』(Michael Albada)の主題は、親エージェントと下流のサブエージェントの役割分担です。小型モデルを下流に置く話の参考になります。

    『AIエージェント開発 / 運用入門 [生成AI深掘りガイド]』(御田 稔)は、エージェントの基礎から運用、評価までを扱う入門書です。自前の評価セットで測る一歩の参考になります。

    【まとめ】 自分の呼び出しを数え、小さく測る

    画像
    発表ページと公式ドキュメントの読み取りに基づく

    最初にやるのはモデルの乗り換えではなく、呼び出しの棚卸しと、小さな評価です。記事の内容は発表ページと公式ドキュメントの読み取りで、私はHaiku 5.5を実際に動かして検証していません。

    自分の仕事に当てはめるときの観点を、四つ挙げます。

    1. 呼び出しを種類別に数えます。要約、分類、問い合わせ、サブエージェントなど、短く繰り返す仕事の割合を見ます。

    2. プロンプトの長さを見ます。100,000トークンを超える依頼は単価が5倍になるので、その割合を確認します。

    3. 数百件規模の評価セットを作ります。AlphaSenseが400件のクエリで比べたように、小さくても自社の基準で測ります。

    4. 同じ評価をeffortごとに回し、費用とスコアを並べます。足りない仕事はSonnet 5.5やOpus 5.5に戻します。

    乗り換えの前には、移行ガイドで変更点を
    確認してください。

    関連記事

    参考情報

    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「AI株を占うエヌビディア決算」
     
     
    海外でバズった最新テック関連情報をわかりやすく整理します! スキの数やページビューが多いなどの反響が多いものがあれば、実際の環境で操作した結果や手順などを共有する記事も作成したいとも思ってます! とりあえずこれを見ておけばディープな最新情報もキャッチアップ!できるものを目指します

    あなたへのおすすめ