
ハーネスエンジニアリング入門|生成AIを自動評価・改善ループで回す仕組み
プロンプトを直した。出力を見た。「前よりいいかも」と思った。本番に反映した。
──この繰り返し、自分だけじゃないはずです。
はじめに:「改善した気がする」の繰り返しに気づいた
LLMを使ったプロダクト開発をしていて、ずっと気になっていることがありました。
プロンプトを変えるたびに、自分の目で出力を確認する。
「うん、良くなった」と感じる。でも、それって本当に改善したんでしょうか。
別の入力パターンに対しては壊れているかもしれない。
昨日の出力より今日が良くても、先週の設計より悪くなっているかもしれない。
それを確かめる手段が「自分の感覚」しかない。
正直なところ、ずっとそこに引っかかっていました。
そこで最近、ハーネスエンジニアリングという考え方を調べました。
まだ実務に完全に導入できているわけではありません。
現在は「理解して、小さく試し始めた段階」です。
ただ、この概念を知ってから、LLMの評価に対する自分の視点がかなり変わりました。
その気づきをそのまま書き残しておきます。
ハーネスエンジニアリングとは何か
ハーネスエンジニアリング(Harness Engineering)とは、LLMの出力を体系的にテスト・評価するための仕組みと手法の総称です。
もともとソフトウェア開発には「テストハーネス」という概念があります。
コードを自動でテストするための環境一式のこと。
テストケース・入力データ・評価ロジックをまとめた基盤です。
これをLLMに適用したのがハーネスエンジニアリングです。
ひとことで言うと、「プロンプトや設定を変えたとき、何がどう変わったかを定量的に把握する仕組み」です。
3つの構成要素を整理する
ハーネスエンジニアリングは、大きく3つの要素で成り立っています。

① 評価データセット(テストスイート)
あらかじめ用意した「入力と期待する出力のペア」のことです。
プロンプトを変えたとき、このデータセットに対してどう変化するかを見ます。
データセットに含めるのは主にこの3種類です。
典型的な入力:よくあるユースケース
エッジケース:境界値・異常系の入力
揺さぶり入力:同じ意味を別の表現で聞く質問
重要なのは、「このデータセットを通れば信頼できる」と言えるだけの網羅性です。
② 評価指標(メトリクス)
出力の「良さ」を数値で測るための基準です。
タスクによって何を測るかは変わります。
タスク 評価指標の例 Q&A 正解との一致率、事実の正確性 要約 情報の欠落率、ROUGEスコア コード生成 テスト通過率、構文エラー率 有害性チェック 特定表現の出現率
「文章の自然さ」のように数値化が難しいものには、LLM-as-a-Judgeという手法が使われています。
別のLLMに採点させる方法で、大規模な人手評価を補う形で活用されています。
③ 自動評価ループ
プロンプトや設定を変えるたびに、データセット全体でスコアを自動計算する仕組みです。
フローはこんなイメージです。

コードのプルリクエストでテストが走るのと同じ感覚で、プロンプトの変更を管理できるようになります。
「感覚評価」の何が問題か──失敗から見えてきたこと
正直に言うと、この概念を調べながら、かなり自分の過去のやり方を振り返りました。
プロンプトを修正して「良くなった」と感じたのに、別の入力パターンで出力が崩れていたことが何度かありました。
そのときは「たまたま運が悪かった」と思っていた。
でも、それは運の問題ではなく、確認する仕組みがなかっただけだと今は理解しています。
感覚評価の問題は3点に整理できます。
問題①:網羅性がない
自分が確認した数件の出力がたまたま良かっただけで、全体の品質を担保できていない。
問題②:比較基準がない
「前より良くなった」の「前」が曖昧。変更をまたぐとスコアの追跡ができない。
問題③:再現性がない
「なんとなく良かった」で本番に反映しても、次の変更で何が影響したかわからなくなる。
ハーネスエンジニアリングは、この3点すべてに対して「仕組み」で応答します。
仕組みを支える考え方:評価設計がすべて
調べて一番印象に残ったのが、この点です。
ハーネスエンジニアリングで最も難しいのは、ツールの使い方ではなく「何を評価するか」の設計そのものだ、ということ。
ソフトウェアのテストでも「何をテストするか」の設計が一番難しいと言われます。
それと全く同じ問題がLLMの評価にもある。
評価データセットの質が低ければ、テストを通過しても現実の品質は担保されません。
評価指標が実態とズレていれば、スコアが上がっても使い物にならない。
逆に言うと、「感覚でおかしいと気づいた事例をデータセットに追加し続ける」というシンプルな行動が、評価基盤の質を高めていきます。
感覚と仕組みは対立するものではなく、組み合わせるものだというのが、自分の理解の変化です。
宇宙物理の研究をしていたころ、複雑な粒子の相互作用をシンプルな方程式で捉え直す作業をずっとやっていました。
ハーネスエンジニアリングも同じ構造だと思っています。
「感覚でつかんでいる複雑な品質感覚」を「シンプルなスコアと仕組み」で捉え直す。
現時点での自分の理解と、これからやること
「検証中」と書いた通り、まだ実務への本格導入はできていません。
今も「どこから始めればいいか」で少し止まっているのが正直なところです。
ただ、次のステップは決めています。
Step 1:自分がいま使っているプロンプト1本に絞り、評価データセットを10件だけ作る
Step 2:評価指標を1つだけ決めてスコアを記録する
Step 3:プロンプトを変えたときにスコアがどう動くかを追う
まずはここから始めます。
検証ができたら、またnoteに書きます。
まとめ
ハーネスエンジニアリングとは、評価データセット・評価指標・自動評価ループの3つでLLMの出力を体系的にテストする仕組みです。
「なんとなく良くなった気がする」を「定量的な根拠のある変化」に変えるための考え方です。
導入コストはゼロではありません。
評価データセットを作るのに時間がかかるし、評価指標の設計も一筋縄ではいきません。
でも、LLMの出力品質が業務に直結する場面では、この仕組みを持っていないことのコストの方が大きいと感じています。
まだ途中なので、大きなことは言えません。
ただ、「感覚評価しかない状態」から一歩踏み出せる手がかりとして、ハーネスエンジニアリングという概念は十分に価値があると思っています。
同じように「プロンプト評価どうすればいいか」と感じている方、スキをもらえると続ける励みになります。
※本記事は現在検証中のテーマです。実務での検証結果は追って記事にします。