
【AI開発のリアル #20】 ローカルLLMの仕事は、失敗から決めた
前回、LLMは、入力のたびに別の応援の人が来るようなものだと書いた。
前の仕事を覚えていないから、毎回、台本と必要な資料を渡す。その性質に合わせ、専門家の仕事も、一つずつ独立して渡せる形へ分けた。
では、ローカルLLMへどこまで任せられるのか。実際の仕事で、採用できる範囲を確かめた。
実際の仕事で、採用試験をした
開発ではすでに、クラウドAIがローカルLLMを「手足」として使っていた。
今度は、製品で使う手順書と資料を渡し、求めた提出物が返るかを一つずつ試した。
入力、途中の処理、提出物まで確認できる形にしてあったので、何ができて、どこで間違えたのかを追うことができた。
最初から使うと決めていたわけではない。すべて不合格になる可能性も含め、実際の仕事で判断した。
出力を検査すると、数字が間違っていた
実際の仕事を処理させ、出力を検査していくと、数字の間違いが繰り返し見つかった。
一つの値をそのまま読むことはできても、リストの件数を間違える。入れ子になったデータをたどることや、並べ替えることも安定しなかった。
問題は、ローカルで動くモデルだからではない。LLMが出した数字を、そのまま正しい値として使うことが危険だと分かった。
そこで、必要な数字はスクリプトで先に計算し、LLMへ渡すようにした。
ところが、計算済みの数字を渡しても、LLMが自分で計算し直し、別の数字を所見に使う例が出た。
指示するだけでは防げなかった。
そこで、LLMには計算しないよう明示した。出力された数字も機械的に照合し、LLMが独自に出した数字は採用しない。スクリプトが計算した数字だけを使う仕組みに変えた。
こうして、スクリプトが数字を確定し、ローカルLLMはその意味を考える分担になった。
あの回では、完成した仕組みを先に紹介した。その仕組みを作るきっかけになったのが、計算済みの数字をローカルLLMが計算し直して間違えた、この出来事だった。
計算だけなら、従来の集計でもできる。計算と所見を分けたから、数字を守りながら、その意味をAIに考えさせることができた。
仕事ごとに、任せ方を決めた
一度試して、できるか、できないかを判定したわけではない。
間違いが出れば、どこで起きたのかを調べた。
必要なデータが足りないのか。
手順書が曖昧なのか。
一つの仕事に判断を詰め込みすぎたのか。
出力後の検査が足りないのか。
原因に合わせて、渡すデータ、手順書、仕事の分け方、検査方法を変え、もう一度試した。
この仕事を、この入力と手順と検査で、安定して任せられるか。
それを仕事ごとに確かめ、安定しない仕事は任せず、決めた形で結果を返せる仕事だけを、ローカルLLMへ渡した。
しかし、任せられると分かったことと、その出力をそのまま使えることは同じではない。処理する対象が増えれば、確認する出力も増える。
そこで、作る仕事だけでなく、確認する仕事も、ローカルLLMへ一件ずつ渡すようになる。
次回は、ローカルLLMに、別のローカルLLMの出力を検査させた話を書く。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: