メインコンテンツへスキップ
見出し画像

【AI開発のリアル #20】 ローカルLLMの仕事は、失敗から決めた

    前回、LLMは、入力のたびに別の応援の人が来るようなものだと書いた。

    前の仕事を覚えていないから、毎回、台本と必要な資料を渡す。その性質に合わせ、専門家の仕事も、一つずつ独立して渡せる形へ分けた。

    では、ローカルLLMへどこまで任せられるのか。実際の仕事で、採用できる範囲を確かめた。

    実際の仕事で、採用試験をした

    開発ではすでに、クラウドAIがローカルLLMを「手足」として使っていた。

    今度は、製品で使う手順書と資料を渡し、求めた提出物が返るかを一つずつ試した。

    入力、途中の処理、提出物まで確認できる形にしてあったので、何ができて、どこで間違えたのかを追うことができた。

    最初から使うと決めていたわけではない。すべて不合格になる可能性も含め、実際の仕事で判断した。

    出力を検査すると、数字が間違っていた

    実際の仕事を処理させ、出力を検査していくと、数字の間違いが繰り返し見つかった。

    一つの値をそのまま読むことはできても、リストの件数を間違える。入れ子になったデータをたどることや、並べ替えることも安定しなかった。

    問題は、ローカルで動くモデルだからではない。LLMが出した数字を、そのまま正しい値として使うことが危険だと分かった。

    そこで、必要な数字はスクリプトで先に計算し、LLMへ渡すようにした。

    ところが、計算済みの数字を渡しても、LLMが自分で計算し直し、別の数字を所見に使う例が出た。

    指示するだけでは防げなかった。

    そこで、LLMには計算しないよう明示した。出力された数字も機械的に照合し、LLMが独自に出した数字は採用しない。スクリプトが計算した数字だけを使う仕組みに変えた。

    こうして、スクリプトが数字を確定し、ローカルLLMはその意味を考える分担になった。

    以前、「AIには、数字を書かせない」と書いた。

    あの回では、完成した仕組みを先に紹介した。その仕組みを作るきっかけになったのが、計算済みの数字をローカルLLMが計算し直して間違えた、この出来事だった。

    計算だけなら、従来の集計でもできる。計算と所見を分けたから、数字を守りながら、その意味をAIに考えさせることができた。

    仕事ごとに、任せ方を決めた

    一度試して、できるか、できないかを判定したわけではない。

    間違いが出れば、どこで起きたのかを調べた。

    必要なデータが足りないのか。
    手順書が曖昧なのか。
    一つの仕事に判断を詰め込みすぎたのか。
    出力後の検査が足りないのか。

    原因に合わせて、渡すデータ、手順書、仕事の分け方、検査方法を変え、もう一度試した。

    この仕事を、この入力と手順と検査で、安定して任せられるか。

    それを仕事ごとに確かめ、安定しない仕事は任せず、決めた形で結果を返せる仕事だけを、ローカルLLMへ渡した。

    しかし、任せられると分かったことと、その出力をそのまま使えることは同じではない。処理する対象が増えれば、確認する出力も増える。

    そこで、作る仕事だけでなく、確認する仕事も、ローカルLLMへ一件ずつ渡すようになる。

    次回は、ローカルLLMに、別のローカルLLMの出力を検査させた話を書く。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ