
【AI開発のリアル #19】 AIは、入力のたびに「別人」になる
前回、クラウドAIの専門家が行っていた仕事を、人間が途中を確認できる51の仕事へ分けたと書いた。
次は、それをローカルLLMへ一つずつ渡してみる。
なぜ、一つずつなのか。LLMは、前の仕事を覚えていないからである。
入力のたびに、別の応援の人が来る
LLM(大規模言語モデル)を、現場へ応援に来る人にたとえてみる。
その人は、膨大な知識と技能を持っている。
前半では、役割の違う専門家AIを組み合わせ、セキュリティ会社を箱に詰めたと書いた。
開発する側にも、設計、実装、点検、管理という役割を置き、会社組織の形にした。
こうした役を置けるのは、LLMの演技力が高いからである。「あなたはリーダーです」「あなたはセキュリティの専門家です」と頼めば、その役をそれらしく演じられる。
ただし、役職名を付けただけでは、実際の仕事にはならない。
台本を渡せば、台本に沿って仕事をする。
台本がなければ、持っている知識を使い、その場でそれらしく即興する。
ただし、その人は、この現場の事情を知らない。
どんな製品を作っているのか。
どんなログを調べているのか。
前の担当が何をして、どこまで終わったのか。
知っているのは、今回渡された情報だけである。
しかも、比喩で言えば、入力のたびに別の応援の人が来る。
前の人と同じ知識や技能を持っていても、前の人が何をしたのかは知らない。
渡した書類が、その人にとっての世界のすべてである。
会話が続いているのは、書類が続いているから
チャットAIと話していると、同じ相手が会話を覚え続けているように見える。
だが、多くの場合、次の入力と一緒に、それまでの会話も改めてAIへ渡している。だから、前の話の続きを答えられる。
続いているのは、AIの記憶というより、渡している会話の記録である。
履歴を保存する機能や、外部に記憶を持たせる仕組みもある。だが、それも周囲の仕組みが必要な情報を保存し、次の入力でAIへ渡し直している。
これは、クラウドAIでもローカルLLMでも基本は同じである。
能力や動かす場所は違っても、渡された情報をもとに、その場の答えを作る。
仕事の続きは、ファイルに残す
これまで、担当AIが作ったものを、リーダーAIに要約させず、ファイルのまま次の担当へ渡した話を書いた。
さらに、仕事は、何を受け取り、何を成果として残すかで区切った。
あの仕組みは、会社の仕事をまねただけではない。
前の仕事を覚えていないLLMを、複数の工程で働かせるためにも必要だった。
毎回、台本と必要な書類を渡す
ミツケルの51の仕事には、それぞれ専用の手順書と、その仕事に必要な資料がある。
今回何を調べるのか。どのデータを使うのか。どこまで判断してよいのか。何を成果として返すのか。
前の仕事を覚えていることに期待せず、その仕事だけを受け取って終えられる形にした。毎回別の人が来ても、同じ台本と必要な書類を渡せば、同じ仕事を頼める。
これは、AIを不自然に細かく縛るためのものではなかった。
LLMの性質に合わせ、誰が来ても同じように進められる仕事へ変えた結果だった。
LLMは、仕事の続きを覚え続ける一人の専門家ではない。必要な資料と台本を毎回受け取り、決めた範囲の提出物を返す存在として扱う。
この性質を理解したことで、51の仕事を一つずつ独立して渡せるようになった。
次回は、その51の仕事を実際にローカルLLMへ渡し、何を任せられるのか確かめた話を書く。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: