メインコンテンツへスキップ
見出し画像

【AI開発のリアル #19】 AIは、入力のたびに「別人」になる

    前回、クラウドAIの専門家が行っていた仕事を、人間が途中を確認できる51の仕事へ分けたと書いた。

    次は、それをローカルLLMへ一つずつ渡してみる。

    なぜ、一つずつなのか。LLMは、前の仕事を覚えていないからである。

    入力のたびに、別の応援の人が来る

    LLM(大規模言語モデル)を、現場へ応援に来る人にたとえてみる。

    その人は、膨大な知識と技能を持っている。

    前半では、役割の違う専門家AIを組み合わせ、セキュリティ会社を箱に詰めたと書いた。

    開発する側にも、設計、実装、点検、管理という役割を置き、会社組織の形にした。

    こうした役を置けるのは、LLMの演技力が高いからである。「あなたはリーダーです」「あなたはセキュリティの専門家です」と頼めば、その役をそれらしく演じられる。

    ただし、役職名を付けただけでは、実際の仕事にはならない。

    台本を渡せば、台本に沿って仕事をする。

    台本がなければ、持っている知識を使い、その場でそれらしく即興する。

    ただし、その人は、この現場の事情を知らない。

    どんな製品を作っているのか。
    どんなログを調べているのか。
    前の担当が何をして、どこまで終わったのか。

    知っているのは、今回渡された情報だけである。

    しかも、比喩で言えば、入力のたびに別の応援の人が来る。

    前の人と同じ知識や技能を持っていても、前の人が何をしたのかは知らない。

    渡した書類が、その人にとっての世界のすべてである。

    会話が続いているのは、書類が続いているから

    チャットAIと話していると、同じ相手が会話を覚え続けているように見える。

    だが、多くの場合、次の入力と一緒に、それまでの会話も改めてAIへ渡している。だから、前の話の続きを答えられる。

    続いているのは、AIの記憶というより、渡している会話の記録である。

    履歴を保存する機能や、外部に記憶を持たせる仕組みもある。だが、それも周囲の仕組みが必要な情報を保存し、次の入力でAIへ渡し直している。

    これは、クラウドAIでもローカルLLMでも基本は同じである。

    能力や動かす場所は違っても、渡された情報をもとに、その場の答えを作る。

    仕事の続きは、ファイルに残す

    これまで、担当AIが作ったものを、リーダーAIに要約させず、ファイルのまま次の担当へ渡した話を書いた。

    さらに、仕事は、何を受け取り、何を成果として残すかで区切った。

    あの仕組みは、会社の仕事をまねただけではない。

    前の仕事を覚えていないLLMを、複数の工程で働かせるためにも必要だった。

    毎回、台本と必要な書類を渡す

    ミツケルの51の仕事には、それぞれ専用の手順書と、その仕事に必要な資料がある。

    今回何を調べるのか。どのデータを使うのか。どこまで判断してよいのか。何を成果として返すのか。

    前の仕事を覚えていることに期待せず、その仕事だけを受け取って終えられる形にした。毎回別の人が来ても、同じ台本と必要な書類を渡せば、同じ仕事を頼める。

    これは、AIを不自然に細かく縛るためのものではなかった。

    LLMの性質に合わせ、誰が来ても同じように進められる仕事へ変えた結果だった。

    LLMは、仕事の続きを覚え続ける一人の専門家ではない。必要な資料と台本を毎回受け取り、決めた範囲の提出物を返す存在として扱う。

    この性質を理解したことで、51の仕事を一つずつ独立して渡せるようになった。

    次回は、その51の仕事を実際にローカルLLMへ渡し、何を任せられるのか確かめた話を書く。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ