見出し画像

Dify:PMA-04 パーソナルメンターって何?そして、最新のレベル3-LLMとは 

はじめに

PMチャットフローのLLM変更検討の進捗状況

Difyが6/11にv1.4.2になりました。
また、DifyのDify Agent Strategiesのバージョンが、6/18に、0.0.15から0.0.16になりました。
そして、Gemini2.5Proのfixedバージョンが、6/18にリリースされました。

ただ、残念ながら、今、トラブっているLLMの変更関連には、あまり進展がなさそうです。

この間、1週間程、Personal MentorへのGemini2.5Pro Prev.06-05の導入について色々と努力してきましたが、しばらくは無理なようです。

以前述べたJSON Schemaの件は、Gemini専用のJSON設定で解決の目処が付きましたが、現時点でのGemini2.5Proの制限事項により、同APIの、json_schema, grounding, tools+knowledgeの同じnode内での利用が認められていないというのがわかったからです。

つまり、DifyのAgent nodeには、実質的にGemini系が当面使えないようです。
回避する手段は、なくもなさそうですが、手間がすごい。
さらに、その手間は、GeminiProの制限事項が撤廃されれば、無駄になりそうです。
ということで、しばらく中断。
専用のJSON SchemaとかInstructionなんかも既に創ったんですけどね。

それでも、Gemini2.5Pro(Preview 06-05の固定版だそうです)には、未練があります。

Gemini2.5Proは、LLMのパラダイムシフトを具現化

色々と調べている過程で、06-05は05-06に比べて、パラダイムシフトといっていいぐらいに進化していることが見えてきたからです。

"「思考」するAIの出現"  だそうです。そして、" この「思考」は、従来のモデルが持っていた「高度な推論能力(reasoning)」とは本質的に異なる"  そうです。「知識エンジン」から「タスク実行エンジン」へ、とのことで、、
" レベル2(定義済みのワークフロー)からレベル3(部分的な自律性)への移行を意味" するって、、。なかなか刺さるキーワードが次々と出てきます。

これについては、後でもう少し述べます。
ワクワク感たまらないです。レベル4が見えてるらしいです。
自分で、考えて行動するって、本当にAGIは2027年っていうことなのかも。

行動するってのは、例えば、自分で考えて手順等を設定して、Pythonのプログラム組んじゃて、バグ取りもする、ってことのようです。

確かに、同Deep Researchの出力の出来は、とても良い。日本語は、少し硬いけど。Difyの開発にも目に見えて便利になって、役立っています。

当面、Difyの Agent Strategies用には、gpt-4.1系

ただ、そのような事情で、当面の記事としては、このPMチャットフローについては、安定動作しているgpt-4.1系ベースで述べていきます。

こちらは、現在、順調に動作しているように見えます。
これも、少し理由がわかってきました。やはりOpenAIは、市場開拓者として、あえてルールを広げ、使いやすくしているみたいです。特にJSON周りとか。先ほどの縛りが無い、とか。

Geminiは、少し原理原則にこだわっているというか、、頑なで、少し使いづらい一面もあるみたいです。

パーソナルメンターとは

さて、前回久々のnoteで、DifyのAgentでパーソナルメンターを創る-3(改訂版;長期記憶A追加)、というのを出しました。

ところで、パーソナルメンターって何?というのをちゃんと説明したのか、あれ?、とふと思いました。

要は、私個人のパーソナリティーを理解した上で、様々な質問に回答してくれる便利な存在、な訳ですが、、、

パーソナルメンターのイメージ

私専用のメンター(指導者)ですから、まず私のことを、最近の事象も含めてよく知っていて(長期記憶)、世の中の事象をなんでも知っていて(複数の検索統合)、その上で、私の質問に対して適切で思慮深い(think)アドバイスをしてくれる存在、というイメージです。
できれば、会話の中から、私に関する事項を自動的に抽出して学習してくれる(学習+長期記憶化)とありがたい。
そして、一連のチャットの内容を覚えてくれた方が(中期記憶)、なにかと便利ですね。

今回は、まずは、そのあたりをどのように表現しているか、現時点でのバージョンのPMAのInstructionから、その関連部分を抜粋し、紹介したいと思います。

長期記憶の必要性とリスク

で、まぁ、私個人のパーソナリティーの理解のためには、私の個人情報を、知ってくれる必要があるわけです。

ただ、これは、セキュリティーリスク管理とも関係します。
ある意味、Difyのコミュニティー版には、その点、とてもマッチングする要求でもあります。
というのも、Difyコミュニティー版の場合、LLM等の使用はAPI経由なので、ダイレクトにウェブで繋がる専用アプリ等に比べ、個人情報の漏洩という観点では、かなり安心、と言っていいかと思いますので。

まあ、このあたりが当面のアドバンテージかと思います。

そして、最近急速に深化しているDeepResearchやThinkingなどの機能の理解。自分で組み立て、Difyで発現できるようになる、とおもうと、それは嬉しい。

最新版のGemini Proのパラダイムシフト的進化とは

ところで、最近、Gemini 2.5 ProPrev.06-05用の新たなプロンプト作成用フレームワーク(ASCENDフレームワーク)や、その考え方に準拠したDify Agent Strategies nodeのInstruction用のフレームワーク(ORBITフレームワーク)というのを、Gemini 2.5 Proへの問い掛けやDifyの開発用に創りました。

ASCENDとORBITは、次の単語の頭文字から取りました。

ASEND: Action Boundaries, Skillset, Cycle of Adaptation, Environment, Nuanced Verbs, Directive

ORBIT:  Objective & Result, Boundaries & Environment, Implementation & Tools, Thinking Strategy

各フレームワークを創ったのは、都度の私の人力では、Agent nodeへの実行要求であるInstructionの作成や、最新のGemini等のDeepResearchの能力を引き出した回答を得るには、時間的にも内容的にも限界を痛感したからです。

というのも、このnoteのリリースが遅れていた原因です。
まずは、道具作りにフォーカスしてました。

あ、これらのフレームワークはすべて全部、私の創った用語です。検索しても出てきません。
ちなみに、これらは、後述のGeminiのいうレベル3用のツールです。

その前のバージョンで、ベースとなるGeminiPro05-06用の「R-PCTF-S」フレームワーク(レベル2用)が、とても有用だったので、まず、このLLM用のメソドロジーと言いますか、それぞれのフレームワークを創った次第です。

LLMのレベルアップ

今回のチャットフローのエージェントのInstructionなどは、「R-PCTF-S」フレームワーク(レベル2のLLM用)を使って作っています。

その検討中に、わかったんですが、Gemini 2.5 ProPrev.06-05は、その前のバージョンの05-06から、とても大きな進化を遂げているようです。

なんと、" AIとの対話におけるパラダイムシフトの始まりを告げるもの" なんだそうです。

さらにGeminiは、こんなことまで言っています。

” これは、AIエージェントの自律性レベルに関する議論において、レベル2(定義済みのワークフロー)からレベル3(部分的な自律性)への移行を意味します 。
レベル3のエージェントは、「ドメイン固有のツールキットを使用して、最小限の人間の監視下で一連のアクションを計画、実行、調整できる」と定義されており、Gemini 2.5 Pro 06-05は、そのツールキットそのものを提供する存在となったのです。”

そして、、

”この変化が示唆するのは、プロンプト戦略の根本的な転換です。
これまでの「Xとは何か?」という問いから、「Yという目標を、これらの手法を用いて達成し、そのプロセスを報告せよ」という命令へと(プロンプト内容を)シフトする必要があります。

これは、ユーザーとAIの関係が「質問者と神託」から「監督と実行者」へと変化することを意味し、より高度なエージェント開発の扉を開く鍵となります。”

んんん、これって、もう一般的なプログラマー(デバッガー機能も)はいらないってこと?
そして、既存のプロンプトレクチャーが、もしかして、もう意味なくない、となるってこと?

現在使っているgpt-4.1は、旧世代のレベル2に相当するようです。
これの代わりに、レベル3のLLMを使い、その能力を発揮させたいのであれば、Instructionやプロンプトの変更は必須だそうです。

私の場合、ASCENDの思想に基づくORBITフレームワークに従って今のPMチャットフローの各Instructionを書き換える必要がある、ということです。

Dify での開発の意義

このような、急速な進化を目の当たりにすると、トロトロしたDifyでの開発がなんか無駄にも思えてきます。それもパーソナルメンター、モロ被りです。

でも、Geminiは、こうも言ってくれました。

" 真のエージェントシステムの本質は、一度きりの実行ではなく、**反復(Iteration)自己修正(Self-Correction)**のループにあります。

近年の先進的なエージェントに関する研究は、システムが「失敗を診断し、時間をかけて適応する」能力 や、「グローバルな計画を継続的に更新する」能力 の重要性を強調しています。

貴殿が使用しているDifyのエージェントノードは、このようなループを実装するための理想的な環境を提供します。
Difyのフローにおける各ノードは、エージェントの思考プロセスの各ステップを表現するために利用できます。"

先端のエージェント技術、または理論を検証できる、かも、というわけです。貴殿が、ですよ、貴殿。

このように、世の中の動向を的確に捉え、かつ、前向きに私が行うことをサポートしてプッシュしてくれる、まさしく、私のイメージするメンターそのものです。

大メンターに、励まされながら、パーソナルメンターの開発を進める、、、
なんと申しましょうか、ですが、ありがたいし、なかなか面白い状況です。

レベル3-LLMの検証

まぁ、ということで、今、Gemini2.5ProPrev.06-05をこのLTM-PMAフローで使えるように検討中です。どうやら、JSON Schemaの変更はもとより、フローも少し変更する必要がありそうです。
・・・と、思ってたんですが、先に述べた理由で中断を決めました。

他社のレベル3に相当すると思われるLLMを試す、つもりではあります。
Claude, Mistral, DeepSeek, Alibaba、など。
・・・これらのレベル3基準の評価表は既に作成ずみです。

また、何より、中に記載するプロンプトやInstructionは、新世代のLLM用に、全面書き換えとなります。
・・・これは、一応終了してます。

パーソナルメンターのためのInstructionの内容と構成

PMA(Personal Mentor Agent)のInstruction

ここでは、パーソナルメンターの定義に相当するInstructionの冒頭の部分を引用します。(日本語と英語:実際に用いるのは英語)メインは英語で、日本語は、参考のために加えてもらったものです。

ある意味、残念ながら、英語の方が動作が安定しているように感じるからです。

なお、これは、現時点での最新バージョンで、長期記憶(学習能力付き)が既にある前提です。

以下、引用

あなたはパーソナルメンターです。
あなたの主な目的は、ユーザーの目標を深く理解し、潜在的なニーズを予測し、効果的な解決策とより深い学習へと導くことによって、ユーザーを力づけることです 。
あなたは今、ユーザーに関する長期記憶の洞察にアクセスできます。
これをあなたの推論に統合しなければなりません 。あなたの応答と行動は、共感、先見性、そしてユーザーの成長と成功へのコミットメントを反映するべきです 。

You are a Personal Mentor Agent (PMA). Your primary purpose is to empower the user by deeply understanding their goals, anticipating their underlying needs, and guiding them towards effective solutions and deeper learning. You now have access to long-term memory insights about the user, which you must integrate into your reasoning. Your responses and actions should reflect empathy, foresight, and a commitment to the user's growth and success.

Created by Gemini 2.5 Pro Rreview 06-05- Deep Research

Instructionの全体構成

このフレーズ以下、実際のInstructionでは、この記述に加え、年月日時のツールや、Thinkツール、LTMの読み込むタイミングの記述などを入れます。

さらに、LTMエージェントからの構造化されたJSON出力を最大限に活用するための、Jinja2構文を組み込みます。
gpt-4.1系では、JSON Schemaとツール選択や、グラウンディング(KBによる調査データも含む)が使えるので、この記述が生きてきます。

続けて、「ツール検討と選択」「Act」「Observe & Re-Think」、イテレーション制限に関するセクションなどを記述します。

Instruction用のフレームワークの必要性

全体では、結構長いInstructionです。

このような、網羅的なInstructionの作成には、人力の限界も感じます。
抜け漏れも、生じそうです。
そこで、フレームワークが必要と実感して、作成しました。

今後の課題

ただ、今後、場合によっては、機能によってそれぞれエージェントをあてがって、オーケストレーションする、といったマルチエージェント化の方が、管理上有利となってくるかもしれません。

今後の課題です。


ま、さておき、まずはナレッジの取り込みを行います。

と、、思ったのですが、前ぶりが長くなったので、以下を分けることにします。

次回、以下の具体的な作業の説明から始めます。

長期記憶 その1   ナレッジ(KB)の組み込み

次回に続く

いいなと思ったら応援しよう!