メインコンテンツへスキップ
見出し画像

ノート・エージェント・長文脈モデルを一つの輪にする「知識スタック」の設計

    【発端】チャットは忘れ、ノートは古びる。その間をつなぐ設計

    最近、Mr. Buzzoni(@polydao)さんの記事「Karpathy-Style Knowledge Stack: Why I Put Hermes, MiniMax M3 and Obsidian at the Core」を読みました。

    面白いのは、ツールの紹介で終わらず、役割分担の設計として書かれている点です。ノートは記憶、エージェントは実行、モデルは推論という分け方です。

    この記事では、その三つが何なのかを整理します。そのうえで、従来のやり方との違いと、輪が回る仕組みを見ていきます。最後に、自分の仕事で試すときの一歩まで進めます。

    【基礎】三つの部品は「記憶・実行・推論」に分かれる

    画像
    部品を役割で切ると、どれが何を担うかが決まる

    つまり、この構成は「ノートアプリにAIを足したもの」ではありません。記憶と実行と推論を別々の部品にして、つないだものです。

    • Obsidian:Markdownファイルをそのまま手元のフォルダに置くノートアプリです。[[ノート名]]と書くだけで他のノートへリンクでき、リンク先には、こちらを指すリンク(被リンク)が自動で付きます(Obsidian公式ヘルプ)。

    • Hermes Agent:Nous Researchが作るオープンソースのエージェントです。会話をまたいで覚えておく記憶と、経験から作って再利用する「スキル」を持ちます(公式ドキュメント)。

    • MiniMax M3:MiniMaxのマルチモーダルモデルで、文章と画像のように種類の違う入力を受け取ります。公式リポジトリによると、100万トークンの文脈と、約4,280億パラメータ(有効は約230億)を持ちます(GitHub)。

    トークンとは、モデルが文章を数えるときの単位です。日本語では、おおよそ1文字から数文字が1トークンにあたります。

    【違い】毎回探す方式から、育てて書き戻す方式へ

    画像
    違いは、知識をいつ組み立てるか

    つまり、変わるのは「知識をいつ組み立てるか」です。質問のたびに組み立てるのか、先に組み立てて保っておくのかが分かれ目になります。

    RAG(検索拡張生成)は、質問のたびに関連しそうな文章を検索して、モデルに渡す方式です(Lewisら, 2020)。

    Karpathy氏が公開したLLM Wikiは、これと発想が違います。新しい資料が入るたびに、LLMが相互リンク付きのMarkdown群へ統合し、一度まとめた知識を最新に保つ、というパターンです。

    原文のスタックは、この考え方に近い位置にあります。原文はKarpathy氏の名前を本文で詳しく説明していないので、この対応づけはこの記事での整理です。

    知識の置き場

    • チャットだけ:会話の中

    • RAG:検索用の索引

    • 育てるwiki型:手元のMarkdown

    組み立てる時期

    • チャットだけ:質問のたび

    • RAG:質問のたび

    • 育てるwiki型:資料が入ったとき

    次回への引き継ぎ

    • チャットだけ:なし

    • RAG:索引の更新次第

    • 育てるwiki型:書き戻したノートが次の入力

    弱点の出方

    • チャットだけ:毎回ゼロから

    • RAG:取りこぼし

    • 育てるwiki型:書き戻しの誤りが残る

    RAGが不要になるわけではありません。大量の外部文書を引くなら、今も有力な手段です。違いは「自分の知識を、人間も読める形で積み上げるか」にあります。

    【仕組み】書き戻した結果が、次の入力になる

    画像
    記憶の本体はvault側にあり、エージェントは小さな記憶と手順だけを持つ

    つまり、輪が回る条件は「出力がノートとして残ること」です。原文は、チャットの答えは消え、ノートの保守は積み上がると書いています。

    流れは次の五段です。

    1. 生のメモや記事をObsidianに入れます。

    2. Hermesが対象のフォルダを読みます。

    3. Hermesが必要なノート群をM3に渡します。

    4. M3が整理、タグ付け、リンク付けをします。

    5. Hermesが結果をMarkdownとして書き戻します。

    ここでHermes自身の記憶は小さいと知っておくと、設計の意図が見えます。公式ドキュメントでは、エージェントのメモMEMORY.mdは約2,200文字が上限です(Persistent Memory)。

    つまり、知識の本体を持つのはHermesではなく、vault(ノートの保管庫)の側です。手順は別の場所にあり、スキルとして必要なときだけ読み込まれます(Skills System)。

    原文は、フォルダごとに役割を決めることも勧めています。人間はInboxやDailyに自由に書き、HermesはProjectsやReviewsへ要約を出す、という分け方です。

    設定ファイルの形式であるYAMLで書かなくても、これが権限の境界になります。

    【具体例】1本の記事が、タグ・リンク・更新指示の三点になる

    画像
    起点記事の運用例

    つまり、一回の依頼で「ノートが一つ増える」だけでなく、「既存のノート網が整う」ところまで任せます。

    原文の例では、取り込みたい記事をraw/に置きます。M3には、決まった5節のノートにまとめさせます。節は順に、概要、自分の研究の中での位置づけ、vaultへのリンク、タグ、関連です。

    このとき確認する出力は三つです。

    • 固定のタグ体系から、正しい主タグを選べたか。

    • 既存ノートへのリンクを8〜12本、書けたか。

    • どのMOC(目次役のノート)を更新すべきか、指摘できたか。

    原文の著者は、約500ファイルのvaultと約41個のタグで運用し、主タグは約90%の確率で一発で選べたと書いています。200K文脈のモデルでは約60%だった、という比較も添えています。

    これは著者自身の運用体験です。私は再現していません。

    数字は「自分のvaultで測る目安」として読むのが安全です。

    【関連概念】長い文脈でも抜ける。だから点検と境界を置く

    画像
    四つの概念が、輪の弱点に一対一で対応する

    つまり、文脈が長くなったからといって、全部を等しく読むとは限りません。点検の仕組みが輪の一部になります。

    • Lost in the Middle:入力の中ほどにある情報を、モデルが使いにくくなる傾向です。長い文脈をうたうモデルでも見られた、と報告されています(Liuら, 2023)。

    M3を含む個別のモデルでどうなるかは、自分のデータで確かめる必要があります。

    • フォワードリファレンス:まだ存在しないノートへのリンクです。Obsidianでは灰色のリンクとして見えます。

    原文は、存在を捏造するよりよいと位置づけ、週1回の点検で整理します。

    • モデルの使い分け:原文は、名前変更や整形のような小さな作業を、軽くて安いモデルに任せます。M3は、全体構造に依存する作業に使います。

    • 適用範囲:M3の文脈は100万トークン、最低保証は51.2万トークンです(MiniMax公式)。自分のvaultが収まるかは、量を測ってから判断します。

    原文は、図の多いPDFには専用の視覚ツールを先に使う、とも書いています。万能の構成としては描いていません。

    参考情報・参考書籍(PR)

    本記事をより深く理解するために、概念マップスライドを作成しました。こちらをみることで理解の補助になるはずです。

    • 『大規模言語モデル入門』(山田育矢、鈴木正敏、山田康輔、李凌寒):モデルが長い文脈をどう扱うかの前提になる、大規模言語モデルの基礎を押さえる入門書です。

    • 『仕組みからわかる大規模言語モデル 生成AI時代のソフトウェア開発入門』(奥田勝己):大規模言語モデルを使ったソフトウェア開発の体系的な入門で、RAGとエージェントを組む設計の理解に役立ちます。

    関連記事

    【まとめ】1フォルダ、1成果物、目視確認から始める

    画像
    最初から全体を自動化せず、小さなループを一つ確かめる

    つまり、最初から全体を自動化せず、小さなループを一つ確かめることです。原文も同じ順序を勧めています。

    試す手順は次のとおりです。

    1. 自分のノートから、役割がはっきりしたフォルダを一つ選びます。

    2. エージェントに、そのフォルダだけを読ませます。

    3. 成果物はMarkdown一枚に絞って依頼します。

    4. Obsidianで開き、リンクとタグが実在するか目で確かめます。

    5. 退屈なほど安定したら、次の輪を足します。

    公式の導入手順には、スクリプトをそのままシェルへ渡す一行があります。実行する前に、中身を自分で確認することをお勧めします。

    読み終えたあとに決めることは一つです。自分のノートのうち、最初に「書き戻してよい」と許すフォルダはどれでしょうか。

    参考情報

     
     
    海外でバズった最新テック関連情報をわかりやすく整理します! スキの数やページビューが多いなどの反響が多いものがあれば、実際の環境で操作した結果や手順などを共有する記事も作成したいとも思ってます! とりあえずこれを見ておけばディープな最新情報もキャッチアップ!できるものを目指します

    あなたへのおすすめ