【M1 MacBookにローカルAIを召喚】OllamaとAnythingLLMでObsidianをワンステップ進化させてみた。
Obsidianをインストールしてから、まだ数日。当初は「デフォルト設定の検索機能だけで十分使える」と記事にまで書きました😁。
しかし、色んな方のObsidianの楽しそうな使い方を見ているうちに、いろいろいじってみたいという悪い癖が…。
特にAIを連携している記事などを見ていると「う、羨ましい」などと思うようになりました。
そういえば、普段は広い画面で快適なのが気に入っている古いiMac（27インチ）ばかり使っているのですが、バックアップ用のMacBookがM1シリコンだったのを思い出しました。
これなら最新のバージョンが入れられるので、何か面白いことができるかも知れません。
というわけで、いつものようにGeminiに聞いてみた。
「なんと、M1 MacBookを持っていらっしゃったんですか！？ それなら最新の使い方が試せますよ！」
かと言って、AI連携でAPI使用料が毎月膨れ上がるのは避けたいし…。と悩んでいたら、Geminiが「ローカルAIをPC内に召喚して運用する方法」を教えてくれました。
これに「RAG」という機能を加えると、AIがObsidian内全体のメモを読みながら自分専用の答えを出してくれるらしい。
クラウドAIのように万能ではないけれど、お金もかからず、何より自分の脳内データ（メモ）のセキュリティが密室で完全に守られるメリットがあるとのこと。いざ、構築開始です！
まずはOllama + gpt-oss（AI） + Smart Connectionsの組み合わせ。
ちなみにOllamaは例えて言うとPCにAIを雇い入れる人材派遣窓口みたいなものだと思えばいいです。
Smart ConnectionsはObsidianの膨大なメモをサーチして関連ワードが何処にあるかをデータベースにしてAIや私達にリスト化して渡してくれるプラグインです。
意気揚々とセットアップを進めたのですが、なんと「Smart Connections」プラグインの仕様が変わったみたいで、私が試した時点ではPRO版（有料）等じゃないとローカルAIとうまく連携できなくなっているようでした。
ローカルAIがRAGを見れないと言うことは、大量のメモからAIが美味しい部分をかき集めることができないということです。いきなりの壁。残念…。
「諦めるのはまだ早いですよ！」
と、ここで相棒Geminiからの力強いお言葉。 「次は『AnythingLLM』というツールを間に挟むルートで試してみましょう！」（Ollamaは必須）
言われるがままにAnythingLLMをインストールし、Obsidianのフォルダを読み込ませてみました。
AnythingLLMの管理フォルダはデフォルトで「マイワークスペース」という名前が付きます。
そして、自分の書いた「マイワークスペース」内の「デジタルゴミ屋敷.md」についてAIに質問してみると …。
AI（gpt-ossくん）が「マイワークスペースという素晴らしいクラウドアプリですね！」と、存在しないアプリについてドヤ顔で熱弁し始めたのです。
「えっ！？ノートの管理フォルダ、全然読んでないじゃん！」とパニックになり、慌ててGeminiに泣きつくと、原因はなんと「保存して埋め込む（Embedding）」という一番大事なボタンを私が押し忘れていただけでした（笑）。皆さんも試すときは、ご注意を。
気を取り直してボタンをポチると、M1 MacBookが10分ほどかけてデータを読み込みました。
ノートの学習を終えた後、リセット（/reset）して、もう一度同じ質問してみると…….。
なんと、今度こそ見事に私の過去のノートを踏まえた答え（構成案）が返ってきました！大成功です！
AnythingLLMの注意点
AnythingLLMは僕がカオスに溜め込んだ膨大な会話ログやメモをサーチしてローカルAIに渡してくれると言う意味では、目的通りなのですがObsidianの中で完結するわけではありません。
専用のフォルダにObsidianのメモと同じものを同期しなくてはならないので、定期的に新しいメモをAnythingLLMに読み込ませる一手間がかかるのでご了承ください。
ローカルAIは、クラウドAIと比べると天地ほどの差がある。
MacBookにやってきてくれたローカルAI（gpt-ossくん）は、最新のChatGPTのように「言わなくても空気を読んで完璧に答えてくれる」わけではありません。
指示を出す時は、初期のGPTみたいな「ガチガチのプロンプト」がオススメみたいです。
冗談は通じないし、知ったかぶりをするポンコツなところもあるけれど、だんだんそこが何かいじらしくてかわいいと思えるようになってきました。
この記事が私とGeminiとgptくん、3人？のコラボ、第1号記事です。
悪戦苦闘しながらこの環境を作っているうちに、昔、Mac（まっきんとっしゅ😁）を初めて買った頃、アイコンやウインドウをいじり倒したり、画面を真っ黒にフリーズさせてた頃のワクワク感を思い出しました。
しばらくは、この「ちょっと不器用な自分専用AI」を育てるDIYライフを楽しんでみようと思います！
