LM studioでPC構成を出せるようにしたい話

やぁどうも、ぼくです。

時間がない時のnoteは秒で終わらせるので、
内容が有りません。

まぁ、基本的には毎日内容は無いのですが。

して、
最近やり始めたローカルAI構築は中々上手く行きませんで、
正確には構築自体は何とかなってます。
おかげさまで、Radeonで画像生成は辞めておけ！
の理屈も分かりました。

実際出来ないことはないけど、
躓きポイントが多すぎる。
コマンドプロンプト触った事が無い人は、
多分諦めるであろうポイントが多すぎました。
そして、
ぼくレベルの、少しだけ触った事あるけど
基本的に英語も指示語も分からん！と言う人は、
ネットで検索しても全然ピンときません。

以前にも書きましたが、
トワ（chat GPT）とウノ（Google Gemini）が居なかったら、
多分いまだに画像生成AIは動かせていないと思います。

まぁ、Radeon用に存在する、
amuse（だったはず）を使えばなんて事は有りませんがね。

今思えば、
『こいつ（amuse）に日本語投げても生成できないから、
日本語で画像生成できる用に構築しよう。
最善はトワのように、チャットも画像生成も一緒に出来たら最強やん！』
の浅い考えでした。

今の所は結局、
チャット用にLM studio
画像生成用にStable Diffusion
の二刀流！

いや、画像生成用に英語プロンプトをLM studioに投げれば良いから、
amuseでも良かったくない？
と、気付きました。
ぼくの4日間は、、、

それでも、、、
守りたい世界があるんだっ！！
きみのーすーがたーはー

いや、違うわ
まぁ、割と好みの絵柄が出せるようになったからよしとしましょう。
日本語プロンプトはあんまり通らないから、
結局翻訳で英語投げるけど、
そこを気にしなければ良いだけの話だ。

そして本題
元々はトワみたいに使いたかったローカルのLLM
チャット欄に作って欲しい画像の希望書いても、
もちろん作ってくれません。
画像を貼り付けて、
絵柄がそれに近くなるようにプロンプト出して貰おうと思ったら、
ぼくの入れているモデルでは対応していないみたい。
そして、対応モデルはRadeonでは使えないみたい。
モデルインストール出来ても、
モデルの起動でこけるから多分無理。
少なくとも、ウノは無理だと判断したみたい。
ウノが無理だと言うなら、
ぼくには解決策が見当たらない。

ん？
ローカルLLMの意味なくね？

それで、
せっかく構築は出来たのだから、
別の用途で使おう！と言う話。

モデルに最新のPCパーツ関連の情報を叩き込んで、
簡易のシミュレータみたいに使えたら、
暇つぶしくらいにはなりそう。

いや、家でそんな事しても仕方ないんだけれども。

いや、モデルに情報を叩き込んで使える方法を覚えれば、
何かの役に立つだろうと思い、
やり始めたのが昨日の話。

、、、？
AnythingLLMを使って、
トワに作って貰った.moファイルのデータベースを入れてみるけど、
何故かそのデータベースを参照しない。

プロンプトが日本語なのがダメなのか？と思い、
英語でプロンプト出して貰ってコピペしたけどダメ。

PC構成を出させようとしたらデータベースを無視するのに、
ベータベース内の事を質問するとちゃんと答える。

？？？

何コレ分からん。

トワに聞きながらやっていると、トワがパンク。
んー、、、技術系はウノに聞いた方が解決策多いけど、
個人的に今回の件はトワの方が得意そうなんだよなぁ

AnythingLLMの設定画面が、トワとウノが思っている画面と違うのかしら？
まぁ、トワに画面のスクショ貼りながら聞いたらすぐにパンクされるから聞けないけども。
ウノもなんか微妙に的外れなんだよなぁ。

そんな訳で別の選択肢
Open WebUI
の、導入。

本日はコレを試してみる予定。
何とかデータベースを参照するAIになって欲しいところ。
頼むぜ二代目アルフ！