【創作系日記】llm-jp-4-33b-thinkingのテスト
……これ、準日本製のLLMなので、日本語能力的にいろいろ使えそうな感じがしたので、LM Studioでなんとか動かしたいと思いまして、色々試したところ、ただgguf版llm-jp-4-a3b-thinking(Q4_K_M)をダウンロードしただけでは、エラーになってまったく動きませんでした。。
こちらのsai様のサイトも参考にさせて頂いて、色々試したのですが、とりあえずGemini先生に色々聞いて、そのままの状態でもなんとか動かすことには成功しました。
1. 設定(Settings)を開く
LM Studio画面の左下にある「歯車アイコン(Settings)」をクリックします。
2. Engine Protocolをオフにする
Engine(または Advanced Settings / Experimental)タブを開きます。
LM Studio Engine Protocol(または Use LM Studio Engine Protocol)のトグルを OFF(無効) にします。
3. (これで無効化されたら)Reasoning Parsing を設定する Engine Protocol をオフにすると、最初におっしゃっていた「My Models > Inference > Reasoning Parsing」が使えるようになります。
My Models に戻り、該当モデルの Inference > Reasoning Parsing を開きます。
以下を入力します:
開始文字列: <|channel|>
終了文字列: final<|message|>
これでEngine側のフォーマットチェックエラーを回避しつつ、チャット上で不要なタグを消去して正常に出力できるようになります。
……と言われたのですが、これだけではダメで、
設定手順
プロンプトテンプレートの「Choose template」を変更
画面右下にある Choose template のドロップダウンメニュー(現在 Custom と表示されている部分)をクリックします。
リストの中からChatMLを選択します。
「手動」タブの「Jinja」切り替えを確認
ドロップダウンのすぐ上にある テンプレート (Jinja) と 手動 の切替で、手動 を選択してください。
停止文字列(Stop Sequences)の調整
上部の「停止文字列」欄に final<|message|> が入っていますが、Reasoning Parsing と重複して誤動作するのを防ぐため、停止文字列の final<|message|> 右横にある「×」を押して一旦削除してください。(Reasoning Parsing 側だけで正しく処理されます)
……これで、ようやく出力がちゃんと出ました。
ということで、以下を尋ねてみましたところ:
最近のライトノベルの男性向けの恋愛ジャンルのものを検索して、どういった内容が受けるか5つ提案してください。
了解しました!以下に「男性向け」かつ「恋愛系」のライトノベルで人気が出そうなテーマを5つご紹介します。
1️⃣ 「異世界転生×学園ラブコメディ」
概要:主人公が現代日本から異世界へ転移し、魔法学院や騎士団といった“学校”に入学。授業・部活・寮生活を通して同級生(美少女)たちとの甘酸っぱい恋愛が展開。
ポイント
ハーレム要素+成長ストーリーで読者が自分投影しやすい。
学園内の「試験」「大会」などのイベントがテンポ良く配置でき、章ごとにクリフハンガーが作れる。
恋愛だけでなく、異世界ならではの「魔法バトル」や「政治的駆け引き」も交えて多層的に楽しめる。
2️⃣ 「社畜サラリーマン×VR恋愛シミュレーション」
概要:過労で倒れたサラリーマンが最新VRゲームに招待され、そこで理想の女性キャラと“リアル”なデート体験をする。ゲーム内外で徐々に本当の感情が芽生えていく。
ポイント
現代の問題(ワークライフバランス)とファンタジーを融合させ共感度UP。
VRという舞台設定で「仮想空間の罠」や「バグによる危機」などサスペンス要素も追加可能。
エンディングは「現実に戻るか、ゲーム世界に留まるか?」という選択型にすると読者の没入感が高まる。
3️⃣ 「超能力高校生×片思いミステリー」
概要:特殊能力(予知夢・時間停止)を持つ普通の男子が、クラスメイトのツンデレ女子に密かに想いを寄せる。しかし彼女は過去に“失われた記憶”を抱えており、二人は謎解きと恋愛を同時に進める。
ポイント
超能力=“秘密”という設定で、告白までのドキドキ感が増幅。
“記憶喪失”というミステリー要素が読者の好奇心を刺激し、ページをめくる手が止まらない。
各章で“能力が発動する瞬間”を演出し、ビジュアル的にも魅力的になる。
4️⃣ 「料理部×逆ハーレム」
概要:料理が趣味の男子大学生が、料理部で個性的な女子たち(ツンデレ・クール・天然)と共同生活を送る。料理コンテストや食べ歩きを通じて自然と距離が縮まる。
ポイント
“料理”という具体的なスキルがあるので、レシピ紹介や描写で読者の五感に訴えることができる。
部員それぞれが“好きな食材”や“苦手な食べ物”でキャラ付けでき、ギャグ要素も豊富。
コンテストの勝敗が恋愛の行方に影響する構造で、ドラマ性が高まる。
5️⃣ 「都市伝説探偵×恋の裏側」
概要:都市伝説を調査するフリーランスの調査員が、依頼人の女性(実は幽霊や妖怪)が絡む奇妙な事件に巻き込まれる。調査中に“人間”と“非人間”の境界が曖昧になり、禁断の恋が芽生える。
ポイント
ダークファンタジーと恋愛の組み合わせで、従来の甘酸っぱいラブコメとは差別化できる。
各エピソードで異なる都市伝説を扱いつつ、メインヒロインとの関係が徐々に明らかになる構成。
“呪い解除”や“魂の交換”といった非日常的な展開が読者の期待感を維持。
📚 なぜこれらが男性向け恋愛ライトノベルとして有望なのか?
テーマ主な魅力ポイント読者層への訴求異世界学園ラブコメディ成長+ハーレム +バトルゲーム好き・SF好きの男性VR恋愛シミュ現実逃避 +共感 (社畜)働く世代のストレス発散超能力ミステリー秘密保持 +謎解きSF/推理好きの男性料理部逆ハーレム実生活スキル +グルメ描写趣味が料理の読者、癒し系都市伝説探偵ダーク+禁断恋ホラー・ダークファンタジー好き
次のステップ
プロット設計:上記テーマの中から最も興味が湧いたものを1つ選び、主要登場人物と大まかな章立てを作成。
読者アンケート:TwitterやPixivのコミュニティで簡易投票を取り、“好みの要素”(例:バトル重視 vs 心理描写)を把握。
試作執筆:第1話~第3話をサンプルとして投稿し、フィードバックを集める。
ご希望のテーマが決まったら、さらに詳細なアウトラインやキャラクター設定をご提案できますので、お気軽にお知らせください!🚀
※著作権に注意しつつ、独自の世界観を盛り込むことでオリジナリティが高まります。ぜひ挑戦してみてください!
……まあ、ちゃんと考えてくれている感じですね。
ただ、私の環境(Geforce RTX 5060ti 16GB+3050 8GB、Ryzen 5700G、Vulkan)だと、やっぱりVRAM不足で、1.3tok/sしか出ないので、ちょっと常用は無理そうな感じです。しかし、これといった日本語能力が必要そうな校正とか何かの分野には、一晩中、動かす覚悟で使えるかなーと期待できます。やっぱ16Gのカードがいるんで、もっとV100を増やそうかな……。
しかし、せっかく税金を使って日本で作っているんですから、簡単にLM Studioで使うための情報を用意するとか、自前のチャットアプリを用意するとか、もうちょっと工夫して欲しいなあ~というのが感想です。この分野の凄い人達が、せっかく日本の英智を結集して作っているんですから、ユーティリティー的な面でも、使い勝手を良くしてくれると有り難いですね。簡単にLLMが使えるLM Studioでも、ちょっと簡単には使えない感じでしたんで……。
それでは、また!
いいなと思ったら応援しよう!
よろしければ応援お願い致します! いただいたチップは執筆の諸経費に使わせていただきます!