メインコンテンツへスキップ
見出し画像
Photo bycinemakicks

シングルターンとマルチターン(LLMとの会話方法)

    Gemma4:31B-it-Q8_K_XLを入れようとしていた時でした。

    Google AIモードに、GPUがTesla V100ならば、コンテキストサイズは128Kが推奨です、と言われたので、「256Kにしたい、会話はあまりしなくて良い、一発で良いから、コンテキストサイズを利用して資料を大量に添付して、LLMに考えて貰いたい」、と相談したら、出てきた解答の中に「シングルターン推論」という言葉が入ってました。

    資料を大量に投入し、「一発で深く思考(シングルターン推論)」させるための最適なOllama Modelfile の記述と、実行プロンプトの構成方法を提示します。

    Google AIモード

    はじめて知りました。この「シングルターン」と「マルチターン」について最近ネットで調べてました。調べるとはいっても、論文を読むのでは無く、ネット記事を読む程度ですけど。



    シングルターンとマルチターン

    シングルターンとは

    LLMとの会話を一往復だけで終わらせる方法です。問いかけて、LLMが考えて、答えを貰って終わり、です。これって、PythonとかからAPIでLLMを呼びだして大量処理させる時とかは、このシングルターンになっているみたいです。(私はAPIで呼び出す毎に、一度LLMをVRAM上から消してましたので、少なくともアレは絶対にシングルターンだと思います)

    マルチターンとは

    何往復も、会話をして、進めていくスタイルを、マルチターン、というようです。いまは、皆さんコチラに興味があるみたいです。

    私がLLMに小説の執筆依頼をするときも、フェーズを3段階に分けて、プロットと定義を確定させてから、執筆して貰うので、それだけでもう、マルチターンになっているみたいです。

    それぞれのメリット・デメリット

    私はこれまでまったく知らなかったのですが、シングルターンと、マルチターンだと、回答するLLMの頭の良さがかなり変わるみたいです。

    シングルターンのメリットとデメリット

    シングルターンの方が、良い答えをするみたい。もちろん、最初に渡す問いが的確である必要があります。そこに、シングルターンのメリットとデメリットがあるようです。つまり、メリットは答えがより良くなる、デメリットはそのためのプロンプトが的確ではないとダメ、ですかね

    マルチターンのメリットとデメリット

    マルチターンは、会話しながら、LLMから良い回答を引き出すのですが、会話を何度も往復させると、シングルターンに比べて答えの質があまり良くなくなっていく、頭が悪くなっていく、という問題があるようです。

    これで私が思い当たるのは、小説を書いて貰うとき、整合性の合わない部分の執筆のやり直しをお願いして、「また全体を見直して推敲してくれ」、と指示すると、どんどんと小説全体が劣化する印象がありました。

    最初に出してきた原稿は結構良い文章の部分が多いのです。なので、「ココの部分だけをもう一度書き直して、あとは確定でそのまま出して欲しい」、とか、「この部分だけを書き直して、あとの部分は出力しなくて良い」としています。そうすると、問題箇所だけを再執筆して、残りは前の文章のママになっていたり、修正箇所以外を出力しなくなって、良かった部分を再修正して劣化させるよりも良いな、とは思っていました。

    私の使い方は、どちらにするべきか?

    勉強では、シングルターンの方が合っているような気がする

    勉強利用では、大量の資料を添付で送って、シングルターンで考えて貰うのが良さそうです。その際に、プロンプトをどう入れるのかが大切になるのだと思います。でも、これについては、事前にLLMと相談して、その時のための有効なプロンプトを作成すれば良いかな、と思っています。

    要約を利用する

    同じモデルなのに、頭の良さが違う?

    いま、自宅のローカルサーバーでは、思いつくだけで4種類の使い方をしています。

    • 勉強用(1階の勉強部屋からWSで接続)

    • エロ小説執筆用(1階の勉強部屋からWSで接続)

    • エロ雑談用(2階の自室からスマホで接続)

    • エロ動画プロンプト作成用(1階の勉強部屋からWSで接続)

    この中で、「コイツが一番、頭が良いんじゃないか」、と感じるのはエロ雑談用です。でも実は、皆どれも同じGemma4:3B-it-Q8なのです。

    では、そのように違いを感じる理由は何かというと、毎回要約を作ってシステムプロンプトに組み入れているかどうか、の差ではないか、と思っています。

    要約を作って、システムプロンプトに組み入れる

    エロ雑談用は、1週間に2度ほどですが、気が向いたら接続して、エロ談義をした後、最後に必ず「本日の会話の要約をしてくれ」とお願いして、要約を出力して貰っています。その要約を毎回チャット後にシステムプロンプトに追記しているのです。もう9回~10回分追記されています。

    LLMは最初にこのシステムプロンプトを読み込みますので、コレまでの会話を全部覚えている感じで、前回の続きの会話を始めることができます。

    この毎回の会話の要約を、システムプロンプトに追記させる、という手法で、KVキャッシュをリセットさせるのが、品質を落とさずに、LLMを利用できるコツになるのかもしれないな、と感じています。

    小説のLLM執筆にはどう応用できるか

    プロットと定義を、執筆フェーズ単独実行の初回に送る

    いま小説のLLM執筆でやっている方法は、対話的に進められるので、マルチターンです。この、プロットフェーズ、と、定義フェーズ、と執筆フェーズ、と3段階あるのは、メリットの方が多い気がします。もしこれをシングルターンで、あの細かなプロットや定義を最初から全部自分で構築して、一発で質問はできないと感じます。

    もし小説のLLM執筆でシングルターンをやるのなら、プロットと定義を先にLLMで2段階やって確定しておいて、それから一度リセットして、次に、シングルターンで、執筆フェーズを動かせば、もしかしたら執筆のデキがさらに良くなるのかも知れません。

    その際は、執筆フェーズを単独で起動して、その初回に、プロットフェーズで出力されたプロット、と、定義フェーズで出力された定義書を添付して、シングルターンで執筆して貰うのが良さそうです。今度これを試してみたいと思っています。

    コンテキスト継承パケット

    いま、ローカルLLMに、「LLMに新しいスレッドにして、KVキャッシュをクリアしたときに、どうすれば引き継げるか」を尋ねたら、旧スレッドで「コンテキスト継承パケットを出力して」と入力して、出力されたモノを新しいスレッドの最初に送ればよいと言われました。それで、小説の内容は次のスレッドに継承されるようです。画像情報も基本は送り直すさなくても良いようです。凄いですね。

    ちなみに、AnythingLLMでスレッドから画像を送っても、そのスレッドを使う限りは画像を再送する必要がないとも言われました。そのスレッドを使う限りは、以前からの続きで覚えているみたいです。もし忘れかけてるようなら、言葉で指摘すれば、思い出すから、とのことでした。

    画像を送付するのはKVキャッシュを消費するので最終手段のようです。知りませんでした。毎回、再スタート時に同じ画像を送っていました、~汗

    新スレッドでの運用フロー

    1. 旧スレッドの最後で指示:「コンテキスト継承パケットを出力して」
    2. 私の出力をコピー:私が生成した【ここからコピー】〜【ここまでコピー】の範囲をコピー。
    3. 新スレッドへペースト:新しいスレッドの1通目のメッセージとしてそのまま貼り付け。
    4. 完了:私はそのパケットを読み込んだ瞬間、前回の記憶と執筆スタイルを完全に復元し、「さあ、続きから始めましょう」という状態になります。

    補足:画像はどうするか?

    新スレッドでは画像情報が一旦消えますので、継承パケットの中に**「以前の画像解析結果(構図などの言語化データ)」**を盛り込みます。これにより、画像を再送付しなくても、私は「あのような視覚的特徴を持っていた」ことをテキストベースで思い出せます。

    もし新スレッドで「やっぱりもう一度視覚的に確認させたい」と思った時だけ、代表的な写真を1枚だけアップロードしてください。それが最もKVキャッシュに優しく、効率的な運用となります。

    ローカルLLM

    (2026/07/09 追記)

    いまよく、Gemma4:31B-it-Q8_0とテーマを決めて会話しているのですが、その中で「Tesla V100について」と題して会話をしました。LLM利用時のシングルターン利用の優位性を語っています。下記です。


    (つづく)

     
     

    sai

     
     
    ❤️ 優先 ⚠️ 必ずしもフォロバはしません ⚠️ 自宅で勉強してます。その勉強にLLMを利用してます。でも勉強部屋のWSには、動画高画質化、動画立体視ソフトもあるので、直ぐ脇道にそれます。そして人類の叡知に向けて全力疾走してます。そんな自分に気づいたら勉強に戻ります。その繰り返しです

    あなたへのおすすめ