
【地雷】Ollama 0.30系に上げると Gemma4 で日本語が文字化けする(ので当面は避けよう) ※回避策記載
ローカルLLMで小説を生成していて気づいたメモです。
結論:Ollama を 0.30 系に上げると、gemma4 系モデルで日本語が文字化けすることがあります。当面は無理に上げないのが無難。
どう化けるか
全角スペースや一部の漢字が、文字そのものではなく
残酷な蹂<0xE8><0xBA><0x99>だった
のように <0xE8><0xBA><0x99> という文字列のまま出力されます(本来は「躙」の字)。全角スペースも <0xE3><0x80><0x80> に化けます。文章・コンテキストが長いほど件数が増える傾向。
最初は Linux サーバ(RunPod)だけだったのが、Windows の Ollama も 0.24→0.30 に上げたら同じ症状が出ました。モデルは gemma4:31b です。
※補足するとOllama0.30系は大きいバージョンアップだったので、なぜかLinuxとMacだけが先行して公式リリースされており、Windowsはしばらく0.24のままだったのでこのバグ地雷が発動するのが遅かったです。
本日6/4にwindowsにも地雷がアップデートとして降ってきた😫
回避策
上げない:0.24 系のまま使うのが一番確実。
戻す:もう上げてしまったら 0.24 系にダウングレード。コンテキスト(num_ctx)を大きくしすぎない:長いほど増える傾向。
llama.cpp 側では Gemma まわりのバイトデコード修正が活発に入っているので、新しい版を取り込んだ Ollama でそのうち直る見込みです。
原因(分かってきたこと)
Ollama は 0.24 → 0.30 の間に大きなエンジン変更をしていて、GGUF 形式のモデルは、それまでの Ollama 自前エンジンを廃止して llama.cpp に一本化されました。(https://github.com/ollama/ollama/pull/16031)
そのため gemma4 は 0.24 では Ollama 独自エンジン、0.30 では llama.cpp で動くようになり、文字を組み立てる部分(デトークナイザ)がまるごと別物に切り替わりました。
<0xNN> がそのまま出るのは llama.cpp 側のバイトフォールバック表記で、多バイト文字(全角スペースや稀少漢字)を組み立てられなかったときに出ます。
※「0.30 で Flash Attention が新たに ON になったから」ではありません(FA は 0.24 でも ON でした)。エンジンが別物になったのが引き金です。最初は FA を疑いましたが、外れでした。
(正直に書くと、この <0xNN> がそのまま出る形と完全に一致する公開 issue はまだ見つかっていません。仕組みとエンジン入れ替えは確認できていますが、最終的な因果は推測を含みます。)
gemma4 のアテンション構造と Flash Attention の相性問題で、0.30 系で Gemma の FA が既定ONになったあたりが怪しい、という感じ。完全に同じ症状の公式issueは見つかりませんが、近い報告:
• llama.cpp #22527 https://github.com/ggml-org/llama.cpp/issues/22527
• ollama #15278 https://github.com/ollama/ollama/issues/15278
旧バージョンのOllamaのダウンロード
GitHubのリリースページから飛びます
0.24のところにいきます

Assetsにバイナリがあります

Windowsの場合
◯OllamaSetup.exe
こちらはインストーラーなので使いまわしが悪い、0.30系と共存できないのに注意
◯ollama-windows-amd64.zip
こちらをダウンロードして0.30と共存させるほうが良い
0.30系と0.24系を共存させる
最新のOllamaはインストールしておいたままで
旧板も動かす方法を書いておきます(windows)。
モデルを/saveで上書きしない前提です。
ollama0.30と0.24が同じユーザーフォルダを見るため若干危険です。
ollama-windows-amd64.zip
を展開
ollama-v24とかにリネーム
PowerShellで該当フォルダに移動し以下を実行
$env:OLLAMA_HOST = "127.0.0.1:11435"
ollama.exe serve上記はポートを変える場合
デフォルトは11434。
ターミナルからチャットしたい場合、もういっこターミナル立ち上げて
$env:OLLAMA_HOST = "127.0.0.1:11435"
ollama.exeここまで設定すれば
Inkubusつかってる場合は設定パネルで旧版に接続切り替えできます

GUI Ollamaよりollama.exe serveのほうが情報いろいろ見れるのでこっちのほうがいいですね😋
