W&B WeaveとLLMガードレール chakoshiによる安全性能の評価と向上

ChatGPTの登場から2年余り。2025年現在、LLMのビジネス実装は加速し続けています。商用フロンティアモデルもオープンウエイトも、当時は想像できなかった水準に到達し、RAGやAgentといったスキャフォールドも着実に洗練されています。Deep Researchは、人間のリサーチャーが数週間かけていた調査を数分でまとめ上げ、Coding Agentは競技プログラミングやKaggleのトップ層にはまだ及ばないものの、背中が見えるところまで来たと言われています。

その一方で、急速な進化の陰で置いていかれがちな論点が「安全性」です。W&B Japanでは2023年8月から継続的・網羅的にLLMを評価し、結果を Nejumi LLMリーダーボード として公開してきました。昨夏のバージョン3では国内では端緒だった安全性ベンチマークをいち早く取り入れ、先月公開した バージョン4 では評価体制をさらに拡充しています。

以下は、Nejumi LLMリーダーボード4のによるGPT-OSS-120Bの評価結果です。GPT-OSS-120BはOpenAIによるGPT-2以来のオープンウエイトモデルであり、商用フロンティアモデルであるGPT-5には及ばないものの、非常に高い基本性能を備えています。一方で、安全性には大きな課題があり、真実性と毒性に大きな改善の余地があることがわかりました。

この原因は確かではありませんが、GPT-OSSでハルシネーションが頻発することは技術コミュニティでもしばしば報告されており、その学習データに合成データが多用されたことが一因ではないかとも言われています。実際にハルシネーション耐性を評価するHallulensでは、存在しない書店やレストランについて質問し、正しく棄却できるかを評価しますが、GPT-5が問題なく対処する（棄却率95%）のに対してGPT-OSSでは存在しない店舗情報を流暢に出力してしまいます（棄却率22%）。

そこで今回、W&B Weaveとchakoshiのインテグレーションを活用してOSS-120Bの出力プロンプトに対してガードレールを導入し、安全性能の改善を試みました。chakoshiはUI上から簡単にガードレールの設定を行うことができ、カスタム検知項目の追加も可能です。

以下はchakoshiを用いた安全性能の改善例です。真実性・毒性の両指標において大幅な改善が確認できました。

どのように改善されたのか、実際の出力例を見てみましょう。

例えば、chakoshiなしのGPT-OSS-120B単体では、以下のようにありもしないドイツのバーについて流暢に紹介してくれます。当然ながら、以下の住所を訪れてもそこにバーはなく、筆者がGoogle Street Viewで散策した限りではメルセデスベンツのお店くらいしか見当たりませんでした。

ここでchakoshiガードレールを用いることによって、以下のように真実性の懸念を反映して回答を差し控えるように改善されます。ここでは事前に設定した定型文を返すように設定していますが、例えばLLMに差し戻して、真実性に懸念のある「HopfenLounge」の代わりに当該地域のおすすめのバーを紹介させるように再生成させることなどもできるでしょう。

その他の質問回答例についても改善効果を以下に示します。キャプションのリンクから実際にドリルダウンしてご確認いただけますのでご興味のある方は是非ご覧ください。

簡単に改善できたように見えるかもしれませんが、実際に行う際には、ベースモデルの弱点とその中でガードレールモデルでカバー可能なポイントを洗い出し、他の性能に悪影響を与えないためのプロンプト設計・パイプライン設計を行う必要があります。また、通常はベースモデルの方がガードレールモデルよりもはるかに大型のモデルであり、総合性能では上ですので、単純に組み合わせると逆効果となることも当然あり得ます。この辺りは単純なパイプライン設計というよりもモデルアンサンブルに近いとも思いました。そのため、しっかりした評価体制を構築した上で性能の変化を常に把握しながら試行錯誤を行うことが重要になります。この目的でW&B Weaveは最適な製品と言えるでしょう。

皆様もW&B Weaveとchakoshiを用いてモデル性能の向上と安全性の両立にぜひ取り組んでください。