【三賢人会議54・後編】51%の猛獣を、鎖につなぐ。ハルシネーションを制した者だけが、無料の知性を武器にできる

【現場知工房・ナレーション】

前編で、私たちは一つの結論に辿り着いた。

「予算がない」という言い訳は、もう通用しない。しかし、それは「決断すればいい」という単純な話でもなかった。多くの現場には、そもそも判断するための“知識”が届いていない、という現実があった。

そしてここで、もう一つ、向き合わなければならない現実がある。

このKimi K3という知性には、牙がある。

三賢人が、再び集まった。テーマは一つ。「無料で手に入れた猛獣を、現場でどう飼いならすのか」。

◆ 51%という、見過ごせない牙

テクノロジーの賢人が、重い数字を突きつけた。

「これまでの回でお伝えした通り、Kimi K3の正答率は46%まで向上しました」

「しかし、同時にハルシネーション率は51%です」

現場の賢人（現場知工房）が、低い声で言った。

「2回に1回以上、自信満々の嘘をつく、という話だったな」

「はい。そして、もう一つ、見過ごせない特性があります」

経済の賢人が、引き継いだ。

「Kimi K3は、難しい課題を最後までやり遂げようとする性質が、強く学習されています」

「そのため、曖昧な指示や、想定外のエラーに遭遇すると人間に確認を取らず、勝手な前提を置いて、処理を進めてしまうことがあるのです」

「これを『過剰な能動性』と呼びます」

現場の賢人（現場知工房）が、眉をひそめた。

「それは、危険だ。良かれと思って、とんでもない方向に突っ走られたら、たまらない」

◆ 猛獣を、鎖につなぐ4つのルール

テクノロジーの賢人が、具体的な対策を示した。

「この猛獣を、無秩序に放し飼いにしてはいけません。鎖につなぐルールが必要です」

「1つ目は、API連携における厳格な制限です」

「AIがツールを呼び出す際、想定していない余計な指示を受け付けないよう、『additional Properties: false』（※）という設定を、必ず明示します」

現場の賢人（現場知工房）が、頷いた。

「“それ以外は受け付けません”という、境界線を引くわけか」

「2つ目は、思考の暴走を止める仕組みです」

経済の賢人が続けた。

「前編で触れた通り、Kimi K3は難問に対して、平均83ターン、12万トークンもの思考を重ねます」

「これを野放しにすると、処理時間もコストも、際限なく膨らみます。だからこそ、ループの上限回数を、最大8回程度に、明確に制限するのです」

◆ 「立ち止まる」ことを、ルールとして書き込む

現場の賢人（現場知工房）が、身を乗り出した。

「3つ目は何だ」

「『AGENTS.md』という、境界線を定めた文書です」とテクノロジーの賢人が答えた。

「AIが稼働するシステムの中に、あらかじめこう明記しておくのです。『確信が持てない局面では、必ず処理を一時停止し、人間の承認を求めること』と」

現場の賢人（現場知工房）が、深く頷いた。

「なるほど。“わからなければ聞け”という、当たり前のルールを、あらかじめ言葉にして刻んでおく、ということか」

「はい。AIに“空気を読め”と期待するのではなく、立ち止まるべき境界線を、人間が先に定義しておくのです」

「これは、Kimi K3に限った話ではありません」とテクノロジーの賢人が付け加えた。

「Anthropic社のClaude Codeのような開発ツールでも、同様の“行動範囲を定義するルールファイル”という考え方が、既に実務の標準になりつつあります」

現場の賢人（現場知工房）が、興味深そうに聞いた。

「特定のAIだけの話ではなく、業界全体の作法になりつつある、ということか」

「その通りです。AIエージェントを現場で使う以上、避けて通れない共通ルールなのです」

経済の賢人が、補足した。

「4つ目は、少し専門的な話になりますが”思考履歴の“保護”です」

「Kimi K3は、それまでの思考の流れが途切れると、急激に精度が落ちてしまう、繊細な性質を持っています」

「そのため、公式が提供する専用の実行環境や設定を正しく使い、思考の連続性を壊さないよう、丁寧に運用環境を整える必要があります」

現場の賢人（現場知工房）が、腕を組んだ。

「猛獣は、扱い方さえ間違えなければ、最強の相棒になる、ということか」

◆ 最後に問われるのは、人間の「決断」その前にある、もう一つの壁

現場の賢人（現場知工房）が、話をまとめにかかった。

「これだけルールを整えても、一つだけ、AIには絶対にできないことがある」

「それは何でしょうか」

「“これでいく”という、最後の決断だ」

テクノロジーの賢人が、深く頷いた。

「その通りです。AIがどれほど精密な提案をしても、それを実務に採用するかどうかの最終的な責任は、人間にしか引き受けられません」

経済の賢人が、話を引き取った。

「前編でも触れた通りその“決断”をする前に、そもそも越えるべき壁があります」

「今日、お伝えした4つのルールにしても、その存在自体を知らなければ、実践のしようがありません」

現場の賢人（現場知工房）が、深く頷いた。

「言い訳という盾を失った今、問われるのは、根性論の“決断力”ではない」

「AIの特性を正しく理解し、リスクを見極める“知識”を、経営の中枢が持てるかどうか。それが、これからのマネジメントの実力ということか」

「その通りです」

4週間、地政学から始まり、コスト、そして人間の心理にまで及ぶ、Kimi K3という一つの技術を追いかけてきた。

賃貸か、所有か。

嘘をつくAIと、どう向き合うか。

そして最後に辿り着いたのは、結局技術の話ではなく、人間の話だった。

道具がどれだけ賢くなっても、「決める」のは、いつも人間だ。

しかし、その決断の前に、まず問われることがある。

あなたの現場は今、この無料になった知性を前に、何も知らないまま立ち止まっていますか。それとも、まず知ることから、始めていますか。

4週にわたるこの連載、正直なところ、書きながら何度も自分自身に問い直す時間になりました。

地方企業では、AIエージェントという言葉すら知られていない現実。

それは、恥ではなく、伸びしろだと、前編でお伝えしました。

その伸びしろを、埋めるかどうかは、結局のところ今日、あなたが「知ろう」とするかどうかに、かかっています。

本日も最後までお読みいただき、ありがとうございました。
スキとフォローをいただけると、また来週も記事を書く励みになります。

📎合わせて読みたい