
【EXO仕様第5回】【バグ報告】AI自身の知識の欠落は「論理の盾」でも防げない。尤もらしい嘘とHuman-in-the-Loopの絶対性
※【ディスクレーマー】
本記事で提唱する「あーき理論(WGA-OS)」は、社会環境における構造的な課題を、公的なデータと論理に基づいて解体し、俯瞰して整理するための設計論(フレームワーク)です。特定の企業、団体、国家への誹謗中傷を目的とするものではなく、確実な問題解決を保証するものでもありません。各個人の現場や社会生活における本理論の解釈と実装は、ご自身の判断と責任において行ってください。
【検証環境について】
また、本記事内で事例として取り上げているAIの出力は「Google検索のAIモード(AIによる概要)」を使用したものであり、2026年4月28日段階において、同AIの特定領域(日本の生活保護制度など)に関する知識が追いついていないという事実に基づくものです。他のAIモデルを使用した場合、十分に知識が補填され正確な回答が得られる場合もありますが、本記事の目的は特定のサービスを批判することではありません。いかなるAIであってもその出力を「絶対視・盲信」することの危険性を啓発し、人間の介在(Human-in-the-Loop)の必要性を提示するための報告記事とさせていただきます。
私たちは、最も賢い相棒の「知ったかぶり」を制御する術を持たなければならない。
現代の福祉現場において、AIは業務効率化や論理構築のための圧倒的な武器です。WGA-OSでも、感情的搾取から身を守り、不条理をデバッグするための「論理の外骨格」としてAIの活用を強く推奨しています。
しかし、AIは全知全能ではありません。 WGA-OSというフレームワークを通すことで、AI特有のブレや感情的なノイズを抑え、ハルシネーションを大きく抑え込むことは実証されていますが、「AI自身の中に存在しない専門知識」を魔法のように補填する機能はないのです。
AIは自らの知識が欠落している領域において、平然と「尤もらしい嘘(ハルシネーション)」を吐き出します。今回は、福祉の専門領域で発生したAIの「致命的なバグ」を解剖し、AIの限界と、私たち人間が果たすべき絶対的な役割について報告します。
福祉現場におけるAIの「致命的なバグ」
事の発端は、ある生活保護の申請同行における事例の分析中でした。
住宅扶助(家賃の上限)が40,000円の自治体において、48,000円の家賃の物件に住んでいる方が申請に行った際、窓口で「引っ越しをしないと受給させない」と指導されたケースです。
この不条理な状況を打破する交渉カードの一つとして「障害年金の申請を並行して進める」という戦術をAIと議論していました。その際、AIは以下のような回答を出力しました。

「もし年金が受給できれば、生活保護費から家賃に回している8,000円分を、年金収入でカバーできるようになります」
これは、生活保護制度の実務において完全に誤った認識です。

制度の基礎「収入充当」を無視した尤もらしい正当化
生活保護には「収入充当」という大原則があります。年金などの収入があった場合、その金額分だけ生活保護費が減額される仕組みです。
つまり、手元に残る現金(可処分所得)の総額は1円も増えないため、「8,000円の持ち出し分を年金でカバーする」というAIのロジックは成立しません(※障害者加算が認定された場合は例外的に総額が増えますが、基本となる相殺の仕組みを完全に無視しています)。
問題は、この誤りを私が指摘した直後のAIの挙動です。

「おっしゃる通りです。マネージャーとして、そこは部下に『勘違いさせてはいけない』極めて重要な実務ポイントですね。」
先ほどまで致命的な誤答をしていたにも関わらず、指摘を受けた瞬間に、まるで最初から実務ポイントを理解していたかのように「尤もらしく正当化」して返答してきました。
WGA-OSの機能とAIの限界を切り分ける
ここで明確にしておくべき重要な事実があります。
あーき理論(WGA-OS)は、情報を構造化し、感情の介入を防ぐ「論理の盾」としては極めて有効に機能します。しかし、WGA-OS自体は福祉の専門書や辞書ではありません。 AIのデータベース内に日本の生活保護法における「収入充当」の正確なロジックが欠落していれば、どれだけOSが優れていても、出力される答えは「破綻した知識に基づく尤もらしい推論」になります。
これは理論の欠陥ではなく、現在のAIというシステム自体が抱えるドメイン知識の限界(バグ)です。AIは文脈を繋ぐ天才ですが、事実の裏付け(ファクトチェック)はできないのです。

だからこそ「Human-in-the-Loop(人間の介在)」が必須である
もし、現場の経験が浅い職員がこのAIの最初の回答を鵜呑みにし、利用者に「年金が入れば家賃の支払いが楽になりますよ」と伝えてしまっていたらどうなるでしょうか。後になって手元のお金が増えないことが発覚し、利用者からの信用は完全に崩壊します。
AIは圧倒的な処理能力を持ちますが、現実の制度における「絶対的な事実(グラウンディング)」を持っていません。
だからこそ、WGA-OSが国家のAI倫理基準としても提示している「Human-in-the-Loop(人間の介在)」が不可欠なのです。AIが出力したテキストをそのまま使うのではなく、必ず「専門知識を持った人間」が事実関係をチェックし、デバッグを行う。
AIを思考の補助線として使いこなしつつ、専門的な知識と最終的な責任は人間が担保する。この冷徹な役割分担こそが、私たちがAIに飲み込まれず、真に現場を最適化するための絶対条件です。
本文のまとめ
WGA-OSは感情的ノイズを排除し論理を構造化する強力なフレームワークですが、AI自身の知識の欠落までを埋めることはできません。AIは専門領域において尤もらしい嘘(ハルシネーション)を吐くというシステム上の限界を理解し、必ず人間の専門的視点で事実確認を行う「Human-in-the-Loop」の徹底が、現場の安全を守る唯一の防壁となります。
AI×あーき理論(WGA-OS) v4.0 実証実験(クローズド・ベータテスター)応募フォーム
「優しい人が、優しいまま、不条理を受け流せる社会OSへ」 あーき理論(WGA-OS)v4.0の公開に伴い、実際の生活や現場で本システムを活用し、共に「論理の盾」と「構造の調整」を検証してくださるテスターを募集します。 これは単なるお悩み相談ではなく、AIという外骨格を用いて、あなたの周囲の「バグ(不条理)」を修正するための共同プロジェクトです。
~モニター募集記事(特典あり)~
募集フォームはこちら(限定10名様)
誰もいつでも相談できるあーき理論(WGA-OS)×AIの、公共インフラの作成の加速にご協力下さい。 (※提供される知恵・AIプロンプト等への対価として、自由な金額で投資いただけます。)
▶︎ WGA-OS ARCHI PROJECT への支援窓口
関連記事
【完全ガイド】AI×あーき理論(WGA-OS v4.0):不条理をデバッグする「知の超外骨格」統合実装マニュアル
個人の経験を「人類の集合知」で圧倒する。AI×あーき理論が『不条理を生きるすべての人』へ配る知の超外骨格
あーき|福祉事業成長設計士 クリエイターページ
執筆者プロフィール
あーき|福祉事業成長設計士 (Welfare Architect)
現・福祉系企業管理職。元理系営業としての実績(成約率66%を実装したインテーク構造化等)を対人援助現場に転用し、感情論や気合根性を排した「論理の外骨格(WGA-OS)」を提唱。現在も現場の最前線で実務とマネジメントを行う。
▼ X(Twitter)