メインコンテンツへスキップ
見出し画像

国家予算が処方箋を書く日(第4部):AIが作りAIが審査する世界──臨床言語の死

    ※本稿は全6部構成の連続論考です。
    医療と合理性、AI、そして「医師とは何か」という問いを順に整理していきます。
    月・木21時更新。

    目次(全6部/順次公開)

    はじめに

    第3部で論じた「外部コストの移動」から視点を転じ、本稿ではAIが申請側にも審査側にも導入されたとき制度と臨床言語の双方に何が起きるかを、善悪ではなく構造の力学として記述する。

    グッドハートの法則──医療版

    経済学者チャールズ・グッドハートが1975年に提唱した法則がある。「ある指標が政策目標になった瞬間、それは良い指標ではなくなる」。

    教育で言えば、テストの点数を教育の質の指標にした瞬間、教育はテスト対策に最適化され、教育の質は劣化する。指標は汚染され、もはや本来計測したかったものを反映しなくなる。

    医療で同じことが起きる。

    レセプトの査定通過率が、医療の質の代理指標になる。査定を通過する処方が「正しい処方」と見なされ、査定を通らない処方は「逸脱」と見なされる。医師は査定を通過するために処方を調整し始める。この瞬間から、レセプトの査定通過率は医療の質を反映しなくなる。

    だがAIはこの汚染を検知しない。AIにとって、査定通過率の向上は最適化の成功である。医師が患者のためではなく審査のために処方しているのか、患者のために処方した結果として審査を通過しているのかを、AIは区別できない。入力データが同一だからである。

    ここに構造的な盲点がある。グッドハートの法則が作動しているとき、それを内部から検知する手段がない。指標が汚染されていることを知るには、指標の外に立つ必要がある。だがAIは指標の内側にしか存在しない。

    第一段階:申請側のAI最適化

    カルテの記載から必要な情報を抽出し、書式に合わせて整形する。これ自体は事務負荷の軽減であり、合理的な手段である。だがこの段階にも既に最適化の芽が含まれている。審査を通過しやすい記載パターンがAIに蓄積されていく移行は連続的で転換点がない。だからこそ見えにくい。

    第二段階:審査側のAI導入

    支払基金は既にAIを導入し、レセプト全体の9割〔※1〕をコンピュータチェックで完結させている。現段階のAIの役割は審査そのものではなく、人が目視すべきレセプトの「振分け」とされている。だが技術的には、処方パターンの逸脱検知、診断名と治療行為の整合性チェック、「この疾患でこの検査頻度は統計的に妥当か」の判定まで射程に入る。

    審査側にAIが導入されると、二つのことが同時に起きる。

    一つは、審査の精度と速度の飛躍的向上である。人間の審査員が見落としていたパターンをAIは検知する。これは制度の公正性という観点からは改善である。

    もう一つは、審査基準の硬直化である。人間の審査員には「裁量」があった。書面上は逸脱していても、臨床的文脈を読み取って通す判断ができた。AIにその裁量はない。数値的に閾値を超えれば弾く。例外を例外として認識する能力を、現在のAIは持っていない。

    この二つが同時に起きるとき、制度は「公正で、しかし硬い」ものに変わる。公正さの代償として、柔軟性が失われる。

    透明性の不在──見えないAIが審査する

    ここで、現在の日本で既に起きていることを確認しておく。

    社会保険診療報酬支払基金は、2021年9月に稼働した新システムにAIを実装し、MinhashとXGBoostという2種類の機械学習アルゴリズムでレセプトの振分けを行っている。過去の審査結果を学習データとし、査定・返戻の確率を算出して、人が目視すべきレセプトとコンピュータチェックで完結するレセプトに振り分ける。令和5年10月の時点で、レセプト全体の9割がコンピュータチェックで完結している。〔※1〕

    アルゴリズムの名前は公開されている。だが、それだけである。

    どの傷病名と処方の組み合わせが「査定可能性が高い」と判定されるのか、閾値はいくつなのか、学習データに含まれる過去の審査結果に地域間バイアスはないのか、AIの振分精度はどれほどか──これらは一切公開されていない。

    さらに決定的なのは、AIが介在したこと自体が、審査結果の通知に現れないことである。医療機関に届くのは従来通りの「増減点連絡書」だけであり、「このレセプトはAIによって査定対象に振り分けられました」という通知は存在しない。医療機関は、自分のレセプトがAIに弾かれたのか人間に弾かれたのか、そもそもAIが関与したのかどうかすら知ることができない。

    AIが審査に介在していること自体が不可視であるという構造は、異議申立ての回路を構造的に封じる。何に対して異議を唱えればいいのかがわからないからである。

    この不可視性がもたらすものの兆候は、既に出ている。2025年1月、支払基金は不適切な方法でレセプト審査を行っていた職員290人を処分した。AIが9割を処理した残りの1割について、職員には「1秒以上モニター画面を確認すること」が義務づけられていた。ところが、一定秒数が経つと自動的に次の画面に切り替わるツールを使用し、目視確認自体をしていなかった職員が全国3,630人中290人──8%──いたことが発覚した。〔※2〕これはAIが人間を腐らせたという話ではない。不可視なプロセスの下で「確認が形式化する」という同型が出現した、という指摘である。

    第1部で紹介した米国Cignaの事例──アルゴリズムPxDxが請求を振り分け、医師が「文字通りクリックして送信するだけ。50件を10秒で処理する」と証言した構造──と、制度・国・文脈は異なるが、「見ていない人間がボタンを押す」という構造は同型である。これは米国と日本の同一視ではない。国が違っても同じ構造が独立に出現するという事実の指摘である。

    日本のレセプト審査AIは、法的に透明性を要求されないまま、年間約12億件のレセプトの9割〔※1〕を処理している。これが、次に述べるGAN的軍拡が静かに進行するための制度的条件となる。

    第三段階:GAN的軍拡

    申請AIと審査AIが互いの出力に最適化を重ねる構造は、敵対的生成ネットワーク(GAN)の力学と同型である。

    GANでは、生成器と識別器が互いに能力を高め合う。生成器がよりリアルな画像を作り、識別器がより精密に偽物を見抜く。この競争が両者の性能を引き上げる。

    平たく言えばこうなる。申請側は「審査を通る書き方」を学び、審査側は「その書き方を見抜くルール」を更新する。それが繰り返されると、書類の文章は患者の実態ではなく、互いの判定ルールに合わせて進化するだけになる。

    申請AIが審査AIのパターンを学習し、査定を回避する記載を生成する。審査AIがその回避パターンを検知し、新たな基準を適用する。申請AIがさらに新しい回避パターンを開発する。この循環が自動的に、高速に回り始める。

    この過程で決定的に重要なのは、両者が最適化しているのは「患者の治療」ではなく「書類の通過/遮断」だということである。

    申請AIは患者に最適な治療を記載することではなく、審査を通過する記載を作ることに最適化される。審査AIは不適切な治療を遮断することではなく、統計的逸脱を検知することに最適化される。両者とも、患者の実態からは一歩ずつ離れていく。

    書類上の言語と患者の実態との間に、乖離が生まれる。この乖離は、GAN的軍拡が進むほど拡大する。

    言語の形骸化──制度を通過するための符号

    ここで起きていることを、もう少し正確に記述する。

    医療における書類──診断書、レセプト、意見書──は本来、二つの機能を持っている。一つは記録としての機能。患者の状態と治療の内容を正確に記述する。もう一つは制度的機能。保険請求や公費申請のための手続き文書として機能する。

    この二つの機能は、本来は一致しているはずであった。正確な記録がそのまま適切な請求になる。だがGAN的軍拡の下では、二つの機能が分離する。

    制度的機能──審査を通過すること──が優先され、記録としての機能──患者の実態を正確に記述すること──が従属する。やがて、書類に書かれた言葉は患者を記述する言葉ではなく、制度を通過するための符号になる。

    医学用語が医学的意味を失い、制度的記号に変わる。「F32中等度うつ病エピソード」という診断名が、患者の苦痛を記述する言葉ではなく、特定の処方パターンと保険点数に紐づく符号になる。

    この形骸化は、AIが関与しなくても部分的には既に起きている。だがAIは、この過程を高速化し、大規模化し、不可逆にする。

    二種類の特異性──匿名化が暴いたもの

    この言語の形骸化を、別の角度から見てみる。臨床記述の内側から──つまり書く行為そのものの変質を──探ることで、構造がより鮮明になる。

    精神科カルテの匿名化基準を作っていて、気づいたことがある。

    匿名化とは、患者の物語から特異性を削る作業である。「○○大学工学部」を「大学(理工系)」に、「首吊り未遂。夫が発見し、A病院救急に搬送」を「自殺企図あり(縊首)。家族が発見し救急搬送」に変換する。名前を消すだけでは終わらない。転居歴、家族構成、職場の人間関係、自殺の方法と場所──精神科カルテに書かれた人生の物語を、一つひとつ抽象化していく。

    この作業を繰り返すうちに、ある感覚が生まれた。

    匿名化されたカルテは、どれも似てくる。「幼少期より養育環境の問題あり。学童期に行政機関が介入。義務教育修了後、サービス業に就労」──この文は、何百人もの患者に当てはまりうる。それが匿名化の目的だから、当然である。特定の誰かを想起させないこと。それが成功の条件である。

    しかし同時に、何かが消えている。臨床的に意味のある情報は残したはずなのに、その文章からは「この患者を診ている医師の眼差し」が消えている。

    ここで気づいた。匿名化が消しているのは、患者の個人情報だけではない。医師の臨床的判断の痕跡も一緒に消えている。

    平均に向かう力──AIが消すもの

    大規模言語モデル(LLM)に臨床記述を生成させると、同じことが起きる。

    LLMは、学習データの中で最も確率の高いトークンを選び続けることで文章を生成する。その結果、出力は自然と「ありがちな記述」に収束する。精神科の臨床記述を書かせれば、教科書的に正しく、文法的に整い、どこにも角のない文章が出てくる。

    これは匿名化と同じ方向のベクトルである。匿名化は意図的に特異性を削る。AIは統計的に特異性を回避する。方法は違うが、結果は同じ──平均への収束。

    問題は、精神科の臨床記述において、平均的な記述は臨床的に貧しいということである。

    28年間カルテを書いてきた経験から言えば、診察室で本当に重要な観察は、教科書に載っていない。「診察室に入るなり靴を揃え直した」「処方について質問するときだけ目が合う」「今日は待合室で他の患者に話しかけていた、と受付が教えてくれた」──こうした記述は、精神科カルテの中で最も価値が高い部分であると同時に、最も特異的な部分でもある。

    AIはこの種の記述を生成しない。なぜなら、学習データの中でこれらは低頻度だからである。「不眠の訴えあり。抑うつ気分持続」は生成される。「今日は靴を揃え直した」は生成されない。

    ここに、一つの構造が見える。

    精神科カルテの中には、二種類の特異性が混在している。患者の特異性と医師の特異性である。

    患者の特異性とは、その人固有の人生の物語である。転居先の地名、家族の職業、自殺企図の場所。これらは匿名化で消さなければならない。消さなければ、個人が特定される。

    医師の特異性とは、臨床的直感に基づく観察と判断の痕跡である。教科書に載っていない表現、予測困難な着眼点、情報の取捨選択における偏り。これらは残さなければならない。残さなければ、臨床記述としての価値が消える。

    匿名化は患者の特異性を消す操作である。AIは医師の特異性を消す操作である。この二つが同時に作用したとき、残るのは──平均化された症状の羅列である。誰の物語でもなく、誰の眼差しでもない記述。

    GAN的軍拡とは、この平均化が制度によって強制されていく過程でもある。

    ウォーターマークという幻想──技術的限界

    一つの答えとして、「医師ウォーターマーク」という構想がある。

    AIが生成した下書きを医師が編集する。その編集の痕跡──追加された特異的な記述、削除された不要な定型句──が、医師の介在の証拠になる。AIの出力は統計的に均質であり、医師の編集はそこからの逸脱として検出可能である。

    理論的にはこれは正しい。AI生成テキストの語彙エントロピーは低い。構文パターンの分散は小さい。医師が書き加えた部分は、これらの指標において「異常値」として浮かび上がるはずである。

    しかし、これは実用にはならない。

    理由は三つある。第一に、精神科カルテの「正常な」統計的特徴のベースラインが存在しない。大量のカルテコーパスなしには、何が平均で何が逸脱かを定義できない。第二に、医師間の記述スタイルの差が大きすぎる。AI生成と人間の記述の差より、ベテラン医師と若手医師の差の方が大きい可能性がある。第三に、仮に検出できたとしても、その検出基準を公開した瞬間に、回避するAIを設計できる。語彙エントロピーが低いと検出されるなら、同義語をランダムに散らせばいい。

    これはAI生成テキスト検出の根本的な限界であり、OpenAIもGoogleも解決できていない問題の精神科カルテ版にすぎない。

    さらに時間軸を延ばすと、事態はより深刻になる。申請側がAIで「最適な」診断書を生成するようになれば、審査側もAIで「不自然な」診断書を検出するようになる。生成器と識別器が互いに学習し合い、均衡点に達したとき、生成された文書と人間が書いた文書は統計的に区別がつかなくなる。

    医師ウォーターマークは、この軍拡の中で数年は機能するかもしれない。だが「当面」が終わったとき、テキストの統計的特徴に依拠した検出手段はすべて無効化される。残るのはプロセスの記録だけである。しかし、それすらも自動化で模倣される日が来る。

    つまり、技術的手段で医師の介在を永続的に証明するという発想自体に、構造的な限界がある。

    技術で技術に勝てないなら──制度設計へ

    技術的手段が限界を持つなら、残された道は制度設計である。

    介護保険の要介護認定を思い出してほしい。認定調査員が被保険者を訪問し、対面で調査する。主治医意見書も参考にするが、最終的には審査会が合議で判定する。書類だけで完結しない仕組みが、書類の偽造や最適化に対する構造的な耐性を持っている。

    障害年金も、現在の書類審査から対面審査に移行する可能性がある。AI生成文書が氾濫して書類審査の信頼性が崩壊すれば、制度的にそうせざるを得なくなる。第4段階の「揺り戻し」は、そのような圧力から生まれる。

    精神科が最初に崩壊する理由

    この力学は全診療科に作用するが、精神科が最も早く、最も深く影響を受ける。理由は三つある。

    第一に、客観的指標の不在。 身体科であれば、検査値や画像所見が治療の妥当性を裏付ける。審査AIが処方を「逸脱」と判定しても、「HbA1cが9.2だからこの処方は必要」と数字で反論できる。精神科にはこの反論手段がない。

    第二に、治療の時間軸が長い。 精神疾患の治療は月単位、年単位で経過する。「この診断名でこの治療期間は妥当か」という審査AIの判定は、短期間で結果が出る急性疾患には適用しやすいが、精神科の慢性疾患には構造的に馴染まない。しかしAIはその構造的不適合を認識しない。

    第三に、治療行為の記述が本質的に言語依存である。 精神科の治療行為の核──患者との対話、関係性の構築、心理的支持──は、レセプト上では「通院精神療法」という一行に圧縮される。治療の質も量も内容も、この一行からは読み取れない。審査AIが判定できるのは、算定回数と時間区分だけである。

    つまり精神科は、AIによる審査が最も機能しにくく、しかし最も容赦なく適用される領域である。

    第四段階:制度の形骸化と揺り戻し

    GAN的軍拡が続けば、いずれ制度は形骸化する。

    書類が患者の実態を反映しなくなれば、書類に基づく審査は意味を失う。審査AIが高精度で判定しているのは、患者の治療の妥当性ではなく、書類の書き方の妥当性にすぎない。制度の目的と制度の運用が完全に乖離する。

    この乖離が限界に達したとき、一つの参照先は介護保険制度である。書類だけでは判定できないという認識が、制度設計に組み込まれている。医療制度においても、AI同士の軍拡が書類審査の限界を露呈させれば、対面審査・公的機関直接審査への移行圧力が高まる可能性がある。

    ただし、この揺り戻しには時間がかかる。制度は慣性を持つ。AI審査の導入は「効率化」として推進され、その効率化が制度を形骸化させていることが認識されるまでには、相当の被害が蓄積される。

    各段階の時期を正確に予測することはできない。だが、この力学が作動する構造的条件は既に揃っている。核軍拡は条約で凍結できた。AI軍拡は──公費書類レベルでも国防レベルでも──凍結する手段が構造的に存在しない。この非対称性が、制度条件が揃っているかぎり段階的進行を単なる「可能性」ではなく「高い圧力」として維持し続ける。

    おわりに──力学は善悪を問わない

    本稿で描いたのは、善悪の物語ではない。

    申請側のAI最適化は合理的である。審査側のAI導入も合理的である。両者が互いに最適化を重ねるのも、各々の立場からは合理的である。どの段階にも悪意はない。

    だが合理性の連鎖が、制度の目的を内部から空洞化させる。書類が患者の実態から離れ、医師の眼差しが文章から消え、「F32中等度うつ病エピソード」という言葉が符号になる。これは誰かの意図ではなく、構造の帰結である。

    グッドハートの法則が教えているのは、最適化それ自体が問題なのではなく、何を最適化しているのかを見失うことが問題だということである。AIは与えられた指標を最適化する。だが「この指標は本当に医療の質を反映しているか」を問う能力を、AIは持たない。

    その問いを持てるのは、今のところ人間だけである。

    次稿では、その「問う能力」がどのように失われていくかを、臨床経験と医学教育の観点から考察する。

    〔脚注〕

    ※1 以下の資料に基づく。

    • Minhash・XGBoostの採用:社会保険診療報酬支払基金「審査支払業務のデジタル化に関する説明資料」(2021年業務説明会、同基金公表)

    • 9割(令和5年10月時点):社会保険診療報酬支払基金「令和5年度事業報告」(2024年)

    ※2 2025年1月17日付 社会保険診療報酬支払基金プレスリリース「審査委員職員による不適切行為に係る処分について」。処分対象は全国支部の職員290名、全体3,630名中8.0%。

    本稿は「国家予算が処方箋を書く日」シリーズ第4部です。

    #診療報酬 #レセプト審査 #医療AI #グッドハートの法則 #精神科 #社会保険 #医療制度 #AIと医療 #臨床 #精神科医が考える

    あなたへのおすすめ