
国家予算が処方箋を書く日(第6部):医師とは何か──AI時代の存在論
※本稿は全6部構成の連続論考です。
医療と合理性、AI、そして「医師とは何か」という問いを順に整理していきます。
月・木21時更新。
目次(全6部/順次公開)
第6部:医師とは何か(本文へ)
はじめに
このシリーズを通じて、一つの構造を描いてきた。
国家予算がAIを介して治療を逆算する力学。合理性が合理性を侵食し、制度内コストの削減が外部コストの移動にすぎないこと。AIが作りAIが審査するループが書類の言語を形骸化させる過程。そして、例外に出会えない若い医師たちの臨床経験の空洞化──書くという行為の変質から始まるネガティブ・ケイパビリティの喪失まで。
すべての道は、一つの問いに収束する。
AI時代に、医師であるとはどういうことか。
四つの喪失
ここまでの議論を、医師の側から振り返る。
臨床的自律性の喪失。 予算と計測が上下から治療を規定し、AIがその実行を監視する。何を処方するか、どの検査を行うか、いつ入院させるか──あらゆる判断が「統計的に妥当か」の審査にさらされる。標準から逸脱する自由は、制度的に縮小し続ける。
信頼関係の喪失。 AIが審査を絞り、医療機関が損を被り、医師が患者に「これ以上は難しい」と告げる。その連鎖の中で、医師と患者の信頼は静かに毀損される。AIの名前は一度も出ない。患者は「先生に見放された」と感じる。
経験の喪失。 AIが標準診療を処理することで、若い医師が例外に出会う機会が減る。例外を見分ける目は、例外に出会わなければ育たない。臨床判断力の世代間継承が途絶えるリスクが生まれる。
不確実性に耐える力の喪失。 AIが常に「答え」を提示する環境では、答えがない状態に留まる能力──ネガティブ・ケイパビリティ──が構造的に損なわれる。書くことで思考する習慣が確認する習慣に置き換わるとき、この喪失は日常の診療の中で静かに始まる。
この四つの喪失を並べたとき、一つの像が浮かぶ。
AIが得意なことをAIに任せた結果、医師に残るのは「AIが対応できないもの」である。それは例外であり、不確実性であり、制度の外側であり、数字にならない苦痛である。
だが同時に、その「残りもの」にこそ医師の本質がある。
プロトコル実行者か、例外の引受人か
第2部の末尾で、座標軸を一つ示した。「計算される医療か、引き受ける医療か」。
ここで、この座標軸をもう少し精密にする。
プロトコル実行者としての医師。 予算とエビデンスから算出された治療プロトコルを、正確に実行する。パイロットが自動操縦を監視するように、AIの出力を確認し、承認する。この役割は合理的であり、効率的であり、制度が求める医師像である。
例外の引受人としての医師。 統計の外側に落ちた一人の患者に向き合う。標準治療が効かないとき、別の道を探す。データが少ない領域で、経験と直感を頼りに判断する。不確実性の中に留まり、性急に結論を出さない。書くことで思考し、その思考が次の診察を作る。
両者は二項対立ではない。すべての医師がこの間のどこかに立っている。一日の診療の中で、両方の役割を行き来している。
だが、AIの浸透が進むほど、前者への圧力は構造的に強まる。プロトコルに従えば審査を通過する。プロトコルから逸脱すれば査定される。経営的にも、法的にも、プロトコル実行者であることのほうが安全である。
例外を引き受けることは、制度的に不利になる。査定のリスク、経営の圧迫、「標準から逸脱した」という説明責任。例外を引き受ける医師は、制度の中では非効率な存在である。
それでも例外を引き受けるのか。
「見えてしまう」という能力
ここで、第3部の議論に立ち返る。
制度は内側しか見ない。AIは制度内を最適化する。外部コストは不可視化される。
だが臨床現場で患者と向き合う限り、外部は目に入る。通院が途切れた患者の沈黙。再入院してきたときの表情。家族が疲弊している気配。処方が査定された翌月の悪化。
これらは制度の数字には現れない。AIの最適化対象にもならない。だが医師の目には映る。映ってしまう。
「見えてしまう」ことは、選択ではない。能力である。
長きにわたる臨床経験は、何を見せてくれるかを選べない。見えるものが見える。外部が見える。数字にならない苦痛が見える。制度の隙間に落ちた人間が見える。
この能力は、AIには原理的にない。AIは入力されたデータを処理する。入力されないものは存在しない。だが医師は、入力されないもの──沈黙、表情、気配、文脈──を感受する。
「見えてしまう」能力を持つ人間が、「見えないふりをする」ことを制度に要求される。これがAI時代の医師が直面する本質的な緊張である。
不完全さの設計
ここで、一つの設計思想について書く。
私は現在、精神科の公費書類を自動化するシステムを開発している。カルテの記載からAIが情報を抽出し、書式に合わせて整形する。第4部で描いた「申請側のAI最適化」の最初の段階を、自ら実行している。
このシステムには、意図的に不完全さを組み込んでいる。
AIの出力をそのまま完成品にしない。必ず、医師が確認し、修正し、判断を加えなければ書類が完成しない箇所を設計上残す。これを「医師介入ウォーターマーク」と呼んでいる。
これは効率の観点からは非合理である。AIの出力をそのまま提出できれば、医師の時間はさらに節約できる。だが、そうしない。
AIの出力が完成品として提示されると、医師はそれを承認するだけの存在になる。承認を繰り返すうちに、書類の内容を吟味する習慣が失われる。カルテの記載と書類の記述の間にある「翻訳」──患者の実態を制度の言語に変換する行為──を医師が担わなくなる。
第4部で描いたGAN的軍拡の起点は、まさにここである。AIの出力を医師が無批判に承認する段階で、書類は患者の記述から制度の符号に変わり始める。
不完全さを設計に組み込むことで、医師は毎回、書類の内容を自分の頭で考えることを要求される。AIの出力と患者の実態を照合する作業が、日常の臨床に埋め込まれる。
これは書類作成の効率化という本来の目的からすれば後退である。だが、医師の臨床判断力を維持するための仕掛けとしては、本質的であると考えている。
ウォーターマークの射程
この設計思想の射程は、書類自動化にとどまらない。
AI処方支援が導入されるとき。AIが検査オーダーを提案するとき。AIが治療計画を生成するとき。あらゆる局面で、AIの出力を「わざと不完全にする」設計が可能である。
完全な出力は、医師を受動的にする。不完全な出力は、医師に考えることを要求する。
これは第5部で論じた「自動化の皮肉」への一つの応答である。自動操縦がパイロットの手動操縦能力を低下させるのであれば、自動操縦に意図的に「手動を要求する区間」を設けることで、能力の維持を図る。航空業界では実際に、パイロットの手動操縦訓練時間が規定されている。
医療AIにおいても、同じ発想が必要ではないか。AIの出力に「人間の介入を要求する不完全さ」を設計段階で組み込む。これは効率を犠牲にする。だが犠牲にしているのは効率であり、得ているのは判断力の維持である。
ここで一つ、重要な区別がある。
ウォーターマークは「AIを信用しない」という態度ではない。AIの能力を認めた上で、人間の能力を維持するための設計である。AIが優秀だからこそ、人間が受動的になるリスクがあり、そのリスクに対する構造的な対策である。
AIへの信頼とAIへの依存は異なる。信頼は、能力を認めた上で協働すること。依存は、自分の能力を手放すこと。ウォーターマークは、信頼を維持しながら依存を防ぐための仕掛けである。
ただし、第4部で論じたように、技術的手段でこの防衛線を永続的に保つことには限界がある。ウォーターマークはGAN的軍拡の前では数年の猶予をもたらすにすぎない。最終的に残るのは、制度設計と、個々の医師の実践である。
計算される医療と引き受ける医療の間で
このシリーズを通じて描いてきたのは、対立の構図ではない。
AIは悪ではない。制度も悪ではない。予算制約も合理的である。標準化もエビデンスに基づく医療も、医学の進歩の成果である。
問題は、これらの合理性の総体が、ある種の能力を構造的に排除していくことである。例外を見分ける目。不確実性に耐える力。外部を「見てしまう」感受性。書くことで思考を形成する習慣。これらは合理性の枠組みの中では測定できず、評価されず、だから維持するインセンティブが制度の側にない。
医師は、この構造的圧力の中で選択を迫られる。
計算される医療の側に立てば、安全である。審査を通過し、経営は安定し、説明責任も果たせる。だが統計の外側に落ちた患者は見えなくなる。
引き受ける医療の側に立てば、制度との摩擦が生じる。査定のリスク、経営の圧迫。だが目の前の患者の不確実性を引き受け、例外に向き合い、外部を見ることができる。
すべての医師がこの間のどこかに立っている。そしてAIの浸透が進むほど、引き受ける側に立つことの制度的コストは上がり続ける。
それでも
本シリーズは、答えを提示するために書いたのではない。構造を可視化し、座標を示すために書いた。
だが最後に、一つだけ個人的なことを書く。
私は引き受ける側に立つ。
それは英雄的な宣言ではない。制度を変える力があるからでもない。ただ、長きにわたる臨床で外部が見えてしまう人間になったからである。見えてしまうものを、見なかったことにはできない。
具体的に言えば、こういうことだ。AIが「就労不能」と出力しても、患者が先月ハローワークに行ったという事実を私は知っている。その事実をどう書くかは、AIではなく私が決める。診察室で患者が黙り込んだ五秒間、AIはその沈黙を埋めようとするが、私は待つ。引き受けるとは、こういう細部に踏みとどまることである。
制度は外部を計算しない。AIは外部を持たない。だが外部は消えない。そこに人間がいる。
削減されたコストは消えない。移動するだけである。移動先を「外部」と呼ぶ。外部には人間がいる。
「なんとなくこの文章は生きていない」という直感が、書類の最終防衛線になる日が来るかもしれない。数値化できない。しかし、長年の臨床経験に裏打ちされた直感は、しばしばアルゴリズムより正しい。
少なくとも、今のところは。
この構造に気づいている人が、他にもいるかもしれない。
シリーズを終えるにあたって
「国家予算が処方箋を書く日」というタイトルは、未来の話ではない。
予算が医療を規定する力学は既に作動している。AIはその力学を加速させる。加速した先に何があるかを、六つの論考で描いてきた。
一つの座標軸を渡した。計算される医療か、引き受ける医療か。
一つの設計思想を示した。AIの出力に不完全さを組み込むこと。
一つの態度を表明した。外部を見ることをやめないこと。
これは地図の杭打ちである。完成した地図ではない。等高線はまだ粗く、空白は多い。だが分岐点の位置だけは示せたと考えている。
この先、等高線を一本ずつ加えていく作業は、臨床の中で、日々の診療の中で続く。
構造は可視化した。座標は示した。あとは、それぞれが立つ位置を選ぶだけである。
本稿は「国家予算が処方箋を書く日」シリーズ最終部です。
#医療とAI #精神科医 #AI時代の医療 #医療制度 #AIと人間 #ネガティブケイパビリティ #国家予算が処方箋を書く日 #現役精神科医の考察