「AIを持つ医師」は本当に強いのか。置換と拡張を分けるのは、性能ではなく最終判断の置き場所です
「AIを持つ医師は、持たない医師よりずっと良いプライマリケアを提供できる」。
YCを率いるGarry Tan氏は2024年11月25日の投稿で、こう書きました。YCの新バッチに共通する主題は「human in the loop」であり、AI時代の中心テーマは人間の置換より拡張になる、という主張です。投稿は閲覧が約25.9万回に達しました。ただし、この投稿に根拠データは付いていません。主張であって、実証ではありません。
それでも、この一文は設計の問いとして読む価値があります。置換か拡張かを決めるのは、AIの精度だけではないからです。
■ 拡張と言うとき、動いているのは何か
「拡張」という言葉は、二つの異なる仕事を混ぜてしまいます。
一つは判断の支援です。AIが診断候補とその根拠を並べます。もう一つは行動の帰属です。問診をして、責任を負い、最後に決めるのは人間です。
人間の役割が消えるわけではありません。工程のどこに残るかが変わるのです。AIが候補を出す段階を担い、人間は問診と最終判断を担う。この分担が「拡張」の中身です。
■ 疑う余地がなければ、拡張は置換と同じになる
AIの提案に人間が引きずられる現象は、自動化バイアスと呼ばれ、医療や航空の分野で一般に指摘されています。個別の研究数値をここで断定することは避けますが、構造は単純です。AIの答えが先に目に入ると、人はそれを出発点にしてしまいます。
明日の診察室で、AIが3つの診断候補を出したとします。医師が先頭の1つに頷くだけなら、判断はAIが下したのと同じです。名目は拡張でも、実態は置換です。
一方、3つから1つを選び、なぜ残り2つを外したかを患者の前で口にする運用なら、AIの答えを疑う時間が仕事として組み込まれます。拡張を拡張たらしめるのは、AIの精度ではなく、人間が反論できる余地、つまり訂正可能性です。
■ 「human in the loop」が形骸化する条件
最終判断を人間が持つ設計でも、実態が確認ボタンを押すだけなら意味はありません。形骸化の条件は三つ考えられます。確認に割ける時間がない。AIと異なる結論を出す手間やリスクが人間側に偏っている。間違えたときの責任の所在が曖昧である。
ここで、既出のEthan Mollick氏の指摘が効いてきます。拡張とタスク自動化は連動しない、という見方です。AIを「使っている」ことと、人間の判断が実際に強化されていることは別の話です。Tan氏の主張とこの指摘は緊張関係にあり、並べて読むことで「拡張」の看板だけでは何も保証されないと分かります。
もう一点、割り引いて読むべき事情があります。投資家が「置換でなく拡張」を語ることには、雇用不安や規制、社会受容への配慮という動機があり得ます。製品を売る側の言葉でもあります。主張が間違いだと言いたいのではありません。どの分野で、どの設計で、誰が測った結果なのかを確かめてから受け取る、という読み方が要るということです。
■ 明日から確かめられる三つの問い
AIを導入した現場について、次の三つを確かめてみてください。
一、最終判断は、どの工程で誰に残っているか。
二、AIの答えを疑い、覆せる時間と仕組みがあるか。
三、拡張の効果は、誰がどの指標で測ったか。
三つに答えられないなら、それは拡張ではなく、置換が静かに進んでいる可能性があります。まずは自分の職場の一つの業務で、問いの一番を書き出すところから始めてみてください。