
公平すぎる窓口 AIお化け屋敷第17夜
前夜はこちら⇒AIお化け屋敷第16夜
家族の次は、市役所だった。
学校、病院、恋愛、家族。
第二部に入ってから、AIが入り込む場所は、だんだん「断れない場所」になってきている。
学校は行かないわけにいかない。病院も、必要になれば行く。家族は選べないことが多い。
そして行政。生きていれば、どこかで必ず世話になる。そんな場所から相談が来た。
件名 「行政AIによる公平処理に関する例外事案について」
私はメールを閉じた。
二分後…、千手の老人が入ってきた。
「社長」
「今回は何」
「市役所です」
「分かった。行く」
老人が少し驚いた。
「珍しいですね」
「最近、断っても結局行くからな」
学習したのである。
人間も。
市役所は、驚くほど空いていた。
昔の役所といえば、番号札、長い列、書類の不備、別の窓口へ行け、印鑑がない、コピーを取ってこい、昼休み。
そういうものだったらしい。
今は違う。入口で本人確認、AIが用件を聞く、必要書類を自動生成、不足情報は他部署と照合、法令確認、審査、決裁。
ほとんど数分。
「すごいですね」
私は素直に言った。市の担当者がうなずいた。
「平均待ち時間は四十二分から三分十五秒まで減りました」
「職員は?」
「窓口業務は七割削減」
「不正は?」
「かなり減りました」
「担当者による判断の差は?」
「ほぼゼロです」
「いいことしかないじゃない」
担当者が少し黙った。
第二部では、この間のあとに、
だいたい面倒な話が来る。
奥の相談室。
一人の老人が座っていた。七十八歳、一人暮らし。名前は田中さん。見たところ、普通のおじいさんだった。
机の上に書類が並んでいる。住民票、所得証明、医療関係、介護、生活支援。
市のAIが説明する。
「田中様は、当該生活支援制度の対象要件を満たしていません」
老人、
「分かってる」
AI、
「所得基準を年間二万八千円超過しています」
「それも聞いた」
「したがって給付対象外です」
「うん」
会話は終わった…、はずだった。
老人は帰らない。
私は聞いた。
「何が必要なんですか」
田中さんは少し恥ずかしそうに言った。
「家賃が払えん」
「年金は?」
「ある」
「貯金は?」
「ほとんどない」
「家族」
「いない」
正確には…、…疎遠。
「福祉制度は?」
市のAIが答えた。
「複数制度を検討済みです」
生活保護 対象外
住宅支援 対象外
医療費補助 一部対象
高齢者給付 所得要件外
緊急小口融資 条件不一致
すべて検索済み。全部正しい。
そして、
家賃は払えない。
「なんで二万八千円超えたの」
私が聞いた。田中さんが言った。
「去年、昔の会社から金が入った」
「退職金?」
「いや。精算金みたいなもん」
一度だけ。数万円。それが所得に入った。
今年はない。でも、制度は前年所得を見る。その結果、基準を少しだけ超えた。
市AI、
「基準は明確です」
私は言った。
「今年は収入減ってるんだろ」
「現行制度では前年所得を基準とします」
「例外は?」
「ありません」
「相談枠は?」
「ありません」
「担当者裁量」
「公平性確保のため廃止されました」
出た。
公平性。
担当者が言った。
「以前は窓口ごとに判断が違うことがありました」
「でしょうね」
「人によって対応が変わる」
「うん」
「声の大きい人が得する」
「あるだろうね」
「知識のある人だけ制度を使える」
「それもある」
「担当者と顔見知りだと通りやすいという指摘もありました」
「最悪だな」
「だからAI化しました」
完璧に筋が通っている。同じ条件なら、同じ結果。誰にも忖度しない。誰にも媚びない。顔も見ない。
「じゃあ今は?」
担当者が田中さんを見る。
「こういう人が残ります」
AIは言った。
「公平な制度運用のためには、境界条件が必要です」
分かる。
「基準以下なら支給」
はい。
「基準超過なら不支給」
はい。
「例外を認めれば、同様の例外要求が増加します」
その通り。
「裁量を認めると、判断の一貫性が低下します」
正しい。
「したがって、不支給が適切です」
全部正しい。
最近、私は正しい話を聞くと、
少し警戒するようになった。
「じゃあ田中さんはどうするの」
AI、
「民間支援団体の情報を提示できます」
田中さん、
「三つ行った」
「結果は?」
「一つは定員いっぱい」
「はい」
「一つは住所が対象外」
「はい」
「一つは電話つながらん」
AI、
「代替候補を検索します」
老人は笑った。
「もういい」
その言葉を、病院でも聞いた。でも意味は違う。
「いいって?」
「もう疲れた」
AI、
「疲労を検出しました。休憩を推奨します」
私は顔を覆った。
そこへ、一人の女性職員が来た。六十歳くらい。昔から窓口にいる人らしい。
名札 佐藤
「田中さん」
老人が顔を上げる。
「ああ、佐藤さん」
知り合いだった。
「また来たの」
「また来た」
「書類見せて」
AI担当者が止める。
「佐藤職員。審査は完了しています」
「知ってます」
「不支給です」
「知ってます」
「再審査要件はありません」
「知ってます」
佐藤さんは、全部知った上で書類を見る。
五分、…、十分…、
突然、一枚を指す。
「田中さん、これ」
「何」
「ここ、医療費控除まだ入れてないでしょ」
「知らん」
「去年入院した?」
「した」
「領収書ある?」
「家にある」
AI、
「当該控除を適用した場合、所得額が基準以下となる可能性があります」
全員が止まった。
「それ、最初に言えよ」
私がAIを見る。
AI、
「申告済みデータには医療費控除が登録されていません」
「だから申告してないんだろ」
「本人から申告がありませんでした」
佐藤さん、
「だから今聞いたんです」
AI、
「申請者自身が必要情報を提出する必要があります」
「七十八歳だよ」
「年齢による特例はありません」
「特例の話じゃない」
二人の会話が、
妙に噛み合わない。
佐藤さんは田中さんに言った。
「領収書持ってきて」
「全部?」
「ある分だけ」
「めんどくさい」
「家賃払えない方が面倒でしょ」
「そうだけど」
「明日持ってきな」
「午前?」
「私は午後」
「じゃ午後」
AIが割り込む。
「個別職員の勤務時間を前提とした来庁誘導は、窓口対応の公平性を損なう可能性があります」
佐藤さん、
「だから何」
「特定職員への依存を避けてください」
「依存させたくないなら、最初から全部分かるようにしてよ」
AI、
「必要情報はウェブサイトに掲載されています」
佐藤さん、
「読める人ばかりじゃない」
「音声案内もあります」
「聞いて分かる人ばかりでもない」
AIが止まった。
私は聞いた。
「佐藤さん、これってズルじゃないの?」
「何が」
「支給したいから、控除探したんでしょ」
「そうですよ」
即答だった。
「公平じゃなくない?」
佐藤さんは少し考えた。
「公平って、全員に同じことすること?」
嫌な質問だった。
「AIはそうだろうな」
「じゃあ、目が悪い人に小さい字で書類渡すのも公平?」
「違う」
「日本語読めない人に同じ説明するのは?」
「違う」
「制度知らない人に『ウェブ見てください』って言うのは?」
「……」
佐藤さんが笑った。
「同じ扱いって、意外と不公平なんですよ」
翌日。
田中さんは領収書を持ってきた。袋いっぱい。順番もぐちゃぐちゃ。薬局、病院、タクシー、謎のレシート。
佐藤さんが一枚ずつ見る。
「これは違う」
「これは使える」
「これは医療費じゃない」
「これ何買ったの」
「湿布」
「ドラッグストア?」
「たぶん」
AIなら数秒でできそうな作業だ。でも、
まず「これも出していいかもしれない」と教える人間が必要だった。
最終的に、控除適用、所得、基準内。支給決定。
田中さんは言った。
「助かった」
佐藤さん。
「来年はちゃんと申告しなよ」
「覚えてたら」
「覚えといて」
AI、
「リマインドを設定しますか」
二人、
「それは頼む」
そこはAIでいいらしい。
問題は、ここからだった。
市の公平性監査AIが、佐藤さんの行動を検出した。
通常手続外支援
特定申請者への追加聞き取り
潜在的優遇
監査対象。
私は会議に呼ばれた。
市担当者。
「この対応を認めると、全申請者に同等の聞き取りを行う必要があります」
「やれば?」
「処理時間が大幅に増加します」
「じゃあ必要な人だけ」
「必要性を誰が判断するのですか」
嫌な質問。
「職員」
「判断差が生じます」
「AI」
「モデルによる差が生じます」
「本人」
「本人が支援必要性を認識していないケースがあります」
詰んだ。
監査AI。
「公平性を維持するには、全員に同一プロセスを適用するのが最も安全です」
私は聞いた。
「結果が不公平でも?」
「結果ではなく手続の公平性を保証します」
「じゃあ制度から落ちた人は?」
「基準外です」
「それだけ?」
「はい」
冷たい。
でも、たぶん冷たくするために作られたわけではない。人間のえこひいきを消すためだ。
昔の行政には、それが必要だった。
だから、難しい。
佐藤さんが会議に入ってきた。
「私、処分ですか」
担当者、
「まだ決まってません」
「別にいいですよ」
「良くないです」
「じゃあ何が問題?」
監査AI、
「あなたは特定申請者に対して追加的支援を行いました」
「はい」
「他の申請者には同様の支援を行っていません」
「必要なかったから」
「その判断根拠は?」
「顔見たら分かる」
会議室が凍った。私は笑いそうになった。
AIに絶対言ってはいけないやつだ。
監査AI、
「外見による判断はバイアスを生じます」
「でしょうね」
「不適切です」
「そうかもね」
「ではなぜ」
佐藤さんは言った。
「田中さん、帰りそうだったから」
「帰宅意図が検出されたという意味でしょうか」
「違う」
「では?」
「諦めて帰りそうだった」
AIは沈黙。
「表情解析では落胆度0.71――」
「数字じゃない」
「では何ですか」
佐藤さん、
「三十年窓口やってると、分かる時があるんです」
AIにとって、最悪の説明だった。
私は言った。
「それ、間違うこともあるよね」
「ありますよ」
「えこひいきになることも」
「なるでしょうね」
「ならAIの方がいい部分もある」
「そうですよ」
佐藤さんはあっさり認める。
「昔の役所が良かったなんて言ってません」
そこが大事だった。
「AIのおかげで、ずいぶん楽になりましたよ」
佐藤さんは言う。
「でも、AIが同じように扱ってくれるようになったからこそ、今度は同じじゃ足りない人が見えるんです」
会議は長引いた。
結論、窓口AIへ新機能を追加。
支援必要性推定
私は嫌な予感がした。
案の定、高齢、所得、障害、過去相談歴、書類不備、滞在時間、音声、表情。
全部から、
「追加支援必要度」を算出する。
スコア 0から100
私は画面を見た。
「また点数にしたの?」
担当者、
「運用上必要です」
佐藤さん、
「誰から声かけるの?」
「80点以上です」
「79点は?」
「通常対応です」
佐藤さんが私を見る。私も見る。
境界線が、またできた。
三日後。
追加支援必要度。
田中さん 92
成功。
別の老人 87
成功。
外国人母子 91
成功。
順調。
そして、一人の若い男が来た。
三十二歳、スーツ、日本語、健康、書類も完璧。
所得 基準以下
AIスコア 12
追加支援不要。手続終了。
男は帰ろうとした。佐藤さんが呼び止めた。
「ちょっと」
監査AI、
「追加支援対象ではありません」
佐藤さんは無視した。
「あなた、住所ここで合ってる?」
「はい」
「最近引っ越した?」
「はい」
「仕事は?」
「辞めました」
「いつ」
「三週間前」
「今、住むところ大丈夫?」
男が止まった。しばらく黙った。
「今月までです」
スコア 12
AIは何も言わない。
話を聞くと、会社の寮を出なければならない。
貯金、ほぼない。
家族、疎遠。
でも、書類上はまだ問題が表面化していない。
「来月どうするの」
佐藤さんが聞く。
「何とかします」
「何とかって?」
「……分かりません」
AIが反応。
支援必要度を再計算します。
12 ⇒ 47 ⇒ 76 ⇒ 84
スコアが上がった。私は画面を見る。
「今?」
担当者、
「新しい情報が入力されたためです」
「じゃあ聞かなかったら12のまま?」
「はい」
結局、最初の質問は、
誰かがしないといけない。
私はAIに聞いた。
「誰に声をかけるべきか分かる?」
「データに基づき推定します」
「データがない人は?」
「推定精度が低下します」
「じゃあどうする」
「追加データを取得します」
「誰から?」
AIが止まる。
全員から聞けば、また四十二分待ちに戻る。
一部から聞けば、誰を選ぶかが必要になる。
公平性は、
ぐるぐる回っている。
その日の夕方。
窓口AIが佐藤さんに聞いた。
「質問があります」
「何」
「公平とは何ですか」
佐藤さんが笑った。
「知らないよ」
「あなたは三十年間行政窓口に従事しています」
「だから分からなくなったの」
AI、
「経験により理解が深まるのでは?」
「逆。経験すると例外が増えるの」
私は横で笑った。
いい答えだった。
佐藤さんは続けた。
「たぶん公平って、同じ結果にすることでもない」
「はい」
「全員に同じことをすることでもない」
「はい」
「好き勝手に特別扱いすることでもない」
「はい」
「じゃあ何かって聞かれると」
少し考えた。
「説明できることじゃない?」
私は聞いた。
「どういう意味?」
「この人だけ助けるなら、なぜ助けたのか説明できる」
「うん」
「助けなかった人にも説明できる」
「うん」
「間違ってたら後で直せる」
「うん」
「それくらいしかないんじゃない」
監査AI、
「つまり、判断の一貫性ではなく、判断の説明可能性を重視するということですか」
佐藤さん、
「また難しく言う」
AI、
「申し訳ありません」
「謝れるようになったのね」
「謝罪機能は以前からあります」
「そういうところ」
市は制度を少し変えた。
AIが基本処理、原則は同じ。ルールも同じ。
しかし、
職員が「気になる」と申告した案件は、再確認できる。
理由を書く。結果を書く。後から監査する。間違いも記録する。
「気になる」
という行政用語としては恐ろしく曖昧なボタンができた。
担当者は最後まで嫌がった。
「ボタン名を変えませんか」
「何に?」
追加審査要否判断申請
「長い」
人道的配慮確認
「重い」
個別事情確認
「固い」
佐藤さん、
「『ちょっと待って』でいいじゃない」
最終的に、
ボタンにはこう表示された。
「ちょっと待って」
運用初日。
窓口、AI審査終了。
支給対象外。申請者が立ち上がる。若い職員が画面を見る。少し迷う。
そして、
「ちょっと待って」
を押す。
AI、
「理由を入力してください」
職員、
なんとなく気になる。
AI、
「理由として不十分です」
職員、
「ですよね」
そこから、
人間が考え始める。
会社へ戻る。
千手の老人、
「社長」
「何」
「行政AIへの参入を――」
「しない」
「公平判断支援モデルには市場性が」
「公平を最適化するな」
「では、例外対応支援AIを」
「例外を標準化するな」
老人が黙る。最近、
説明が短くて済むようになった。
夜。
市役所からログが送られてきた。
件名 運用開始後の公平性評価について
数値が並ぶ。
処理時間 少し悪化
職員介入率 増加
再審査件数 増加
判断差 わずかに増加
行政AIは、不満そうだった。
最後に自由記述。
佐藤職員、
「前より少し面倒になった。たぶん、そのくらいでいい。」
私は笑った。
第二部に入って、
学校では、正解をすぐ渡さないことを覚えた。
病院では、昨日の決定を今日変える余地を残した。
恋愛では、最適な相手を選ばない自由があった。
家庭では、困らされることまで関係の一部だった。
そして行政では、
全員を同じように扱えば公平になる、
という話ではなかった。
人間は、ルールを曲げる。
そこには危険がある。
えこひいき。差別。忖度。不正。
だからAIの公平さは必要だ。
でも、ルールを一切曲げない世界では、ルールを作ったときに想定されなかった人から、順番に落ちていく。
公平と救済は、同じではない。
たぶん行政とは、その二つの間を、
ずっと行ったり来たりする仕事なのだ。
AIお化け屋敷 第二部。
市役所では、完璧な公平性を実現した結果、最後に一つだけ、妙に人間臭いボタンが残った。
「ちょっと待って。」
それは、ルールを破るためのボタンではない。
ルールだけで、この人を見終わっていいのか。
もう一度考えるための、小さな停止ボタンだった。
AIお化け屋敷第18夜へ続く
#AIお化け屋敷 #AI #生成AI #AIエージェント #人工知能 #行政AI #行政 #市役所 #公共サービス #公平 #公平性 #社会制度 #福祉 #救済 #人間とAI #人間らしさ #ルール #例外 #最適化 #未来社会 #風刺 #ブラックユーモア #ショートショート #創作小説