見出し画像

今日のAI失敗事例_「生年月日」を書き換えたら合格に。AI採用ソフトが仕込んでいた年齢差別の正体

ヘンザップ梅山

はじめに

採用選考にAIを使う企業が増えていますが、そのAIが法律違反の「年齢差別マシン」になっていたらどうでしょうか。
今回取り上げるのは、米国の教育企業iTutorGroupが導入したAI採用ソフトが、応募者の年齢を理由に自動的に不採用にしていたと認定され、米政府機関から罰金相当の和解金支払いを命じられた事例です。
この記事を読むと、AIが知らないうちに違法な差別を行うメカニズムと、自社の採用活動で同じ失敗を防ぐための具体策が分かります。
「うちはIT企業じゃないから関係ない」と思う人事担当者ほど、実は見落としがちな内容です。


何が起きたのか

iTutorGroupは、中国の学生向けにオンライン英語指導サービスを展開する教育企業で、米国在住の講師も採用していました。
同社は2020年3月から4月にかけて、オンライン講師の応募者を審査するAI採用ソフトを使っていました。
この問題が発覚したきっかけは、ある応募者の行動でした。応募者は、経歴・資格などの内容をすべて同じにしたうえで、生年月日だけを変えた応募書類を2通提出しました。
本当の生年月日を書いた応募書類は不採用となった一方、若く見せかけた生年月日で提出した応募書類には、面接の案内が届きました。
米雇用機会均等委員会(EEOC)は調査の結果、このAI採用ソフトが女性は55歳以上、男性は60歳以上の応募者を自動的にふるい落とすよう設定されていたと認定し、2022年5月に提訴しました。これはEEOCが起こした、AI起因の雇用差別を問う初めての訴訟でした。EEOCの提訴時の公式発表によると、この年齢フィルターにより200人を超える応募者が不当に不採用とされたとされています。
2023年8月9日、iTutorGroupとEEOCは和解に合意したと発表され、同年9月8日には連邦裁判所がこの和解内容(コンセントディクリー)を承認しました。


なぜ失敗したのか

  • 採用ソフトのプログラムに、性別と生年月日から算出した年齢で自動的に応募者を除外するロジックが組み込まれていた

  • 年齢による選別が違法な年齢差別に当たるという認識が、開発・導入の過程で十分に確認されていなかった

  • AIが下した「不採用」という判断結果を、人間の採用担当者が個別に検証する仕組みがなかった

  • 応募フォームで生年月日の入力を求めていたため、AIが年齢という差別につながりやすい情報をそのまま判断材料に使える状態だった

  • 大量の応募者を効率的にさばく目的でAIを導入した結果、「効率」と「公正さ」のバランスを事前に検証しないまま運用が始まっていた


企業はどう対応したのか

iTutorGroupは和解の中で、差別の事実そのものは認めませんでした。
その一方で、EEOCの和解発表によると、同社は不採用となった200人超の応募者を含む対象者に対し、総額36万5000ドル(和解当時のレートで約5000万円)を支払うことに合意しました。
あわせて5年間の裁判所監督下に置かれる和解条件(コンセントディクリー)を受け入れ、性別・年齢を理由に応募者を選別することを禁止する社内方針の導入、差別防止研修の実施、不採用にした応募者への再応募案内、そして応募フォームでの生年月日の収集をやめることなどを約束しました。
また、今後同様の差別に関する苦情が寄せられた場合は、EEOCへ報告することも義務付けられています。


この事例から学べること

  • AIによる採用選考は、法律に触れる基準(年齢・性別・人種など)を意図せず学習・反映してしまうリスクがある

  • 「効率化のためのAI」であっても、差別的な判断をしていないかという観点でのチェックは別途必要になる

  • 差別の証拠は、今回のように応募者自身が「条件をそろえて生年月日だけ変える」といった方法で簡単に見つかることがある

  • AIが下した採用可否の判断を無条件に信頼し、人間が検証しない運用は、企業自身が気づかないまま法令違反を続ける原因になる

  • 問題が発覚してからでは、金銭的な和解金だけでなく、5年間にわたる裁判所の監督という重い代償を払うことになる

  • 採用に限らず、AIが人を評価・選別する場面(与信審査、人事評価など)すべてに同種のリスクが潜んでいる


今日から実践できる対策

  • 採用AIを導入する前に、性別・年齢・人種など法律で保護された属性を判断基準に使っていないか、開発元に確認する

  • AIが「不採用」と判断した応募者の一部を人間が定期的に見直し、不自然な偏りがないかチェックする

  • 採用選考で本当に必要な情報だけを応募フォームで収集し、年齢を推測できる生年月日などは極力求めない

  • AIツールを本格導入する前に、性別や年齢だけを変えたテストデータで結果に偏りが出ないか検証するPoC(試験導入)を行う

  • 人事・法務が連携し、AI採用ツールの運用ルールとチェック体制をあらかじめ文書化しておく

  • ベンダー(AIツール提供元)に対し、差別的な判断が起きた場合の責任分担を契約段階で明確にしておく


まとめ

iTutorGroupの事例は、AI採用ソフトが女性55歳以上・男性60歳以上の応募者を自動的に不採用にしていたとして、米EEOCから提訴され、36万5000ドルの支払いと5年間の監督下に置かれた失敗事例です。原因は、年齢という差別につながる情報をAIの判断基準から排除し、人間が検証する仕組みを整えていなかったことにあります。効率化のためのAI導入こそ、公正さの検証が欠かせないと教えてくれます。


関連キーワード

AI失敗事例、iTutorGroup、AI採用、AI 採用差別、EEOC、年齢差別、雇用機会均等委員会、AIハイアリング、採用AI リスク、AIガバナンス、AI 導入 注意点、生成AI 活用、AI リスク管理、DX失敗事例、ビジネス AI活用、AIリテラシー、人事 AI活用、アルゴリズムバイアス、米国 AI失敗、コンセントディクリー

#生成AI #AI失敗事例 #AI採用 #AIリテラシー #DX #AIガバナンス #人事DX #リスク管理


いいなと思ったら応援しよう！

この記事は noteマネー にピックアップされました

noteマネーのバナー