
AI採用・人事評価で考えるAI倫理の重要原則|実際の差別事例から見るAI倫理の問題点
はじめに
もし、あなたが就職活動で不採用になったとして、その理由が「AIの評価が低かったから」だとしたら、納得できるでしょうか。さらに、そのAIが過去の採用実績を学習した結果、特定の性別や年齢の応募者を不利に評価していたとしたら?
実は、これは単なる想像上の話ではありません。2018年には、Amazonが開発していた採用AIに、女性応募者を不利に評価する傾向が見つかったと報道されました。AIは大量の情報を高速で分析でき、人間による評価のばらつきを減らす可能性があります。しかし、AIを使えば必ず公平になるわけではありません。むしろ、過去のデータに含まれていた偏りを学習し、不公平な判断を繰り返すこともあります。
今回は、実際に起きた採用関連の問題を取り上げながら、AI倫理の基本を解説します。この記事で理解できるのは、次の5つです。
AI倫理が重要とされる理由
採用AIで実際に起きた差別・不公平の事例
AIバイアス、公平性、透明性、説明可能性の違い
採用・人事評価にAIを導入する際の注意点と対策
ITパスポート・基本情報・応用情報などのIPA試験で押さえたい重要用語
1. そもそもAI倫理とは?
AI倫理とは、AIの開発や利用によって、人間の権利や社会に不当な悪影響を及ぼさないようにするための考え方や原則です。AIを活用する際には、性能や効率だけでなく、その判断が公平か、理由を説明できるか、責任を誰が負うのかといった点も考えなければなりません。
例えば、次のような場面です。

これらは、単なる技術的な不具合とは限りません。システムが仕様どおりに動作していても、学習データや評価基準そのものが不適切であれば、不公平な結果が生じる可能性があります。つまり、AI倫理では「AIが正しく動くか」だけでなく、「AIが行う判断は社会的に適切か」まで考える必要があるのです。
2. 実例① Amazonの採用AIは、なぜ女性を不利に評価したのか?
過去の採用実績を学習させた結果、問題が発生
2018年10月、ReutersはAmazonが開発していた採用AIの問題を報じました。同社は2014年頃から、求職者の履歴書をAIで評価する仕組みを開発していました。しかし、開発の過程で、女性応募者を不利に評価する傾向が確認されたとされています。
背景にあったのは、学習データの偏りです。報道によると、学習に使われた過去約10年間の履歴書には男性応募者が多く、AIはその傾向を学習していました。その結果、女性を示す表現が履歴書に含まれている場合などに、評価が低下する問題が生じたと報じられています。
AIに差別をさせようと意図したわけでなくても、学習データに含まれる偏りによって差別的な評価が生まれる。
これがAIバイアスの代表的な問題です。なお、この採用AIは実験的な開発プロジェクトであり、最終的に廃止されました。この事例は、差別的なAIが正式な採用判断を行っていたことを示すものではありません。
この事例の本質
AIは、人間が考える「理想的な人材」を自動的に理解しているわけではありません。例えば、過去に採用された人材の特徴を使って機械学習を行うと、AIは過去の採用傾向を成功パターンとして学習する可能性があります。しかし、過去の採用判断が必ずしも公平だったとは限りません。
過去に男性の採用者が多かったことと、男性の方が業務に適していることは、まったく別の話です。過去の実績を正確に再現することと、公平な採用判断を行うことは同じではないのです。
3. 実例② 年齢を理由に応募者を自動的に不採用にした事例
AIだけでなく、自動化された採用システムでも差別の問題は発生しています。2023年9月、米国の雇用機会均等委員会(EEOC)は、オンライン教育企業iTutorGroupが年齢差別に関する訴訟で36万5,000ドルの和解金を支払うと発表しました。EEOCによると、同社の応募システムには、女性は55歳以上、男性は60歳以上の応募者を自動的に拒否する仕組みが組み込まれていました。その結果、200人を超える応募者が年齢を理由に拒否されたとされています。
重要なのは、この事例は必ずしも機械学習AIによる問題ではなく、ルールベースの自動判定システムによる事例だという点です。この事例からは、AIを含む自動判断システム全般について、評価ロジックそのものの適切性を検証する必要があることが分かります。自動化によって処理速度が向上しても、不適切な判断基準が組み込まれていれば、不公平な結果を大量に生み出してしまいます。
4. なぜAIは偏った判断をしてしまうのか? AIバイアスの仕組み
AIバイアスとは、AIシステムが特定の人や集団に対して、体系的に偏った結果を生じさせる現象です。原因は、大きく3つに整理できます。

① 学習データの偏り
学習データに含まれる属性や事例の割合が偏っているケースです。例えば、管理職の過去の評価データが特定の属性に偏っていると、そのデータから学習したAIも同じ傾向を再現する可能性があります。
ただし、属性の人数比が均等でないことだけで、直ちにバイアスが存在すると判断できるわけではありません。データの代表性や、評価基準との関係が重要です。
② 評価基準・目的変数の偏り
何を「優秀」と定義するかが不適切なケースです。例えば、勤務時間の長さを優秀さの指標として扱えば、短時間で成果を出す人が低く評価される可能性があります。在宅勤務日数や残業時間といった数値も、それだけで仕事の成果を正確に表すとは限りません。
③ 代理変数(プロキシ)による偏り
性別や年齢を入力項目から削除すれば、必ず公平になるのでしょうか。
答えはNOです。
例えば、卒業年、勤続年数、職歴の空白期間、居住地域といった情報が、年齢やその他の属性と関連している場合があります。AIがそれらの情報を利用することで、特定の属性に関連した不公平な評価が残る可能性があるのです。これを理解するうえで重要なのが、代理変数(Proxy Variable)という考え方です。したがって、評価対象から保護すべき属性を単純に削除するだけでは、十分な対策になりません。

5. AI倫理の重要キーワードを整理
ここからは、IPA試験対策としても覚えておきたい用語を解説します。

公平性(Fairness)
公平性とは、AIの判断によって特定の個人や集団が不当に不利益を受けないようにする考え方です。例えば、採用AIを使う場合、性別や年齢などの属性によって、業務能力と無関係な不利が生じていないかを検証することが重要です。ただし、公平性には複数の定義があります。
集団公平性:集団ごとの選考率や誤判定率などに、問題となる差がないか
個人公平性:評価上、本質的に似た条件の人が同様に扱われるか
機会均等:実際に適格な応募者が、属性によって不当に見逃されていないか
これらの公平性指標が常に同時に成立するとは限りません。そのため、目的に応じた指標を選び、数値だけでなく業務や法的・倫理的な観点から評価する必要があります。
透明性(Transparency)
透明性とは、AIがどのような目的で使われ、どのような仕組みやデータを利用しているかについて、必要な情報を把握できるようにする考え方です。例えば、企業が採用選考でAIを利用していることを応募者に知らせるのは、透明性に関係します。透明性は、必ずしもAIのソースコードやモデル内部のすべてを公開することを意味しません。
説明可能性(Explainability)
説明可能性とは、AIが出した予測や評価について、根拠や影響した要因を人間が理解できるようにする性質です。例えば、採用AIが応募者を低く評価した場合に、どの職務要件やスキルが評価に影響したのかを確認できることが重要です。ただし、技術的に得られた説明が、そのまま法的・社会的に十分な説明になるとは限りません。また、説明可能性の手法によって示される特徴量の寄与は、必ずしも因果関係を意味しません。
説明可能なAI(XAI)
XAI(Explainable AI)とは、AIの予測や判断を人間が理解しやすくするための技術・手法の総称です。代表的な手法には、SHAPやLIMEなどがあります。例えば、応募者に付けたスコアについて、職務経験や保有スキルなどの入力項目がどの程度影響したかを分析する用途が考えられます。ただし、XAIを導入したからといって、評価結果の公平性まで保証されるわけではありません。
説明責任(Accountability)
説明責任とは、AIの開発・提供・利用に関わる組織や担当者が、その利用や結果について適切に説明し、必要な対応を行う責任です。「AIが決めたので理由は分かりません」という説明で済ませてはいけません。
人間中心・ヒューマンインザループ(HITL)
ヒューマンインザループ(Human-in-the-Loop)とは、AIを用いた処理や判断の過程に、人間が関与する仕組みです。採用AIであれば、AIの評価結果を参考情報として利用し、最終的な採否を人間が審査する方法などが考えられます。ただし、人間が形式的に承認するだけでは十分ではありません。AIの結果に疑問がある場合、人間が実質的に検証・修正できる仕組みが必要です。
6. 人事評価にAIを使う場合、何が問題になる?
採用だけではありません。昇進・昇給・配置転換など、人事評価にAIを活用する場合も、同様の問題が生じます。
例えば、次のような評価を行うAIを想像してください。
「残業時間が長い社員ほど、高い評価を与える」
このようなシステムでは、限られた時間で成果を出す社員が不利になる可能性があります。また、次のような問題も考えられます。

特に注意したいのが、AIによる評価に人間が必要以上に従ってしまう「自動化バイアス」です。例えば、上司が「AIが低評価と判断したのだから、きっと理由がある」と考えてしまうケースです。本来は判断を支援するためのAIが、いつの間にか意思決定を支配する仕組みになってしまう可能性があります。

7. 採用・人事評価にAIを使ってはいけないのか?
結論として、AIの利用そのものを一律に禁止する必要はありません。ただし、導入方法や利用目的に応じて厳格な管理が必要です。
日本では、AIを用いた採用・人事評価が一律に禁止されているわけではありません。一方、差別の禁止や個人情報の保護など、既存の法令への対応は引き続き必要です。また、海外ではAIを利用した採用システムに対する規制が進んでいます。
日本:AI事業者ガイドライン
経済産業省などが策定する「AI事業者ガイドライン」では、人間中心、公平性、プライバシー保護、透明性、アカウンタビリティなどが重要な考え方として示されています。2026年3月31日には、第1.2版が公表されました。このガイドラインは、AIを利用する企業がリスクを把握し、適切な対策を実施するための指針です。ガイドラインのすべての項目が、そのまま法的義務になるわけではない点には注意が必要です。
米国・ニューヨーク市:採用AIのバイアス監査
ニューヨーク市では、Local Law 144により、対象となる自動雇用判断ツール(AEDT)の使用について、バイアス監査や必要な通知などが求められています。この規制は2023年7月5日に執行が開始されました。採用AIを導入する企業に対して、単に精度を評価するだけでなく、不公平な判断が生じていないかを確認することが求められているのです。
EU:AI Act(AI規則)
EUのAI Actでは、採用選考や労働者管理などに使用される一定のAIシステムが、高リスクAIに分類されます。対象システムには、リスク管理、データ品質、記録、人間による監督などに関する厳しい義務が設けられています。2026年11月5日時点で、こうした高リスクAIに関する主要な規定の適用開始日は、2027年12月2日とされています。ただし、AI Actのすべての規定が同日から適用されるわけではなく、先行して適用されている規定もあります。また、高リスクAIと、使用自体が禁止されるAIは区別する必要があります。
8. 採用・人事評価AIを安全に運用するための7つの対策
実務で特に重視したい対策は、次の7つです。
利用目的を明確にする:何をAIに支援させ、何を人間が判断するかを定義する。
学習・評価データを検証する:データの偏りや、過去の不適切な評価の再現を確認する。
公平性を定量的に評価する:集団別の選考率や誤判定率などを比較し、差が生じる理由を調べる。
説明できる状態を確保する:入力データ、モデルのバージョン、評価基準、判断履歴などを記録する。
人間による実質的な監督を行う:AIの結果を修正・却下できる権限と手順を整える。
異議申立て・再評価の仕組みを設ける:不適切な評価があった場合に見直せるようにする。
継続的に監視する:導入時だけでなく、データや環境の変化に応じて再評価する。
特に、導入前のテストだけで安心しないことが重要です。採用市場、社員構成、職務内容などが変化すれば、導入時には見られなかった問題が生じる可能性があります。

9. IPA試験対策:押さえておきたい重要用語
応用情報技術者試験のシラバスVer.7.2では、AIの利活用に関する原則として、公平性・説明責任・透明性などが挙げられています。また、XAI、説明可能性、ヒューマンインザループ、アルゴリズムのバイアス、AI倫理アセスメントなども用語例として記載されています。

試験では、こんな観点で考える
問題例①
過去の採用データを学習したAIが、特定の性別の応募者を不利に評価した。最も適切な対策はどれか。
A. 性別を入力項目から削除すれば、その他の検証を行う必要はない。
B. 過去の採用結果を正解として、さらに学習データを増やす。
C. 学習データや評価基準を見直し、属性別の評価結果を検証する。
D. AIが自動的に判断するため、人間による確認を不要にする。
正解:C
属性情報の削除だけでは、代理変数などを通じた偏りが残る可能性があります。また、問題があるデータを増やすだけでは、偏りが改善するとは限りません。
問題例②
AIによる採用評価の根拠について、人間が理解できるようにするための技術・手法の総称はどれか。
A. RPA
B. XAI
C. OCR
D. ETL
正解:B(XAI)
XAIはExplainable AIの略であり、AIの予測や判断を説明しやすくするための技術・手法です。
10. まとめ:AIの判断を「正しいもの」として扱わない
今回のポイントを振り返ります。
AIを使っても、必ず公平な判断ができるわけではない。
過去のデータに偏りがあれば、その傾向をAIが学習してしまう可能性がある。
性別や年齢などを入力項目から除外するだけでは、十分な対策にならない。
公平性、透明性、説明可能性、説明責任は、それぞれ異なる考え方である。
採用・人事評価など、人の人生に影響する判断では、人間による実質的な監督が特に重要となる。
AIを導入する目的は、人間の判断を無条件に置き換えることではありません。人間の判断には、主観や思い込みによる偏りがあります。一方、AIにもデータや評価基準に由来する偏りがあります。だからこそ、それぞれの弱点を理解し、互いを補完する形で活用する必要があります。
「AIが判断したから正しい」のではなく、「AIの判断が妥当かを検証できること」が大切なのです。AI倫理は、AIを開発する技術者だけの問題ではありません。AIを導入する経営者、運用する担当者、そしてAIの判断を受けるすべての人に関係するテーマです。IPA試験の学習でも、用語の暗記だけで終わらせず、実際の利用場面に当てはめて考えてみてください。
関連記事
参考資料
Reuters(2018年10月10日)「Amazon scraps secret AI recruiting tool that showed bias against women」
米国EEOC(2023年9月11日)「iTutorGroup to Pay $365,000 to Settle EEOC Discriminatory Hiring Suit」
経済産業省「AI事業者ガイドライン 第1.2版」(2026年3月31日)
ニューヨーク市消費者・労働者保護局「Automated Employment Decision Tools: Frequently Asked Questions」
欧州委員会「AI Act」
個人情報保護委員会「個人情報保護法ガイドラインに関するQ&A」
IPA「応用情報技術者試験シラバス Ver.7.2」