採用ツールのバイアス問題、
AI監査人は解決できるか

私は自宅で、コンピューター上でビデオゲームをプレイしている。私の役目は風船をひとつずつ膨らませて、できるだけ多くの金を稼ぐことだ。「空気を入れる」ボタンをクリックするたびに風船が膨らみ、バーチャルの報酬が5セント手に入る。しかし、「回収する」ボタンを押す前に風船を破裂させてしまうと、デジタルの稼ぎは消えてなくなってしまう。

私は39個の風船を膨らませて、14.40ドルを稼いだ。スクリーンにメッセージが表示される。「あなたは危険度の高い状況でも、一貫したアプローチにこだわりました。計測された特性：リスク」

このゲームは、パイメトリクス（Pymetrics）という企業が作成した一連のゲームのひとつだ。多くの米国企業は、同社のゲームを、就職希望者の選別に利用している。マクドナルドやボストン・コンサルティング・グループ、クラフト・ハインツ、コルゲート・パーモリーブといった企業の採用に応募すれば、パイメトリクスのゲームをプレイするように命じられるかもしれない。

私がプレイしている間に、人工知能（AI）システムが、寛容さ、公平性、注意力といった要素を含む、私の特性を計測する。もし私が実際にある仕事に応募していたとしたら、AIシステムは私のスコアを、すでにその仕事に就いている社員たちのスコアと比較する。そして、私の性格プロフィールが、その職務で成功を収めている人々の特性と似ていたら、私は就職活動の次のステージに進むにあたって有利になるだろう。

多数の就職希望者をさばくために、こうしたAIベースの採用ツールを利用する会社が増加し続けている。米国の失業者数が、パンデミック前と比べてほぼ倍増した現在、特にその傾向は強い。資産運用企業であるマーサー（Mercer）が世界の人事担当者7300人以上を対象に実施したアンケート調査によれば、自分の部署で予測分析を利用していると回答した人事担当者の割合は、2016年には10%だったが、2020年には39%にまで一気に増加した。

しかし、他のAIアプリと同様に、AI採用ツールの中にはバイアスのかかった結果を出してしまうものも存在することを研究者たちは明らかにしている。例えば、うかつにも男性を優先的に選んだり、特定の社会経済的なバックグラウンドを持つ人物を優先的に選んだりしてしまうのだ。透明性の向上と規制の強化を求める声が強まっている現在、こうした課題に対して繰り返し提案されている解決策が存在する。それはAIを監査することだ。

昨年、パイメトリクスは、ノースイースタン大学のコンピューター科学者のチームに報酬を支払って、自社の雇用アルゴリズムを監査してもらった。こうした企業が、自社ツールの監査を第三者に依頼した初の事例のひとつである。同社のフリダ・ポリ最高経営責任者（CEO）は筆者に、この経験は、こうした監査をするようニューヨーク市の企業に求める法案に準拠するモデルとなるだろうと語った。パイメトリクスはニューヨーク市を拠点としている。

「中立的な第三者に監査を依頼するというパイメトリクスの試みは、大変よい方向への動きだと思います」と、ワシントン大学の教授であり、雇用法とAIを専門とするポーリーン・キムは言う。「もしこれによって業界の透明性を向上させられるのなら、それは実に明らかな前進といえるでしょう」。

AIに対する監査が注目をされているとはいうものの、こうした監査で実際にどれほどバイアスを発見し、防げるかについては、まだ明らかではない。「AI監査」という言葉が色々なことを意味しうるために、監査の効果を一般的に信頼することは難しくなっている。監査が最も厳密に実施されていたとしても、限定された範囲しか監査の対象になっていないかもしれない。そして、アルゴリズムの内部への無制限なアクセスが可能だったとしても、そのアルゴリズムが応募者を公平に扱っているかどうかを明確に判断することは、驚くほど難しい。うまくすれば、部分的な分析はできるだろうが、悪くすると、企業の問題のある行為を、監査人の承認というスタンプのもとに隠蔽してしまうかもしれない。

AI監査の内幕

今日ではすでに、多くのAI採用ツールが使われている。ビデオインタビュー中の候補者の表情や声の調子、言語を分析するソフトウェアのほかに、履歴書をスキャンして性格を予測したり、候補者のソーシャルメディアでの活動を調査したりするソフトウェアもある。

どのようなツールを販売しているにせよ、AI採用ツールのベンダーは一般に、こうしたテクノロジーは、より有能かつ多様な候補者を、従来型の人事部に比べて、より少ないコストと時間で見つけられると請け負っている。しかし、そうしたエビデンスはほとんど存在しないし、パイメトリクスのアルゴリズムのAI監査でテストされているのも、そうした事柄ではない。テストは、特定の採用ツールが、候補者を、人種やジェンダーといったバイアスに基づいてひどく差別していないかを調べることが狙いなのだ。

ノースイースタン大学のクリスト・ウィルソン准教授は、ウーバーの料金急騰（サージ・プライシング）のアルゴリズムや、グーグルの検索エンジンのアルゴリズムをはじめとする、いくつかのアルゴリズムを精査した経験を持つ。しかし、パイメトリクスから依頼を受けるまで、調査対象の企業と直接仕事をしたことはなかった。

調査にあたったウィルソン准教授のチーム（同僚のアラン・ミスラヴ教授と2人の大学院生を含む）は、パイメトリクスから受け取ったデータを使い、同社のデータ科学者ともやりとりできた。監査人たちは独立した調査権を持つが、ネガティブな発見については、公表の前にパイメトリクスに知らせることに合意している。パイメトリクスはノースイースタン大学に助成金として10万4465ドルを支払っており、その中にはウィルソン准教授のチームに給与として支払われる6万4813ドルが含まれている。

パイメトリクスの中心となる製品は、12のゲームからなるセット …

人気の記事ランキング

1. We finally have a definition for open-source AI 「オープンソースAI」問題ついに決着、OSIが定義を発表
2. Here’s how people are actually using AI カネにならない生成AIブーム、LLMはどう使われているか？
3. The US physics community is not done working on trust 物理学界で繰り返される研究不正、再発防止には何が必要か
4. Maybe you will be able to live past 122 人は何歳まで生きられるのか？ 寿命の限界を探る人類の試み