KADOKAWA Technology Review
×
採用ツールのバイアス問題、
AI監査人は解決できるか
Simon Simard
知性を宿す機械 Insider Online限定
Auditors are testing hiring algorithms for bias, but find there's no easy fix

採用ツールのバイアス問題、
AI監査人は解決できるか

AIアルゴリズムを用いて人材採用を効率化ツールが米国企業で普及してきた。ツールベンダーの中には「バイアス批判」に応え、アルゴリズムに対する監査を依頼している企業もあるが、監査人はある種のバイアスを見逃す可能性があるうえ、そのツールが職務に最適な候補者を選ぶことを保証するわけでもない。 by Hilke Schellmann2021.03.04

私は自宅で、コンピューター上でビデオゲームをプレイしている。私の役目は風船をひとつずつ膨らませて、できるだけ多くの金を稼ぐことだ。「空気を入れる」ボタンをクリックするたびに風船が膨らみ、バーチャルの報酬が5セント手に入る。しかし、「回収する」ボタンを押す前に風船を破裂させてしまうと、デジタルの稼ぎは消えてなくなってしまう。

私は39個の風船を膨らませて、14.40ドルを稼いだ。スクリーンにメッセージが表示される。「あなたは危険度の高い状況でも、一貫したアプローチにこだわりました。計測された特性:リスク」

このゲームは、パイメトリクス(Pymetrics)という企業が作成した一連のゲームのひとつだ。多くの米国企業は、同社のゲームを、就職希望者の選別に利用している。マクドナルドやボストン・コンサルティング・グループ、クラフト・ハインツ、コルゲート・パーモリーブといった企業の採用に応募すれば、パイメトリクスのゲームをプレイするように命じられるかもしれない。

私がプレイしている間に、人工知能(AI)システムが、寛容さ、公平性、注意力といった要素を含む、私の特性を計測する。もし私が実際にある仕事に応募していたとしたら、AIシステムは私のスコアを、すでにその仕事に就いている社員たちのスコアと比較する。そして、私の性格プロフィールが、その職務で成功を収めている人々の特性と似ていたら、私は就職活動の次のステージに進むにあたって有利になるだろう。

多数の就職希望者をさばくために、こうしたAIベースの採用ツールを利用する会社が増加し続けている。米国の失業者数が、パンデミック前と比べてほぼ倍増した現在、特にその傾向は強い。資産運用企業であるマーサー(Mercer)が世界の人事担当者7300人以上を対象に実施したアンケート調査によれば、自分の部署で予測分析を利用していると回答した人事担当者の割合は、2016年には10%だったが、2020年には39%にまで一気に増加した。

しかし、他のAIアプリと同様に、AI採用ツールの中にはバイアスのかかった結果を出してしまうものも存在することを研究者たちは明らかにしている。例えば、うかつにも男性を優先的に選んだり、特定の社会経済的なバックグラウンドを持つ人物を優先的に選んだりしてしまうのだ。透明性の向上と規制の強化を求める声が強まっている現在、こうした課題に対して繰り返し提案されている解決策が存在する。それはAIを監査することだ。

昨年、パイメトリクスは、ノースイースタン大学のコンピューター科学者のチームに報酬を支払って、自社の雇用アルゴリズムを監査してもらった。こうした企業が、自社ツールの監査を第三者に依頼した初の事例のひとつである。同社のフリダ・ポリ最高経営責任者(CEO)は筆者に、この経験は、こうした監査をするようニューヨーク市の企業に求める法案に準拠するモデルとなるだろうと語った。パイメトリクスはニューヨーク市を拠点としている。

「中立的な第三者に監査を依頼するというパイメトリクスの試みは、大変よい方向への動きだと思います」と、ワシントン大学の教授であり、雇用法とAIを専門とするポーリーン・キムは言う。「もしこれによって業界の透明性を向上させられるのなら、それは実に明らかな前進といえるでしょう」。

AIに対する監査が注目をされているとはいうものの、こうした監査で実際にどれほどバイアスを発見し、防げるかについては、まだ明らかではない。「AI監査」という言葉が色々なことを意味しうるために、監査の効果を一般的に信頼することは難しくなっている。監査が最も厳密に実施されていたとしても、限定された範囲しか監査の対象になっていないかもしれない。そして、アルゴリズムの内部への無制限なアクセスが可能だったとしても、そのアルゴリズムが応募者を公平に扱っているかどうかを明確に判断することは、驚くほど難しい。うまくすれば、部分的な分析はできるだろうが、悪くすると、企業の問題のある行為を、監査人の承認というスタンプのもとに隠蔽してしまうかもしれない。

AI監査の内幕

今日ではすでに、多くのAI採用ツールが使われている。ビデオインタビュー中の候補者の表情や声の調子、言語を分析するソフトウェアのほかに、履歴書をスキャンして性格を予測したり、候補者のソーシャルメディアでの活動を調査したりするソフトウェアもある。

どのようなツールを販売しているにせよ、AI採用ツールのベンダーは一般に、こうしたテクノロジーは、より有能かつ多様な候補者を、従来型の人事部に比べて、より少ないコストと時間で見つけられると請け負っている。しかし、そうしたエビデンスはほとんど存在しないし、パイメトリクスのアルゴリズムのAI監査でテストされているのも、そうした事柄ではない。テストは、特定の採用ツールが、候補者を、人種やジェンダーといったバイアスに基づいてひどく差別していないかを調べることが狙いなのだ。

ノースイースタン大学のクリスト・ウィルソン准教授は、ウーバーの料金急騰(サージ・プライシング)のアルゴリズムや、グーグルの検索エンジンのアルゴリズムをはじめとする、いくつかのアルゴリズムを精査した経験を持つ。しかし、パイメトリクスから依頼を受けるまで、調査対象の企業と直接仕事をしたことはなかった。

調査にあたったウィルソン准教授のチーム(同僚のアラン・ミスラヴ教授と2人の大学院生を含む)は、パイメトリクスから受け取ったデータを使い、同社のデータ科学者ともやりとりできた。監査人たちは独立した調査権を持つが、ネガティブな発見については、公表の前にパイメトリクスに知らせることに合意している。パイメトリクスはノースイースタン大学に助成金として10万4465ドルを支払っており、その中にはウィルソン准教授のチームに給与として支払われる6万4813ドルが含まれている。

パイメトリクスの中心となる製品は、12のゲームからなるセット …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
購読キャンペーン実施中
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021Innovation Issue

AI/ロボット工学、コンピューター/電子機器、輸送、ソフトウェア、インターネット分野で活躍する13人の日本発のイノベーターを紹介。併せて、グローバルで活躍する35人のイノベーターの紹介と、注目のイノベーション分野の動向解説も掲載しました。
日本と世界のイノベーションの最新情報がまとめて読める1冊です。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る