KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
採用ツールのバイアス問題、
AI監査人は解決できるか
Simon Simard
人工知能(AI) Insider Online限定
Auditors are testing hiring algorithms for bias, but find there's no easy fix

採用ツールのバイアス問題、
AI監査人は解決できるか

AIアルゴリズムを用いて人材採用を効率化ツールが米国企業で普及してきた。ツールベンダーの中には「バイアス批判」に応え、アルゴリズムに対する監査を依頼している企業もあるが、監査人はある種のバイアスを見逃す可能性があるうえ、そのツールが職務に最適な候補者を選ぶことを保証するわけでもない。 by Hilke Schellmann2021.03.04

私は自宅で、コンピューター上でビデオゲームをプレイしている。私の役目は風船をひとつずつ膨らませて、できるだけ多くの金を稼ぐことだ。「空気を入れる」ボタンをクリックするたびに風船が膨らみ、バーチャルの報酬が5セント手に入る。しかし、「回収する」ボタンを押す前に風船を破裂させてしまうと、デジタルの稼ぎは消えてなくなってしまう。

私は39個の風船を膨らませて、14.40ドルを稼いだ。スクリーンにメッセージが表示される。「あなたは危険度の高い状況でも、一貫したアプローチにこだわりました。計測された特性:リスク」

このゲームは、パイメトリクス(Pymetrics)という企業が作成した一連のゲームのひとつだ。多くの米国企業は、同社のゲームを、就職希望者の選別に利用している。マクドナルドやボストン・コンサルティング・グループ、クラフト・ハインツ、コルゲート・パーモリーブといった企業の採用に応募すれば、パイメトリクスのゲームをプレイするように命じられるかもしれない。

私がプレイしている間に、人工知能(AI)システムが、寛容さ、公平性、注意力といった要素を含む、私の特性を計測する。もし私が実際にある仕事に応募していたとしたら、AIシステムは私のスコアを、すでにその仕事に就いている社員たちのスコアと比較する。そして、私の性格プロフィールが、その職務で成功を収めている人々の特性と似ていたら、私は就職活動の次のステージに進むにあたって有利になるだろう。

多数の就職希望者をさばくために、こうしたAIベースの採用ツールを利用する会社が増加し続けている。米国の失業者数が、パンデミック前と比べてほぼ倍増した現在、特にその傾向は強い。資産運用企業であるマーサー(Mercer)が世界の人事担当者7300人以上を対象に実施したアンケート調査によれば、自分の部署で予測分析を利用していると回答した人事担当者の割合は、2016年には10%だったが、2020年には39%にまで一気に増加した。

しかし、他のAIアプリと同様に、AI採用ツールの中にはバイアスのかかった結果を出してしまうものも存在することを研究者たちは明らかにしている。例えば、うかつにも男性を優先的に選んだり、特定の社会経済的なバックグラウンドを持つ人物を優先的に選んだりしてしまうのだ。透明性の向上と規制の強化を求める声が強まっている現在、こうした課題に対して繰り返し提案されている解決策が存在する。それはAIを監査することだ。

昨年、パイメトリクスは、ノースイースタン大学のコンピューター科学者のチームに報酬を支払って、自社の雇用アルゴリズムを監査してもらった。こうした企業が、自社ツールの監査を第三者に依頼した初の事例のひとつである。同社のフリダ・ポリ最高経営責任者(CEO)は筆者に、この経験は、こうした監査をするようニューヨーク市の企業に求める法案に準拠するモデルとなるだろうと語った。パイメトリクスはニューヨーク市を拠点としている。

「中立的な第三者に監査を依頼するというパイメトリクスの試みは、大変よい方向への動きだと思います」と、ワシントン大学の教授であり、雇用法とAIを専門とするポーリーン・キムは言う。「もしこれによって業界の透明性を向上させられるのなら、それは実に明らかな前進といえるでしょう」。

AIに対する監査が注目をされているとはいうものの、こうした監査で実際にどれほどバイアスを発見し、防げるかについては、まだ明らかではない。「AI監査」という言葉が色々なことを意味しうるために、監査の効果を一般的に信頼することは難しくなっている。監査が最も厳密に実施されていたとしても、限定された範囲しか監査の対象になっていないかもしれない。そして、アルゴリズムの内部への無制限なアクセスが可能だったとしても、そのアルゴリズムが応募者を公平に扱っているかどうかを明確に判断することは、驚くほど難しい。うまくすれば、部分的な分析はできるだろうが、悪くすると、企業の問題のある行為を、監査人の承認というスタンプのもとに隠蔽してしまうかもしれない。

AI監査の内幕

今日ではすでに、多くのAI採用ツールが使われている。ビデオインタビュー中の候補者の表情や声の調子、言語を分析するソフトウェアのほかに、履歴書をスキャンして性格を予測したり、候補者のソーシャルメディアでの活動を調査したりするソフトウェアもある。

どのようなツールを販売しているにせよ、AI採用ツールのベンダーは一般に、こうしたテクノロジーは、より有能かつ多様な候補者を、従来型の人事部に比べて、より少ないコストと時間で見つけられると請け負っている。しかし、そうしたエビデンスはほとんど存在しないし、パイメトリクスのアルゴリズムのAI監査でテストされているのも、そうした事柄ではない。テストは、特定の採用ツールが、候補者を、人種やジェンダーといったバイアスに基づいてひどく差別していないかを調べることが狙いなのだ。

ノースイースタン大学のクリスト・ウィルソン准教授は、ウーバーの料金急騰(サージ・プライシング)のアルゴリズムや、グーグルの検索エンジンのアルゴリズムをはじめとする、いくつかのアルゴリズムを精査した経験を持つ。しかし、パイメトリクスから依頼を受けるまで、調査対象の企業と直接仕事をしたことはなかった。

調査にあたったウィルソン准教授のチーム(同僚のアラン・ミスラヴ教授と2人の大学院生を含む)は、パイメトリクスから受け取ったデータを使い、同社のデータ科学者ともやりとりできた。監査人たちは独立した調査権を持つが、ネガティブな発見については、公表の前にパイメトリクスに知らせることに合意している。パイメトリクスはノースイースタン大学に助成金として10万4465ドルを支払っており、その中にはウィルソン准教授のチームに給与として支払われる6万4813ドルが含まれている。

パイメトリクスの中心となる製品は、12のゲームからなるセット …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. AI can make you more creative—but it has limits 生成AIは人間の創造性を高めるか? 新研究で限界が明らかに
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Interview with Prof. Masayuki Ohzeki: The Future of Quantum Computer Commercialization and the Qualities of Innovators 量子技術を最速で社会へ、大関真之教授が考えるイノベーターの条件
  4. How to fix a Windows PC affected by the global outage 世界規模のウィンドウズPCトラブル、IT部門「最悪の週末」に
  5. Robot-packed meals are coming to the frozen-food aisle 「手作業が早い」食品工場でもロボット化、盛り付け完璧に
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る