KADOKAWA Technology Review
×
企業の採用活動にますます利用されるAIは公正なのか?
Ms Tech | Envato
LinkedIn’s job-matching AI was biased. The company’s solution? More AI.

企業の採用活動にますます利用されるAIは公正なのか?

リンクトインをはじめとする大手の求人検索サイトの多くは、ユーザーと求人情報のマッチングにAIを利用している。しかし、そのアルゴリズムが常に公正に機能しているとは限らない。 by Hilke Schellmann2021.06.28

数年前、リンクトイン(LinkedIn)は、求職者と求人情報をマッチングさせるために使用していた自社のアルゴリズムがバイアスのかかった結果を出力していることに気付いた。このアルゴリズムは求職者を、特定の職種に応募する可能性や、採用担当者に返信する可能性がどれぐらい高いかを部分的な基準としてランク付けしていたが、募集中の職種に対し、女性よりも男性を多く紹介していたのだ。その理由は単に、男性の方が新たな機会を求めることに積極的である場合が多いというだけのことだった。

リンクトインはこの問題に気付き、最初の結果のバイアスを打ち消すために別の人工知能(AI)プログラムを構築した。一方、世界最大手の求人検索サイトの中には、全く異なる手法でそれぞれのプラットフォーム上のバイアスに対処しているところがある。例えばキャリアビルダー(CareerBuilder)、ジップリクルーター(ZipRecruiter)、モンスター(Monster)などのサイトだ。これに関してMITテクノロジーレビュー(米国版)は、ポッドキャストの最新話「我ら機械を信ず(In Machines We Trust)」で報道している。しかし上記のプラットフォームは、自社のシステムの正確な仕組みを公開していないため、実際にそうした対策が差別を防ぐことにどれほど効果を発揮しているのかを求職者が知ることは難しい。

もし現在、あなたが新たな求人情報を探し始めるところなら、AIが求職結果に大きな影響を及ぼす可能性が高い。AIはあなたが求人検索プラットフォーム上でどのような投稿を見ているかを割り出し、履歴書を企業の採用担当者に送信するかどうかを判断する。企業の中には、AIが搭載されたビデオゲームをプレイするよう求めるところもあるかもしれない。性格特性を判定し、特定の職種に適しているかどうかを測定するためだ。

新たな従業員の募集や採用にAIを利用する企業が増えてきており、採用過程のどの段階にでもAIが組み入れられる可能性がある。新型コロナウイルス感染症(COVID-19)の蔓延によって、採用テクノロジーの新たな需要が増えた。AIを活用した面接を専門に扱う企業であるキュリオス・シング(Curious Thing)ハイアービュー(HireVue)は両社とも、パンデミックの期間に売上が急増したと報告している。

求職活動の多くはシンプルな検索から始まるため、求職者はリンクトインモンスタージップリクルーターなどのプラットフォームに向かうことになる。履歴書のアップロード、求人情報の閲覧、募集中の職種への応募ができるからだ。

このようなWebサイトの目的は、資格を満たしている求職者と募集中の職種をマッチングさせることだ。多くのプラットフォームは、募集中の職種と求職者の全てを体系的にまとめるために、AIを搭載したおすすめアルゴリズムを採用している。このアルゴリズムはマッチング・エンジンと呼ばれることもあり、求職者と採用担当者双方からの情報を処理し、それぞれに対しておすすめリストを生成する。

「採用担当者はあなたの履歴書を6秒しか見ないという噂を聞いたことがあるのではないでしょうか」と、モンスターのプロダクト・マネジメント担当副社長のデレク・カンはそう語る。「当社が構築したおすすめエンジンを使えば、その時間をミリ秒まで減らせます」。

マッチング・エンジンの多くは、応募者を絞り込むために最適化されている。そう語るのはリンクトインのプロダクトマネジメント担当の元副社長ジョン・ジャーシンだ。こうしたシステムはデータを次の3つのカテゴリーに分けておすすめ情報を作成している。一つめは、ユーザーが直接プラットフォームに提供した情報。二つめは、類似のスキルセット、経験、興味関心を持つ別のユーザーを基準としてユーザーに適用されたデータ。三つめは、求人情報のメッセージに対してユーザーがどの程度の頻度で返信や交流をしているかといった行動データだ。

リンクトインの場合、こうしたアルゴリズムでは個人の名前、年齢、ジェンダー、人種を除外している。こうした要素を含めてしまうと、自動化された処理の中でバイアスを生じさせる可能性があるからだ。しかしジャーシン元副社長のチームは、たとえそうした要素を除外しても、リンクトインのアルゴリズムは特定の性自認グループが示す行動パターンを検出可能であることを見い出した。

たとえば、男性は自分の能力以上の職務経験が必要とされる職種に応募しがちだが、女性は自分の能力が募集要件に見合っている求人だけに応募する傾向がある。アルゴリズムはこうした行動の違いを解釈し、意図せずに女性に不利になってしまう形でおすすめ情報を調整する。

「たとえば、能力的には同レベルだとしても、特定のグループに対して別のグループよりも上級の職種を推薦する可能性があります」とジャーシン元副社長は語る。「そうした人々は平等な機会に触れることができなくなります。まさにその影響こそが問題なのです」。

また男性は女性と比較して、習熟度の低いスキルを履歴書に多めに記載し、プラットフォーム上で採用担当者と積極的に関わることが多い。

こうした問題に対処するため、ジャーシン元副社長はリンクトインのチームと共に、より実際の状況を表している結果を出力するように設計した新たなAIシステムを構築し、2018年に運用が始まった。同システムは本質的に別個のアルゴリズムを用いており、おすすめ情報の特定のグループへの偏りを打ち消すよう設計されている。このシステムにより、元のマッチング・エンジンが生成した情報を表示する前に、おすすめシステムがジェンダーを超えて平等に情報を配分していることを保証している。

モンスターのカン副社長は、500万から600万件の求人を常時掲載しているモンスターでも、行動データをおすすめ情報に利用しているが、リンクトインと同じ方法ではバイアス修正をしていないと言う。その代わり、多様なバックグラウンドのユーザーがサービスに登録するようにマーケティングチームが力を入れている。また、採用担当者が代表的な求職者の一群を合格させたかどうかをモンスター側に報告してもらっている。

キャリアビルダーのイリーナ・ノボセルスキーCEO(最高経営責任者)は、自社のサービスが収集したデータを活用し、求人広告からバイアスを取り除く方法を採用担当者に指導することに力を入れていると言う。たとえば「『ロックスター』という単語が含まれている求人票を求職者が読んだ場合、応募する女性の割合はかなり低くなります」とノボセルスキーCEOは語る。

ジップリクルーターのCEO兼共同創業者であるイアン・シーゲルは、ジップリクルーターのアルゴリズムは求職者をランク付けする際に、名前のような特定の識別特性を考慮に入れておらず、その代わりに、たとえば地域的な情報など、64種類の別々の情報に基づいて求職者を分類していると言う。シーゲルCEOは、ジップリクルーターは自社のアルゴリズムの詳細については知的所有権上の懸念を理由として話せないと述べ、次のように付け加えた。「当社は現在、できる限りの能力主義的な評価をしていると考えています」。

採用プロセスの各段階が自動化されることで求職者は今や、アルゴリズムと採用担当者の両方に対して自分を目立たせる方法を学習しなければならなくなった。しかし、こうしたアルゴリズムが何をしているのかについての明確な情報がない中、求職者は大きな困難に直面している。

「人々はアルゴリズムやおすすめエンジンが求人に与えている影響を過小評価していると思います」とモンスターのカン副社長は言う。「あなたが自分自身をどのように示しているかは、人間の目に触れるよりも前に、数多くの機械やサーバーに読み取られている可能性が高いのです」。

人気の記事ランキング
  1. How to talk to vaccine-hesitant people 「陰謀論者」で片付けない、ワクチン未接種者との対話のヒント
  2. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は?専門家が解説
ヒルキ・シェルマン [Hilke Schellmann]米国版 寄稿者
ニューヨーク大学助教授/エミー賞の受賞歴を持つジャーナリスト。フリーランス記者としては人工知能(AI)分野を取材している。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35 」の日本版が候補者を募集している。特定の分野や業界だけでなく、世界全体の重要な課題を解決するイノベーターを発信していく。

記事一覧を見る
人気の記事ランキング
  1. How to talk to vaccine-hesitant people 「陰謀論者」で片付けない、ワクチン未接種者との対話のヒント
  2. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は?専門家が解説
MITテクノロジーレビュー[日本版] Vol.4/Summer 2021
MITテクノロジーレビュー[日本版] Vol.4/Summer 202110 Breakthrough Technologies

新型コロナウイルス・ワクチンの開発で脚光を浴びた「メッセンジャーRNA」技術から、人間並みの文章を自在に生成できる人工知能(AI)技術「GPT-3」、電気自動車(EV)普及の鍵を握る「次世代バッテリー」まで。MITテクノロジーレビューが選んだ「世界を変える10大テクノロジー」。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る