KADOKAWA Technology Review
×
【3/14】MITTR主催「アクセシビリティとテクノロジー 」開催 申込受付中
企業の採用活動にますます利用されるAIは公正なのか?
Ms Tech | Envato
LinkedIn’s job-matching AI was biased. The company’s solution? More AI.

企業の採用活動にますます利用されるAIは公正なのか?

リンクトインをはじめとする大手の求人検索サイトの多くは、ユーザーと求人情報のマッチングにAIを利用している。しかし、そのアルゴリズムが常に公正に機能しているとは限らない。 by Hilke Schellmann2021.06.28

数年前、リンクトイン(LinkedIn)は、求職者と求人情報をマッチングさせるために使用していた自社のアルゴリズムがバイアスのかかった結果を出力していることに気付いた。このアルゴリズムは求職者を、特定の職種に応募する可能性や、採用担当者に返信する可能性がどれぐらい高いかを部分的な基準としてランク付けしていたが、募集中の職種に対し、女性よりも男性を多く紹介していたのだ。その理由は単に、男性の方が新たな機会を求めることに積極的である場合が多いというだけのことだった。

リンクトインはこの問題に気付き、最初の結果のバイアスを打ち消すために別の人工知能(AI)プログラムを構築した。一方、世界最大手の求人検索サイトの中には、全く異なる手法でそれぞれのプラットフォーム上のバイアスに対処しているところがある。例えばキャリアビルダー(CareerBuilder)、ジップリクルーター(ZipRecruiter)、モンスター(Monster)などのサイトだ。これに関してMITテクノロジーレビュー(米国版)は、ポッドキャストの最新話「我ら機械を信ず(In Machines We Trust)」で報道している。しかし上記のプラットフォームは、自社のシステムの正確な仕組みを公開していないため、実際にそうした対策が差別を防ぐことにどれほど効果を発揮しているのかを求職者が知ることは難しい。

もし現在、あなたが新たな求人情報を探し始めるところなら、AIが求職結果に大きな影響を及ぼす可能性が高い。AIはあなたが求人検索プラットフォーム上でどのような投稿を見ているかを割り出し、履歴書を企業の採用担当者に送信するかどうかを判断する。企業の中には、AIが搭載されたビデオゲームをプレイするよう求めるところもあるかもしれない。性格特性を判定し、特定の職種に適しているかどうかを測定するためだ。

新たな従業員の募集や採用にAIを利用する企業が増えてきており、採用過程のどの段階にでもAIが組み入れられる可能性がある。新型コロナウイルス感染症(COVID-19)の蔓延によって、採用テクノロジーの新たな需要が増えた。AIを活用した面接を専門に扱う企業であるキュリオス・シング(Curious Thing)ハイアービュー(HireVue)は両社とも、パンデミックの期間に売上が急増したと報告している。

求職活動の多くはシンプルな検索から始まるため、求職者はリンクトインモンスタージップリクルーターなどのプラットフォームに向かうことになる。履歴書のアップロード、求人情報の閲覧、募集中の職種への応募ができるからだ。

このようなWebサイトの目的は、資格を満たしている求職者と募集中の職種をマッチングさせることだ。多くのプラットフォームは、募集中の職種と求職者の全てを体系的にまとめるために、AIを搭載したおすすめアルゴリズムを採用している。このアルゴリズムはマッチング・エンジンと呼ばれることもあり、求職者と採用担当者双方からの情報を処理し、それぞれに対しておすすめリストを生成する。

「採用担当者はあなたの履歴書を6秒しか見ないという噂を聞いたことがあるのではないでしょうか」と、モンスターのプロダクト・マネジメント担当副社長のデレク・カンはそう語る。「当社が構築したおすすめエンジンを使えば、その時間をミリ秒まで減らせます」。

マッチング・エンジンの多くは、応募者を絞り込むために最適化されている。そう語るのはリンクトインのプロダクトマネジメント担当の元副社長ジョン・ジャーシンだ。こうしたシステムはデータを次の3つのカテゴリーに分けておすすめ情報を作成している。一つめは、ユーザーが直接プラットフォームに提供した情報。二つめは、類似のスキルセット、経験、興味関心を持つ別のユーザーを基準としてユーザーに適用されたデータ。三つめは、求人情報のメッセージに対してユーザーがどの程度の頻度で返信や交流をしているかといった行動データだ。

リンクトインの場合、こうしたアルゴリズムでは個人の名前、年齢、ジェンダー、人種を除外している。こうした要素を含めてしまうと、自動化された処理の中でバイアスを生じさせる可能性があるからだ。しかしジャーシン元副社長のチームは、たとえそうした要素を除外しても、リンクトインのアルゴリズムは特定の性自認グループが示す行動パターンを検出可能であることを見い出した。

たとえば、男性は自分の能力以上の職務経験が必要とされる職種に応募しがちだが、女性は自分の能力が募集要件に見合っている求人だけに応募する傾向がある。アルゴリズムはこうした行動の違いを解釈し、意図せずに女性に不利になってしまう形でおすすめ情報を調整する。

「たとえば、能力的には同レベルだとしても、特定のグループに対して別のグループよりも上級の職種を推薦する可能性があります」とジャーシン元副社長は語る。「そうした人々は平等な機会に触れることができなくなります。まさにその影響こそが問題なのです」。

また男性は女性と比較して、習熟度の低いスキルを履歴書に多めに記載し、プラットフォーム上で採用担当者と積極的に関わることが多い。

こうした問題に対処するため、ジャーシン元副社長はリンクトインのチームと共に、より実際の状況を表している結果を出力するように設計した新たなAIシステムを構築し、2018年に運用が始まった。同システムは本質的に別個のアルゴリズムを用いており、おすすめ情報の特定のグループへの偏りを打ち消すよう設計されている。このシステムにより、元のマッチング・エンジンが生成した情報を表示する前に、おすすめシステムがジェンダーを超えて平等に情報を配分していることを保証している。

モンスターのカン副社長は、500万から600万件の求人を常時掲載しているモンスターでも、行動データをおすすめ情報に利用しているが、リンクトインと同じ方法ではバイアス修正をしていないと言う。その代わり、多様なバックグラウンドのユーザーがサービスに登録するようにマーケティングチームが力を入れている。また、採用担当者が代表的な求職者の一群を合格させたかどうかをモンスター側に報告してもらっている。

キャリアビルダーのイリーナ・ノボセルスキーCEO(最高経営責任者)は、自社のサービスが収集したデータを活用し、求人広告からバイアスを取り除く方法を採用担当者に指導することに力を入れていると言う。たとえば「『ロックスター』という単語が含まれている求人票を求職者が読んだ場合、応募する女性の割合はかなり低くなります」とノボセルスキーCEOは語る。

ジップリクルーターのCEO兼共同創業者であるイアン・シーゲルは、ジップリクルーターのアルゴリズムは求職者をランク付けする際に、名前のような特定の識別特性を考慮に入れておらず、その代わりに、たとえば地域的な情報など、64種類の別々の情報に基づいて求職者を分類していると言う。シーゲルCEOは、ジップリクルーターは自社のアルゴリズムの詳細については知的所有権上の懸念を理由として話せないと述べ、次のように付け加えた。「当社は現在、できる限りの能力主義的な評価をしていると考えています」。

採用プロセスの各段階が自動化されることで求職者は今や、アルゴリズムと採用担当者の両方に対して自分を目立たせる方法を学習しなければならなくなった。しかし、こうしたアルゴリズムが何をしているのかについての明確な情報がない中、求職者は大きな困難に直面している。

「人々はアルゴリズムやおすすめエンジンが求人に与えている影響を過小評価していると思います」とモンスターのカン副社長は言う。「あなたが自分自身をどのように示しているかは、人間の目に触れるよりも前に、数多くの機械やサーバーに読み取られている可能性が高いのです」。

人気の記事ランキング
  1. The world’s most famous concert pianos got a major tech upgrade 自宅で巨匠の演奏を、スタインウェイ新技術が拓く未来の音楽体験
  2. Promotion MITTR Emerging Technology Nite #27 MITTR主催「アクセシビリティとテクノロジー 」開催のご案内
  3. Watch this robot as it learns to stitch up wounds AIロボットが縫合技術を習得、6針縫うことに成功
  4. OpenAI teases an amazing new generative video model called Sora 動画でも生成革命、オープンAIが新モデル「Sora」を発表
  5. People are worried that AI will take everyone’s jobs. We’ve been here before. 生成AIは雇用を奪うのか? MIT学長が書いた 85年前の記事に学べること
ヒルキ・シェルマン [Hilke Schellmann]米国版 寄稿者
ニューヨーク大学助教授/エミー賞の受賞歴を持つジャーナリスト。フリーランス記者としては人工知能(AI)分野を取材している。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. The world’s most famous concert pianos got a major tech upgrade 自宅で巨匠の演奏を、スタインウェイ新技術が拓く未来の音楽体験
  2. Promotion MITTR Emerging Technology Nite #27 MITTR主催「アクセシビリティとテクノロジー 」開催のご案内
  3. Watch this robot as it learns to stitch up wounds AIロボットが縫合技術を習得、6針縫うことに成功
  4. OpenAI teases an amazing new generative video model called Sora 動画でも生成革命、オープンAIが新モデル「Sora」を発表
  5. People are worried that AI will take everyone’s jobs. We’ve been here before. 生成AIは雇用を奪うのか? MIT学長が書いた 85年前の記事に学べること
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る