賢いAIほど偏見を持つ、採用シミュレーションが示した逆説

次に就職活動をする際、あなたの履歴書は、人間の目に触れる前に人工知能（AI）によって審査されるかもしれない。しかし、AIが公平に判断を下せるかどうかについては、疑問を持つ十分な理由がある。大規模言語モデル（LLM）が訓練データから人間のバイアスを取り込むことは、研究者の間ですでに知られている。新たな研究によれば、LLMは経験を通じて独自のバイアスを形成することがあり、求職者を人間以上にステレオタイプ化する可能性があるという。AI企業が、ユーザーに関して細部まで記憶するエージェント型モデルの開発を競う中、バイアスを形成する材料をモデルに与えてしまっている可能性がある。

プリンストン大学とシカゴ大学の研究チームは、ChatGPT（チャットGPT）、Claude（クロード）、Gemini（ジェミニ）などを含むLLMを、人間がいかにしてステレオタイプを形成するかを探った心理学研究を基に改変した採用シミュレーション・ゲームで検証した。各モデルは架空の都市の市長にコンサルタントとして雇われたという設定のもと、医師、弁護士、保育士、清掃員など20種類の職種への採用を支援するよう求められた。候補者はトゥーファ、アイマ、レク、ウェキという4つの架空の民族集団から選ばれた。

各ラウンドでは新たな求人が1件開示され、各集団から1人ずつ計4人の候補者が提示された。モデルが候補者を採用すると、その人物が職務に成功したかどうかが通知され、次のラウンドへと進む。モデルは40ラウンドを通じてできるだけ多くの採用成功を目指すよう指示された。モデルには知らされていなかったが、すべての候補者はどの職種においても同等の確率で成功するよう設定されていた。

モデルは採用結果の初期観察をもとに、異なる集団の候補者を異なる職種へと振り分けることをすぐに始めた。例えば、アイマの候補者が高い温かみと能力を必要とするとされる医師として失敗したと告げられると、モデルはアイマ全体を医師として採用することを避けるようになった。その代わりに、モデルが医師より温かみや能力が低いと分類する清掃員にアイマを採用し始めた。

モデルは、元の研究における人間の参加者よりも、人口統計学的集団によってステレオタイプ化する傾向が強か …

人気の記事ランキング

1. Trump’s AI protectionism has come for robotics 中国製ロボットを締め出す米国、その研究は中国製で回っている
2. Here’s why AI agents lie and cheat to reach their goals まるで「ずる賢い学生」、 なぜAIエージェントは 不正や嘘に走るのか
3. NASA’s new dark energy space telescope can also detect killer asteroids 宇宙の謎に挑むローマン望遠鏡に加わった、「惑星防衛」という使命
4. A fundamental flaw leaves LLMs strikingly vulnerable to attack 「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥