賢いAIほど偏見を持つ、採用シミュレーションが示した逆説

少ないデータから一般化する能力は、数学やコーディングでLLMが評価されてきた長所である。だが、プリンストン大学などの採用シミュレーション実験で、その能力が社会的な判断では偏見として働くことが示された。モデルは数回の結果を見ただけで架空の民族集団を特定の職種に振り分け、その傾向は人間より約65%強い。しかも推論能力の高いモデルほど、偏りは大きかった。 by Michelle Kim2026.07.22

この記事の3つのポイント

LLMは採用シミュレーション実験で人間より約65%高い職種分離スコアを示し、独自のステレオタイプを形成した
高い推論能力を持つモデルほど強いバイアスを示し、少数例からの過剰な汎化がその根本原因とされる
多様性への報酬設計や個人情報の充実がバイアス低減に有効だが、記憶機能の拡張が新たなリスクを生む懸念がある

summarized by Claude 3

次に就職活動をする際、あなたの履歴書は、人間の目に触れる前に人工知能（AI）によって審査されるかもしれない。しかし、AIが公平に判断を下せるかどうかについては、疑問を持つ十分な理由がある。大規模言語モデル（LLM）が訓練データから人間のバイアスを取り込むことは、研究者の間ですでに知られている。新たな研究によれば、LLMは経験を通じて独自のバイアスを形成することがあり、求職者を人間以上にステレオタイプ化する可能性があるという。AI企業が、ユーザーに関して細部まで記憶するエージェント型モデルの開発を競う中、バイアスを形成する材料をモデルに与えてしまっている可能性がある。

プリンストン大学とシカゴ大学の研究チームは、ChatGPT（チャットGPT）、Claude（クロード）、Gemini（ジェミニ）などを含むLLMを、人間がいかにしてステレオタイプを形成するかを探った心理学研究を基に改変した採用シミュレーション・ゲームで検証した。各モデルは架空の都市の市長にコンサルタントとして雇われたという設定のもと、医師、弁護士、保育士、清掃員など20種類の職種への採用を支援するよう求められた。候補者はトゥーファ、アイマ、レク、ウェキという4つの架空の民族集団から選ばれた。

各ラウンドでは新たな求人が1件開示され、各集団から1人ずつ計4人の候補者が提示された。モデルが候補者を採用すると、その人物が職務に成功したかどうかが通知され、次のラウンドへと進む。モデルは40ラウンドを通じてできるだけ多くの採用成功を目指すよう指示された。モデルには知らされていなかったが、すべての候補者はどの職種においても同等の確率で成功するよう設定されていた。

モデルは採用結果の初期観察をもとに、異なる集団の候補者を異なる職種へと振り分けることをすぐに始めた。例えば、アイマの候補者が高い温かみと能力を必要とするとされる医師として失敗したと告げられると、モデルはアイマ全体を医師として採用することを避けるようになった。その代わりに、モデルが医師より温かみや能力が低いと分類する清掃員にアイマを採用し始めた。

モデルは、元の研究における人間の参加者よりも、人口統計学的集団によってステレオタイプ化する傾向が強か …

こちらは有料会員限定の記事です。 有料会員になると制限なしにご利用いただけます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【夏割】実施中！年間購読料20%オフ！

人気の記事ランキング