KADOKAWA Technology Review
×

ニューズラインエマージング・テクノロジーの最新情報をお届け。

アップル・カード限度額で性差別の疑い、アルゴリズムの偏見原因か
AP
Apple Card is being investigated over claims it gives women lower credit limits

アップル・カード限度額で性差別の疑い、アルゴリズムの偏見原因か

8月に米国で始まったアップルの新しいクレジットカードの与信限度額を決めるアルゴリズムが、女性よりも男性に高い限度額を与えているのではないか? との疑義が持たれ、当局による調査の対象となっている。

11月7日、Web起業家のデイヴィッド・ハイネマイヤー・ハンソンは、自身のアップル・カードの与信限度額が妻の20倍だったとツイートし、いまや広く拡散している。夫婦は合算で所得税申告をしたにもかかわらず与信限度額に大きな差が生じ、また調査によると妻のほうが信用スコアは高かった。アップルの共同創業者、スティーヴ・ウォズニアックは、このツイートに返信し、自身も夫婦で別々の資産や銀行口座を持っていないにもかかわらず、妻の与信限度額の10倍が与えられたと述べた。

現在、米ニューヨーク州金融サービス局(DFS)は、カードを運用しているゴールドマン・サックス(Goldman Sachs)の調査を開始している。リンダ・レースウェル局長は、「与信限度額の決定に使用されたアルゴリズムが、性別に基づく差別を禁止する州法に違反しているかどうか」を監査機関が調べる方針をブログで述べた。すでに規制当局は、アルゴリズムにより白人の患者よりも黒人の患者のほうが包括ケア(統合的な治療や健康管理)を受ける率が低いという研究者の発表に関する調査を最近開始している

ゴールドマン・サックスは週末、ツイッターに声明文を投稿し、信用度を決定する際に性別を考慮していないと述べた。だが、カードの与信限度額の説明のつかない格差は、アルゴリズムのバイアスがいかに意図せず生まれるかという事例の1つだ。信用度の査定に使われるこの種のアルゴリズムは、長年の履歴データで訓練され、バイアスはその訓練過程でさまざまな多くの方法で滑り込んでしまうのだ。

ニアル・ファース [Niall Firth] 2019.11.12, 17:37
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者は10月中旬発表予定です。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る