KADOKAWA Technology Review
×
アップル・カード問題、本質は「性別を問わない」性差別
Selman Design
知性を宿す機械 Insider Online限定
There’s an easy way to make lending fairer for women. Trouble is, it’s illegal.

アップル・カード問題、本質は「性別を問わない」性差別

アップル・カードの利用限度額問題に端を発して、人工知能(AI)による与信の問題点が明らかになった。与信審査に性別を持ち込むのは米国では違法だが、最新研究によると男女別のモデルを作成することでバイアスを是正できるという。 by Karen Hao2019.12.10

ニューヨーク州金融サービス局は11月中旬、性別による与信差別の疑いで、ゴールドマン・サックスを対象とする調査を開始した。起業家のデイヴィッド・ハイネマイヤー・ハンソンは、所得税申告を妻と合算でしており、また信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だったとツイートした。アップル・カードはゴールドマン・サックスがサービスを運用している。

このツイートを受け、ゴールドマン・サックスは限度額を決定する際に性別は考慮していないとの声明を投稿した。ゴールドマン・サックスは自己弁護のつもりで声明を出したのだろう。そもそもその人が女性かどうか分からない仕組みになっているのに、女性差別などできるはずがないでしょう? という理屈だ。だが実際には、性別を考慮に入れていないことこそが問題なのだ。アルゴリズムの公平性に関するこれまでの研究では、性別を考慮することで性的バイアスを緩和できるとの結果が出ている。ただ皮肉なことに、与信審査に性別を持ち込むのは米国では違法とされているのだ。

国連基金と世界銀行の資金提供によって進行中の研究の中間報告は、 性差を問わない信用貸付の公平性に再び疑問を投げかけている。調査では、完全に独立した男女別の信用度モデルを作成することで、より多くの女性が信用を得られることが分かった。

では、法律を改正するべきなのか?

「性別を問わない」という性差別

性差別が嫌なら、方程式から性別の項を抜いてしまえばいい。これが、1974年に施行された信用機会均等法(ECOA:Equal Credit Opportunity Act)の前提だ。施行当時は、女性が与信拒否に合うのはよくあることだったが、信用機会均等法の施行によって、審査における性別に基づく差別や、性別を判断条件することが違法とされた(同法は1976年に改正され、人種や出身国など、連邦政府 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る