KADOKAWA Technology Review
×
発表!MITテクノロジーレビューが選ぶ
2022年のイノベーター14人。
【12/15 Summit開催】
アップル・カード問題、本質は「性別を問わない」性差別
Selman Design
知性を宿す機械 Insider Online限定
There’s an easy way to make lending fairer for women. Trouble is, it’s illegal.

アップル・カード問題、本質は「性別を問わない」性差別

アップル・カードの利用限度額問題に端を発して、人工知能(AI)による与信の問題点が明らかになった。与信審査に性別を持ち込むのは米国では違法だが、最新研究によると男女別のモデルを作成することでバイアスを是正できるという。 by Karen Hao2019.12.10

ニューヨーク州金融サービス局は11月中旬、性別による与信差別の疑いで、ゴールドマン・サックスを対象とする調査を開始した。起業家のデイヴィッド・ハイネマイヤー・ハンソンは、所得税申告を妻と合算でしており、また信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だったとツイートした。アップル・カードはゴールドマン・サックスがサービスを運用している。

このツイートを受け、ゴールドマン・サックスは限度額を決定する際に性別は考慮していないとの声明を投稿した。ゴールドマン・サックスは自己弁護のつもりで声明を出したのだろう。そもそもその人が女性かどうか分からない仕組みになっているのに、女性差別などできるはずがないでしょう? という理屈だ。だが実際には、性別を考慮に入れていないことこそが問題なのだ。アルゴリズムの公平性に関するこれまでの研究では、性別を考慮することで性的バイアスを緩和できるとの結果が出ている。ただ皮肉なことに、与信審査に性別を持ち込むのは米国では違法とされているのだ。

国連基金と世界銀行の資金提供によって進行中の研究の中間報告は、 性差を問わない信用貸付の公平性に再び疑問を投げかけている。調査では、完全に独立した男女別の信用度モデルを作成することで、より多くの女性が信用を得られることが分かった。

では、法律を改正するべきなのか?

「性別を問わない」という性差別

性差別が嫌なら、方程式から性別の項を抜いてしまえばいい。これが、1974年に施行された信用機会均等法(ECOA:Equal Credit Opportunity Act)の前提だ。施行当時は、女性が与信拒否に合うのはよくあることだったが、信用機会均等法の施行によって、審査における性別に基づく差別や、性別を判断条件することが違法とされた(同法は1976年に改正され、人種や出身国など、連邦政府 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る