KADOKAWA Technology Review
×
アップル・カード問題、本質は「性別を問わない」性差別
Selman Design
人工知能(AI) Insider Online限定
There’s an easy way to make lending fairer for women. Trouble is, it’s illegal.

アップル・カード問題、本質は「性別を問わない」性差別

アップル・カードの利用限度額問題に端を発して、人工知能(AI)による与信の問題点が明らかになった。与信審査に性別を持ち込むのは米国では違法だが、最新研究によると男女別のモデルを作成することでバイアスを是正できるという。 by Karen Hao2019.12.10

ニューヨーク州金融サービス局は11月中旬、性別による与信差別の疑いで、ゴールドマン・サックスを対象とする調査を開始した。起業家のデイヴィッド・ハイネマイヤー・ハンソンは、所得税申告を妻と合算でしており、また信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だったとツイートした。アップル・カードはゴールドマン・サックスがサービスを運用している。

このツイートを受け、ゴールドマン・サックスは限度額を決定する際に性別は考慮していないとの声明を投稿した。ゴールドマン・サックスは自己弁護のつもりで声明を出したのだろう。そもそもその人が女性かどうか分からない仕組みになっているのに、女性差別などできるはずがないでしょう? という理屈だ。だが実際には、性別を考慮に入れていないことこそが問題なのだ。アルゴリズムの公平性に関するこれまでの研究では、性別を考慮することで性的バイアスを緩和できるとの結果が出ている。ただ皮肉なことに、与信審査に性別を持ち込むのは米国では違法とされているのだ。

国連基金と世界銀行の資金提供によって進行中の研究の中間報告は、 性差を問わない信用貸付の公平性に再び疑問を投げかけている。調査では、完全に独立した男女別の信用度モデルを作成することで、より多くの女性が信用を得られることが分かった。

では、法律を改正するべきなのか?

「性別を問わない」という性差別

性差別が嫌なら、方程式から性別の項を抜いてしまえばいい。これが、1974年に施行された信用機会均等法(ECOA:Equal Credit Opportunity Act)の前提だ。施行当時は、女性が与信拒否に合うのはよくあることだったが、信用機会均等法の施行によって、審査における性別に基づく差別や、性別を判断条件することが違法とされた(同法は1976年に改正され、人種や出身国など、連邦政府 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. We finally have a definition for open-source AI 「オープンソースAI」問題ついに決着、OSIが定義を発表
  2. Here’s how people are actually using AI カネにならない生成AIブーム、LLMはどう使われているか?
  3. The US physics community is not done working on trust 物理学界で繰り返される研究不正、再発防止には何が必要か
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る