KADOKAWA Technology Review
×
英内務省、人種差別的なアルゴリズムによるビザ申請審査を中止
James Cridland / Flickr
The UK is dropping an immigration algorithm that critics say is racist

英内務省、人種差別的なアルゴリズムによるビザ申請審査を中止

英内務省は、アルゴリズムを用いたビザ申請審査システムの使用を中止すると発表した。人種差別的との批判が高まる中で、裁判所の判決を待たずに使用中止を決めたことは、大きな節目になる可能性がある。 by Will Douglas Heaven2020.08.07

英内務省が、人種的なバイアスがあると批判されているアルゴリズムを用いたビザ申請の審査を中止すると発表した。どの申請を迅速に手続きするかをアルゴリズムが国籍に基づいて決めることで、「裕福な白人の国出身の人が『迅速に搭乗』でき、より貧しい有色人種が列の後ろに押しやられる」システムになっていると批判を受けてきた。

英内務省はシステムに人種的なバイアスがあることを否定しており、訴訟は今も続いている。一方で同省はアルゴリズムの使用を中止することに同意し、無意識のバイアスを探す全面的な見直しを実施した後、再設計したバージョンを年内に再び立ち上げる計画だ。その間は、国籍を使用しない暫定版のシステムを導入する。

英国は2015年以来、赤、黄、青のリスクレベルを各申請者に割り当てる信号機のシステムでビザ申請をフィルターにかけていた。赤信号のリスクレベルが割り当てられた人は、より高い確率でビザを拒否されていた。

アルゴリズムは、制度的なバイアス、特に人種的なバイアスを強めてしまうことで知られている。それにもかかわらず、信用調査からビザ申請、公判前審問、警察活動に至るまで、さまざまな重要な決断を下すのにアルゴリズムを使うことがますます増えている。米国の移民制度にも人種的なバイアスがあるとの批判がある。だが、たいていの場合、このようなアルゴリズムの正確な仕組みを明らかにし、バイアスがある証拠を明示するのは困難だ。多くのアルゴリズムが独自のものであり、その使用が公に監視されることはほとんどないからだ。

それでも、批判は高まっている。米国では、いくつかの警察署が物議を醸した犯罪予測アルゴリズムの使用を中止しており、テック企業はバイアスを含む顔認識テクノロジーの供給を停止している。2月には、オランダの裁判所が、ある人物が福祉詐欺や税金詐欺を働く可能性を予測するシステムは、マイノリティを不当に標的にするものだとして、違法判決を下した。英内務省が裁判所の判決を待たずにシステムを見直す決断をしたことは、大きな節目となる可能性がある。

人気の記事ランキング
  1. ChatGPT is everywhere. Here’s where it came from 解説:空前のブーム「チャットGPT」はどこから生まれたのか?
  2. AI image generator Midjourney blocks porn by banning words about the human reproductive system ミッドジャーニーが生殖器官の入力を禁止、生成AIの悪用防ぐには
  3. How OpenAI is trying to make ChatGPT safer and less biased 「大ボラ吹き」のチャットGPTをどうしつける? オープンAIに聞いた
  4. 10 Breakthrough Technologies 2023 MITTRが選んだ 世界を変える10大技術 2023年版
ウィル・ダグラス・ヘブン [Will Douglas Heaven]米国版 AI担当上級編集者
AI担当上級編集者として、新研究や新トレンド、その背後にいる人々を取材しています。前職では、テクノロジーと政治に関するBBCのWebサイト「フューチャー・ナウ(Future Now)」の創刊編集長、ニュー・サイエンティスト(New Scientist)誌のテクノロジー統括編集長を務めていました。インペリアル・カレッジ・ロンドンでコンピュータサイエンスの博士号を取得しており、ロボット制御についての知識があります。
10 Breakthrough Technologies 2023

MITテクノロジーレビューは毎年、その年を代表する10大テクノロジーを選んでいる。
これらのテクノロジーの中には、見覚えのあるものもあれば、意外なものもあるかもしれない。

私たちの生活に大きなインパクトを与える進歩とは何か? なぜそれが重要なのか? 説明しよう

記事一覧を見る
人気の記事ランキング
  1. ChatGPT is everywhere. Here’s where it came from 解説:空前のブーム「チャットGPT」はどこから生まれたのか?
  2. AI image generator Midjourney blocks porn by banning words about the human reproductive system ミッドジャーニーが生殖器官の入力を禁止、生成AIの悪用防ぐには
  3. How OpenAI is trying to make ChatGPT safer and less biased 「大ボラ吹き」のチャットGPTをどうしつける? オープンAIに聞いた
  4. 10 Breakthrough Technologies 2023 MITTRが選んだ 世界を変える10大技術 2023年版
MITテクノロジーレビュー[日本版] Vol.10
MITテクノロジーレビュー[日本版] Vol.10世界を変えるU35イノベーター2022年版

人工知能(AI)/ロボット工学、インターネット、通信、コンピューター/電子機器、輸送、持続可能性、生物工学など幅広いテクノロジー領域で活躍する2022年の日本を代表する若手イノベーター14人、米国・中国・欧州などで活躍するグローバルのイノベーター35人を一挙紹介する。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る