IBMが顔認識技術の開発から撤退、人種差別助長を懸念

IBMは、顔認識ソフトウェアの開発・販売を停止すると発表した。人種差別を助長する懸念があるため。IBMのアービンド・クリシュナCEO（最高経営責任者）は議会へ提出した書簡で、「大衆監視、人種的プロファイリング、基本的人権と自由の侵害のために使用される、いかなる技術にも反対する」と述べている。

クリシュナCEOは、国内の法執行機関が顔認識技術を使用することが適切かどうか、どのように使用することが適切なのか、「国民的な対話」を求めた。書簡はこのほか、警察の不正行為を取り締まる新たな連邦規則や、有色人種の経済的機会の改善に必要とされる技能の訓練や教育も求めている。

活動家や専門家らは、顔認識システムのバイアス（偏り）を長年指摘しており、悪用の可能性について懸念を示してきた。懸念はもっともだ。2019年に米国立標準技術研究所が実施した画期的な研究では、顔認識アルゴリズムの大部分が、非白人の顔に対する性能が低いことが確認されたからだ。

IBMは、顔認識技術の開発から完全に撤退した最初の大手テック企業になる。このニュースは技術関係者や、特に顔認識の使用を心配する活動家からは広く好意的に受け止められた。だが、批評家らは、もともとIBMがほとんど足場を固めていない市場から撤退しても、IBMにとって大した犠牲にはならないとの見方を示す。

とはいえ、IBMほどの大手テック企業が、大きな物議を醸している話題の1つに対して、異例ともいえる道徳的な立場を取ったことに変わりはない。米国や世界中で警察による暴力と人種差別を巡る抗議が続いていることを考えると、実にタイムリーな判断だと言える。だが、これがIBMという1社だけの変化にとどまるのか、他のテック企業の行動を後押しする動きになるかどうかは定かではない。

• 48
• 197
• 2
• 2

人気の記事ランキング

1. The human cost of a WeChat ban: severing a hundred million ties 中国と世界をつなぐ 「ウィーチャット禁止」の 深刻すぎる影響
2. The AI optimization group's challenge: Innovation in infrastructure 屈指のAI最適化集団が挑む
   「インフラ」のイノベーション
3. A college kid’s fake, AI-generated blog fooled tens of thousands. This is how he made it. 大学生がGPT-3で偽記事を作ってニュースサイトで1位になった方法
4. It’s too late to stop QAnon with fact checks and account bans SNSで存在感増す陰謀論、 「Qアノン」とは何か？
5. IBM has built a new drug-making lab entirely in the cloud 化学実験を在宅で、IBMがロボット＋AIでクラウド新サービス

シャーロット・ジー [Charlotte Jee]米国版 ニュース担当記者

米国版ニュースレター「ザ・ダウンロード（The Download）」を担当。政治、行政、テクノロジー分野での記者経験、テックワールド（Techworld）の編集者を経て、MITテクノロジーレビューへ。 記者活動以外に、テック系イベントにおける多様性を支援するベンチャー企業「ジェネオ（Jeneo）」の経営、定期的な講演やBBCへの出演などの活動も行なっている。