Joy Buolamwini ジョイ・ブォロムウィニ (28)

大学時代、ジョイ・ブォロムウィニはいくつかの顔分析システムは、白いマスクを着けないと彼女の浅黒い肌を検知できないことを発見した。「私は文字通り、テクノロジーの視野に入らなかったのです」とブォロムウィニは話す。

これがきっかけで、マサチューセッツ工科大学（MIT）の卒業論文の研究テーマが決まった。顔分析システムに使用される既存のデータ・セットの大部分が皮膚の色の薄い男性の顔だと突き止めた。そこで、ブォロムウィニは1000人を超えるアフリカとヨーロッパの政治家で構成される、男女比のバランスが取れたデータ・セットを作成した。このデータ・セットを使ってIBM、マイクロソフト、フェイス＋＋（Face++）の人工知能（AI）システムでテストしたところ、性別と肌の色で精度が大幅に異なることが分かった。この3つのシステムが性別を判定する際、より肌の色が白い男性の誤判別率は1％未満だった。ところが、より肌の色が黒い女性の顔の場合の誤判別率は35％と高かったのだ。

フェイスブックが写真に写っている人物を誤って分類することからも分かるように、こうした誤りは迷惑でしかない。だが、AIに頼る分野はますます増えている。司法当局は予測警備に、裁判官はどの刑事被告人が再犯する可能性が高いかを判断するのにAIを使っており、不当に扱われる機会があると思うと恐ろしい。「私たちは自分たちのシステムのチェックを続ける必要に迫られています。システムは思わぬ形で失敗をする可能性があるからです」とブォロムウィニはいう。

元ローズ奨学生であり、フルブライト・フェローであるブォロムウィニは、アルゴリズム・ジャスティス・リーグ（Algorithmic Justice League）を設立し、アルゴリズムの偏見に立ち向かっている。単にアルゴリズムの偏見を明らかにするだけではなく、顔認識システムが精度試験を受けるなど、アルゴリズムに偏見が生じないようにする措置を開発したいと考えている。

（エリカ・ベラス）

人気の記事ランキング

1. Design thinking was supposed to fix the world. Where did it go wrong? 世界を変えるはずだった 「デザイン思考」とは 何だったのか？
2. MITTR Emerging Technology Nite #23 Plus MITTR主催「生成AI革命2」開催（オンライン＆東京）のご案内
3. Geoffrey Hinton tells us why he’s now scared of the tech he helped build ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか？
4. This abundant material could unlock cheaper batteries for EVs 中国企業が続々発表、ナトリウムイオンはEV電池の主流になるか？
5. How chemists could give new life to old wind turbine blades 使用済み風力タービンの羽根がゴミの山に？ 再生可能にする新手法

• 1
• 0