KADOKAWA Technology Review
×
【締め切り迫る!1/20まで】年間購読料20%オフ & マガジン1冊プレゼントキャンペーン 実施中!

ニューズラインエマージング・テクノロジーの最新情報をお届け。

AIの偏見を検証する第三者監査会社が始動
hannahlouise123, 35393 | Pixabay, Erin Winick
A new company audits algorithms to see how biased they are

AIの偏見を検証する第三者監査会社が始動

数学者キャシー・オニール博士は、アルゴリズムの公平性を検証する場を企業に提供している。

人工知能(AI)システムが高度化するにつれて、そのロジックをたどるのが難しく理解不能になり、いわゆる「ブラック・ボックス」を生み出した。こうしたアルゴリズムは、雇用やローンといった、私たちの生活の重要な部分をますます支配するようになってきている。だから、アルゴリズムの偏見と判断結果を理解するのは重要なのだ。

『Weapons of Math Destruction』(未邦訳:数学破壊の武器)の著者でもあるオニール博士は、アルゴリズムの第三者監査をする「オニール・リスク・コンサルタント&アルゴリズム監査(O’Neil Risk Consulting and Algorithmic Auditing)」を創業した。プログラムした人から訓練データまですべてを検証し、そのプロセスにおけるあらゆる偏見に警告を発する。

大多数の企業は、まだ第三者監査を利用していない(オニールのクライアントは6社だけ)。だが、企業は利用するべきだ。社会に対する最善の利益になるだけではなく、よい宣伝にもなるからだ。アルゴリズムの公正性の保証を得ることは、消費者に対し自社サービスが公平で効果的で信頼性があると証明できるのだ。

エリン・ウィニック [Erin Winick] 2018.05.10, 16:28
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
年間購読料 20%OFF
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る