KADOKAWA Technology Review
×

ニューズラインエマージング・テクノロジーの最新情報をお届け。

AIの偏見を検証する第三者監査会社が始動
hannahlouise123, 35393 | Pixabay, Erin Winick
A new company audits algorithms to see how biased they are

AIの偏見を検証する第三者監査会社が始動

数学者キャシー・オニール博士は、アルゴリズムの公平性を検証する場を企業に提供している。

人工知能(AI)システムが高度化するにつれて、そのロジックをたどるのが難しく理解不能になり、いわゆる「ブラック・ボックス」を生み出した。こうしたアルゴリズムは、雇用やローンといった、私たちの生活の重要な部分をますます支配するようになってきている。だから、アルゴリズムの偏見と判断結果を理解するのは重要なのだ。

『Weapons of Math Destruction』(未邦訳:数学破壊の武器)の著者でもあるオニール博士は、アルゴリズムの第三者監査をする「オニール・リスク・コンサルタント&アルゴリズム監査(O’Neil Risk Consulting and Algorithmic Auditing)」を創業した。プログラムした人から訓練データまですべてを検証し、そのプロセスにおけるあらゆる偏見に警告を発する。

大多数の企業は、まだ第三者監査を利用していない(オニールのクライアントは6社だけ)。だが、企業は利用するべきだ。社会に対する最善の利益になるだけではなく、よい宣伝にもなるからだ。アルゴリズムの公正性の保証を得ることは、消費者に対し自社サービスが公平で効果的で信頼性があると証明できるのだ。

エリン・ウィニック [Erin Winick] 2018.05.10, 16:28
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35 」の日本版が候補者を募集している。特定の分野や業界だけでなく、世界全体の重要な課題を解決するイノベーターを発信していく。

記事一覧を見る
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る