ニューズラインエマージング・テクノロジーの最新情報をお届け。

数学者キャシー・オニール博士は、アルゴリズムの公平性を検証する場を企業に提供している。

人工知能（AI）システムが高度化するにつれて、そのロジックをたどるのが難しく理解不能になり、いわゆる「ブラック・ボックス」を生み出した。こうしたアルゴリズムは、雇用やローンといった、私たちの生活の重要な部分をますます支配するようになってきている。だから、アルゴリズムの偏見と判断結果を理解するのは重要なのだ。

『Weapons of Math Destruction』（未邦訳：数学破壊の武器）の著者でもあるオニール博士は、アルゴリズムの第三者監査をする「オニール・リスク・コンサルタント＆アルゴリズム監査（O’Neil Risk Consulting and Algorithmic Auditing）」を創業した。プログラムした人から訓練データまですべてを検証し、そのプロセスにおけるあらゆる偏見に警告を発する。

大多数の企業は、まだ第三者監査を利用していない（オニールのクライアントは6社だけ）。だが、企業は利用するべきだ。社会に対する最善の利益になるだけではなく、よい宣伝にもなるからだ。アルゴリズムの公正性の保証を得ることは、消費者に対し自社サービスが公平で効果的で信頼性があると証明できるのだ。