KADOKAWA Technology Review
×
無料の会員登録で、記事閲覧数が増えます
Biased Algorithms Are Everywhere, and No One Seems to Care

「人間はアルゴリズムを信頼しすぎ」グーグルの研究者らが警鐘

人工知能がさまざまな判断に関与するになり、アルゴリズムが持つ「偏見」の問題が無視できなくなっている。にも関わらず、企業も政府もいまだ問題の解決に関心を持っていない。 by Will Knight2017.08.08

不明瞭で、もしかしたら偏った数学モデルが我々の生活を作り変えている。そして、そのような数学モデルを開発した責任がある企業も政府も、この問題の解決には興味がない。

研究者と米国自由人権協会(ACLU)が、偏見的アルゴリズムを特定し明らかにする研究をする団体、AI Now(AI Now initiative)を設立した。7月中旬、このAI Nowの活動は、アルゴリズムに広がる課題を多くの専門家が話し合うマサチューセッツ工科大学(MIT)で開催されたイベントで発表された。

偏見的アルゴリズムは、機械学習と人工知能(AI)が革新的に成長している今、主要な社会問題となってきている。今までに増して重要な決断を任せれたアルゴリズムに潜む偏見が認識されず、検知もされないままになると、特に、より貧しい地域社会や少数派の人にとって重大な悪影響を招く可能性がある。結果として起こる一般市民の抗議は、とてつもなく役に立つ技術(「機械は偏見を持つのか? 犯罪者予測システムの是非を問う」参照)の進歩を妨害する可能性もある。

未知の偏見が隠されたアルゴリズムはすでに経済的、または法律的な極めて重要な決断のため、日常的に使われている。排他的な振る舞いをするアルゴリズムは、たとえば、誰を仕事の面接に呼ぶのか、誰の仮釈放を認めるのか、誰に融資をするのかなどを決定するのに使われている。

AI Nowの創業者でもあるマイクロソフトのケイト・クローフォード主任研究 …

こちらは会員限定の記事です。
無料登録すると1カ月10本までご利用いただけます。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
ザ・デイリー重要なテクノロジーとイノベーションのニュースを平日毎日お届けします。
公式アカウント