KADOKAWA Technology Review
×
限定クーポン利用で年額5000円OFF
夏のキャンペーン実施中!
バイアスなきAIのために
いま何をするべきか?
知性を宿す機械 無料会員限定
“We’re in a diversity crisis”: Black in AI’s founder on what’s poisoning the algorithms in our lives

バイアスなきAIのために
いま何をするべきか?

機械学習のトップカンファレンスに参加したAI研究者のティムニット・ゲブルは、黒人の参加者がわずか数人しかいないことに衝撃を受けた。ゲブルは、社会に急速に広まりつつあるAIの多様性を確保するために、いますぐ行動を始めなければならないと訴える。 by Jackie Snow2018.02.20

人工知能(AI)は、私たちの日常生活の中にますます溶け込みつつある。Web検索からソーシャルメディア、アレクサ(Alexa)のような家庭内アシスタントまで、いたるところに存在しているのだ。だが、もし、この非常に重要なテクノロジーの根底に意図せずバイアスが含まれているとしたらどうだろうか? そして、この非常に重要な分野に黒人研究者がいないとしたら? ティムニット・ゲブルは、昨年夏にマイクロソフトのFATE(Fairness:公平性、Accountability:説明責任、Transparency:透明性、Ethics:倫理)グループに加わり、この問題に取り組んでいる。

ゲブルはまた、2017年の神経情報処理システム(NIPS)カンファレンスにおけるイベント「ブラック・イン・AI(Black in AI)」の共同開催者であり、今月開催される初の「公平性と透明性」カンファレンスの運営委員でもある。ゲブルは、バイアスがいかにAIシステムに入り込んでいるか、そして多様性がそれをどう阻止できるかについて、MITテクノロジーレビューに語ってくれた。

——多様性の欠如によって、AI、とりわけコンピューター・ビジョンはどのように歪められているのでしょうか?

この問題について語り始めたら1年は話し続けられます。何を重要と考えるか、どのような研究が重要と考えるか、そしてAIのこの先がどうあるべきかという問題でバイアスが生じています。研究者に多様性が欠けていては、世界中の大部分の人々が直面している問題に対処することはできません。私たちは、自分に影響のない問題を重要だとは考えません。そうした問題があることすら気づかない可能性もあります。なぜなら、それらの問題を経験している人々との交流がないからです。

——システムにおけるバイアスを阻止する方法はあるのでしょうか?

AIに多様性がとても重要である理由は(それはデータセットについてだけでなく研究者の多様性も含めてですが)、社会的な感覚を持った人が必要だからです。私たちは、AIにおける多様性の危機に瀕しています。技術についての話や、法に関する話、倫理についての話だけではなくて、AIにおける多様性についても話し合う必要があります。AIにはあらゆる種類の多様性が必要なんです。そして、これは特に緊急の問題として扱う必要があります。

技術的な観点からいえば、さまざまなアプローチがあります。その1つとして、データセットを多様化させ、データセットに人種や性別、年齢といったさまざまな注釈をつけることがあります。モデルの訓練が終わったら、それをテストして、さまざまな下位グループの間でそれがうまく行くかどうかを確かめます。ただ、たとえそうしたとしても、データセットの中にはある種のバイアスが含 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月150本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
いまだけ【5,000円引き】クーポン配布中
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月150本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
いまだけ【5,000円引き】クーポン配布中
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る