KADOKAWA Technology Review
×
発表!MITテクノロジーレビューが選ぶ
2022年のイノベーター14人。
【12/15 Summit開催】
バグ報奨金にヒント、「AIのバイアス」を探す競技会始まる
Stephanie Arnett/MITTR | Getty Images
知性を宿す機械 無料会員限定
A bias bounty for AI will help to catch unfair algorithms faster

バグ報奨金にヒント、「AIのバイアス」を探す競技会始まる

AIシステムに含まれるバイアスを検出するコンペティション(競技会)が10月20日から11月30日にかけて実施されている。AIが社会のさまざまな局面で利用されるようになった現在、こうした監査の重要性は増している。 by Melissa Heikkilä2022.10.24

人工知能(AI)システムはいたるところに配備されている。だが、システムにバイアスがかかっているのかどうか、そして、どのようにかかっているのかが判明するまでに、数カ月から数年かかる場合がある。

多くの場合、これは大きな問題だ。不公平AIシステムのために、無実の人が逮捕されたり、住居や仕事、基本的なサービスを得られなくなったりすることもあるからだ。

2022年10月20日、AIと機械学習の専門家グループが、新しいバイアス報奨金のコンペティションを開始した。グループはこのコンペティションを通じて、AIシステムに埋め込まれたバイアスを発見するプロセスが加速することを期待している。

このコンペティションは、サイバーセキュリティのバグ報奨金にヒントを得ている。参加者には、AIモデルにおけるバイアスのかかったアルゴリズムを発見し、改善するツールを作ることを呼びかけている。

同コンペティションを主催するのは、ツイッター、ソフトウェア企業のスプランク(Splunk)、ディープフェイク検出のスタートアップ企業であるリアリティ・ディエンダー(Reality Defender)などで働く有志たちだ。17~18世紀の海賊にちなんで「バイアス・バッカニア」を自称する。

第1回のバイアス報奨金コンペティションは、バイアスのかかった画像の検出に取り組む。これはよく起こる問題で、過去には欠陥のある画像検出システムが、黒人をゴリラと誤認したことがある。

参加者は、各画像を肌の色、見た目の性別、年齢層で分類(ラベル付け)する機械学習モデルの構築に取り組み、データセットに含まれるバイアスを簡単に測定・発見できるようにする。合成的に生成した人間の顔の約1万5000枚の画像データへのアクセス権を与えられ、自身の機械学習モデルが画像をどれだけ正確にタグ付けしているか、コードの実行にどの程度の時間がかかっているかなどの指標でランク付けされる。コンペティションは11月30 …

AIシステムに含まれるバイアスを検出するコンペティション(競技会)が10月20日から11月30日にかけて実施されている。AIが社会のさまざまな局面で利用されるようになった現在、こうした監査の重要性は増している。
こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る