KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
バグ報奨金にヒント、「AIのバイアス」を探す競技会始まる
Stephanie Arnett/MITTR | Getty Images
人工知能(AI) 無料会員限定
A bias bounty for AI will help to catch unfair algorithms faster

バグ報奨金にヒント、「AIのバイアス」を探す競技会始まる

AIシステムに含まれるバイアスを検出するコンペティション(競技会)が10月20日から11月30日にかけて実施されている。AIが社会のさまざまな局面で利用されるようになった現在、こうした監査の重要性は増している。 by Melissa Heikkilä2022.10.24

人工知能(AI)システムはいたるところに配備されている。だが、システムにバイアスがかかっているのかどうか、そして、どのようにかかっているのかが判明するまでに、数カ月から数年かかる場合がある。

多くの場合、これは大きな問題だ。不公平AIシステムのために、無実の人が逮捕されたり、住居や仕事、基本的なサービスを得られなくなったりすることもあるからだ。

2022年10月20日、AIと機械学習の専門家グループが、新しいバイアス報奨金のコンペティションを開始した。グループはこのコンペティションを通じて、AIシステムに埋め込まれたバイアスを発見するプロセスが加速することを期待している。

このコンペティションは、サイバーセキュリティのバグ報奨金にヒントを得ている。参加者には、AIモデルにおけるバイアスのかかったアルゴリズムを発見し、改善するツールを作ることを呼びかけている。

同コンペティションを主催するのは、ツイッター、ソフトウェア企業のスプランク(Splunk)、ディープフェイク検出のスタートアップ企業であるリアリティ・ディエンダー(Reality Defender)などで働く有志たちだ。17~18世紀の海賊にちなんで「バイアス・バッカニア」を自称する。

第1回のバイアス報奨金コンペティションは、バイアスのかかった画像の検出に取り組む。これはよく起こる問題で、過去には欠陥のある画像検出システムが、黒人をゴリラと誤認したことがある。

参加者は、各画像を肌の色、見た目の性別、年齢層で分類(ラベル付け)する機械学習モデルの構築に取り組み、データセットに含まれるバイアスを簡単に測定・発見できるようにする。合成的に生成した人間の顔の約1万5000枚の画像データへのアクセス権を与えられ、自身の機械学習モデルが画像をどれだけ正確にタグ付けしているか、コードの実行にどの程度の時間がかかっているかなどの指標でランク付けされる。コンペティションは11月30 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
購読キャンペーン実施中!ひと月あたり1000円に
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る