バグ報奨金にヒント、「AIのバイアス」を探す競技会始まる

AIシステムに含まれるバイアスを検出するコンペティション（競技会）が10月20日から11月30日にかけて実施されている。AIが社会のさまざまな局面で利用されるようになった現在、こうした監査の重要性は増している。 by Melissa Heikkilä2022.10.24

人工知能（AI）システムはいたるところに配備されている。だが、システムにバイアスがかかっているのかどうか、そして、どのようにかかっているのかが判明するまでに、数カ月から数年かかる場合がある。

多くの場合、これは大きな問題だ。不公平AIシステムのために、無実の人が逮捕されたり、住居や仕事、基本的なサービスを得られなくなったりすることもあるからだ。

2022年10月20日、AIと機械学習の専門家グループが、新しいバイアス報奨金のコンペティションを開始した。グループはこのコンペティションを通じて、AIシステムに埋め込まれたバイアスを発見するプロセスが加速することを期待している。

このコンペティションは、サイバーセキュリティのバグ報奨金にヒントを得ている。参加者には、AIモデルにおけるバイアスのかかったアルゴリズムを発見し、改善するツールを作ることを呼びかけている。

同コンペティションを主催するのは、ツイッター、ソフトウェア企業のスプランク（Splunk）、ディープフェイク検出のスタートアップ企業であるリアリティ・ディエンダー（Reality Defender）などで働く有志たちだ。17～18世紀の海賊にちなんで「バイアス・バッカニア」を自称する。

第1回のバイアス報奨金コンペティションは、バイアスのかかった画像の検出に取り組む。これはよく起こる問題で、過去には欠陥のある画像検出システムが、黒人をゴリラと誤認したことがある。

参加者は、各画像を肌の色、見た目の性別、年齢層で分類（ラベル付け）する機械学習モデルの構築に取り組み、データセットに含まれるバイアスを簡単に測定・発見できるようにする。合成的に生成した人間の顔の約1万5000枚の画像データへのアクセス権を与えられ、自身の機械学習モデルが画像をどれだけ正確にタグ付けしているか、コードの実行にどの程度の時間がかかっているかなどの指標でランク付けされる。コンペティションは11月30 …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【夏割】実施中！年間購読料20%オフ！

人気の記事ランキング