KADOKAWA Technology Review
×
来たれ、世界を変える若きイノベーター
「Innovators Under 35」日本初開催!
主張:機械学習の「参加型」アプローチはAI倫理の特効薬ではない
Ms Tech | Getty, Unsplash
知性を宿す機械 無料会員限定
Participation-washing could be the next dangerous fad in machine learning

主張:機械学習の「参加型」アプローチはAI倫理の特効薬ではない

機械学習システムの設計・構築における不平等を解消する機運が高まっている。だが、背景にある収奪的な構造を無視したままでは問題は解決できない。 by Mona Sloane2020.10.12

人工知能(AI)界は、抑圧され不利な立場にある人々に対して機械学習が不均衡な損害をもたらす可能性があるという事実にようやく気づき始めた。活動家や運動家のおかげだ。現在、機械学習の研究者や学者たちは、AIをより公平かつ説明可能で透明性の高いものにする方法を模索しており、最近ではより「参加型(participatory)」になっている。

7月に開催されたICML(国際機械学習学会:International Conference on Machine Learning)で、最も活気に満ちあふれ、参加者の多かったイベントの1つが「機械学習への参加型アプローチ(Participatory Approaches to Machine Learning)」だった。このワークショップは、参加型の手法をAI構築の設計に取り入れることで、より民主的で協力的、公平なアルゴリズム・システムを構築したいというAI界の願望をうまく取り入れようというものだ。参加型の手法は、アルゴリズム・システムの設計過程に影響を与える。例えば、看護師と医師に敗血症を発見するツールの開発協力を依頼する、といったことだ。

参加型の手法は、極端に階層的で均質になりかねない機械学習の分野において、大いに必要とされる働きかけだ。しかし、特効薬ではない。実際、「参加型ウォッシュ(participation-washing)」がこの分野の次なる危険な流行になる可能性がある。私とエマニュエル・モス、オレイタン・アウォモロ、ローラ・フォルラーノが共同執筆した最近の論文「参加型は機械学習の設計における解決策ではない(Participation is not a design fix for machine learning)」では、そのように主張している。

制度的な抑圧と特権のパターンを無視することは、極めて不透明かつ不公平な、説明責任に欠けた機械学習システムにつながる。この構図は過去30年間にわたって、この分野に蔓延してきた。一方、世界は富の不平等と化石燃料による気候変動の加速的な拡大に注視してきた。これらの問題は、資本主義の重要な原動力である「収奪(extraction)」が根本にある。参加型もまた、特に機械学習分野では同様の収奪の論理に基づいていることが多い。

参加はタダではない

すでに参加型は、機械学習の大部分を占めている。しかし、問題のある方法で行なわれている。1つは、仕事としての参加だ。

仕事として認識されているかどうかにかかわらず、仕事として参加している多くの人たちは、機械学習モデルの訓練と評価に使われるデータ生成で重要な役割を果たしている。誰かが撮影し、投稿したいくつもの写真をWebから収集し、アマゾン・メカニカル・ターク(Amazon Mechanical Turk)などのプラットフォームに登録している低賃金労働者が、それらの写真に注釈を付けて訓練用のデータにする。また、普通のWebサイトのユーザーたちも、リキャプチャ(reCAPCHA)を完了するときに注釈作業を担っている。そのほかにも、ゴースト・ワークとして知られている例がたくさんある。ゴースト・ワーク …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る