KADOKAWA Technology Review
×
2024年を代表する若きイノベーターたちに会える!【11/30】はIU35 Japan Summitへ
主張:機械学習の「参加型」アプローチはAI倫理の特効薬ではない
Ms Tech | Getty, Unsplash
人工知能(AI) 無料会員限定
Participation-washing could be the next dangerous fad in machine learning

主張:機械学習の「参加型」アプローチはAI倫理の特効薬ではない

機械学習システムの設計・構築における不平等を解消する機運が高まっている。だが、背景にある収奪的な構造を無視したままでは問題は解決できない。 by Mona Sloane2020.10.12

人工知能(AI)界は、抑圧され不利な立場にある人々に対して機械学習が不均衡な損害をもたらす可能性があるという事実にようやく気づき始めた。活動家や運動家のおかげだ。現在、機械学習の研究者や学者たちは、AIをより公平かつ説明可能で透明性の高いものにする方法を模索しており、最近ではより「参加型(participatory)」になっている。

7月に開催されたICML(国際機械学習学会:International Conference on Machine Learning)で、最も活気に満ちあふれ、参加者の多かったイベントの1つが「機械学習への参加型アプローチ(Participatory Approaches to Machine Learning)」だった。このワークショップは、参加型の手法をAI構築の設計に取り入れることで、より民主的で協力的、公平なアルゴリズム・システムを構築したいというAI界の願望をうまく取り入れようというものだ。参加型の手法は、アルゴリズム・システムの設計過程に影響を与える。例えば、看護師と医師に敗血症を発見するツールの開発協力を依頼する、といったことだ。

参加型の手法は、極端に階層的で均質になりかねない機械学習の分野において、大いに必要とされる働きかけだ。しかし、特効薬ではない。実際、「参加型ウォッシュ(participation-washing)」がこの分野の次なる危険な流行になる可能性がある。私とエマニュエル・モス、オレイタン・アウォモロ、ローラ・フォルラーノが共同執筆した最近の論文「参加型は機械学習の設計における解決策ではない(Participation is not a design fix for machine learning)」では、そのように主張している。

制度的な抑圧と特権のパターンを無視することは、極めて不透明かつ不公平な、説明責任に欠けた機械学習システムにつながる。この構図は過去30年間にわたって、この分野に蔓延してきた。一方、世界は富の不平等と化石燃料による気候変動の加速的な拡大に注視してきた。これらの問題は、資本主義の重要な原動力である「収奪(extraction)」が根本にある。参加型もまた、特に機械学習分野では同様の収奪の論理に基づいていることが多い。

参加はタダではない

すでに参加型は、機械学習の大部分を占めている。しかし、問題のある方法で行なわれている。1つは、仕事としての参加だ。

仕事として認識されているかどうかにかかわらず、仕事として参加している多くの人たちは、機械学習モデルの訓練と評価に使われるデータ生成で重要な役割を果たしている。誰かが撮影し、投稿したいくつもの写真をWebから収集し、アマゾン・メカニカル・ターク(Amazon Mechanical Turk)などのプラットフォームに登録している低賃金労働者が、それらの写真に注釈を付けて訓練用のデータにする。また、普通のWebサイトのユーザーたちも、リキャプチャ(reCAPCHA)を完了するときに注釈作業を担っている。そのほかにも、ゴースト・ワークとして知られている例がたくさんある。ゴースト・ワーク …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. How ChatGPT search paves the way for AI agents 脱チャットGPTへ、オープンAIが強化するプラットフォーム戦略
  2. Promotion The winners of Innovators under 35 Japan 2024 have been announced MITTRが選ぶ、
    日本発U35イノベーター
    2024年版
  3. AI will add to the e-waste problem. Here’s what we can do about it. 30年までに最大500万トン、生成AIブームで大量の電子廃棄物
  4. The US is about to make a sharp turn on climate policy トランプ再選、気候対策に打撃 今後予測される影響は?
  5. OpenAI brings a new web search tool to ChatGPT チャットGPTに生成AI検索、グーグルの牙城崩せるか
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る