主張：機械学習の「参加型」アプローチはAI倫理の特効薬ではない

人工知能（AI）界は、抑圧され不利な立場にある人々に対して機械学習が不均衡な損害をもたらす可能性があるという事実にようやく気づき始めた。活動家や運動家のおかげだ。現在、機械学習の研究者や学者たちは、AIをより公平かつ説明可能で透明性の高いものにする方法を模索しており、最近ではより「参加型（participatory）」になっている。

7月に開催されたICML（国際機械学習学会：International Conference on Machine Learning）で、最も活気に満ちあふれ、参加者の多かったイベントの1つが「機械学習への参加型アプローチ（Participatory Approaches to Machine Learning）」だった。このワークショップは、参加型の手法をAI構築の設計に取り入れることで、より民主的で協力的、公平なアルゴリズム・システムを構築したいというAI界の願望をうまく取り入れようというものだ。参加型の手法は、アルゴリズム・システムの設計過程に影響を与える。例えば、看護師と医師に敗血症を発見するツールの開発協力を依頼する、といったことだ。

参加型の手法は、極端に階層的で均質になりかねない機械学習の分野において、大いに必要とされる働きかけだ。しかし、特効薬ではない。実際、「参加型ウォッシュ（participation-washing）」がこの分野の次なる危険な流行になる可能性がある。私とエマニュエル・モス、オレイタン・アウォモロ、ローラ・フォルラーノが共同執筆した最近の論文「参加型は機械学習の設計における解決策ではない（Participation is not a design fix for machine learning）」では、そのように主張している。

制度的な抑圧と特権のパターンを無視することは、極めて不透明かつ不公平な、説明責任に欠けた機械学習システムにつながる。この構図は過去30年間にわたって、この分野に蔓延してきた。一方、世界は富の不平等と化石燃料による気候変動の加速的な拡大に注視してきた。これらの問題は、資本主義の重要な原動力である「収奪（extraction）」が根本にある。参加型もまた、特に機械学習分野では同様の収奪の論理に基づいていることが多い。

参加はタダではない

すでに参加型は、機械学習の大部分を占めている。しかし、問題のある方法で行なわれている。1つは、仕事としての参加だ。

仕事として認識されているかどうかにかかわらず、仕事として参加している多くの人たちは、機械学習モデルの訓練と評価に使われるデータ生成で重要な役割を果たしている。誰かが撮影し、投稿したいくつもの写真をWebから収集し、アマゾン・メカニカル・ターク（Amazon Mechanical Turk）などのプラットフォームに登録している低賃金労働者が、それらの写真に注釈を付けて訓練用のデータにする。また、普通のWebサイトのユーザーたちも、リキャプチャ（reCAPCHA）を完了するときに注釈作業を担っている。そのほかにも、ゴースト・ワークとして知られている例がたくさんある。ゴースト・ワーク …