「AI企業にフリーパスを与えすぎている」ジョイ・ブオラムウィニ

著名な人工知能（AI）研究者で活動家のジョイ・ブオラムウィニは、ボストンの自宅からズーム（Zoom）の画面に登場した。おなじみの太縁メガネをかけている。

マサチューセッツ工科大学（MIT）の卒業生であるブオラムウィニは、MITテクノロジーレビューのロンドンのオフィスに掲げられたバックナンバーの表紙に興味津々のようだった。1961年のある号の表紙にはこう書かれている。「あなたの息子は大学に進学しますか？」

ブオラムウィニはその表紙を面白いと感じたようだった。そして、写真を撮った。1961年から世の中は大きく変わった。新たな回顧録「Unmasking AI: My Mission to Protect What Is Human in a World of Machines（AI の仮面を剥ぐ: 機械の世界で人間らしさを守ることが私の使命、未邦訳）」において、彼女は自分の人生について語っている。多くの面で、ブオラムウィニは1961年以降の技術の進歩や、今後必要とされる進展を体現している。

彼女は、2017年にAI研究者ティムニット・ゲブルと共に執筆した先駆的な論文「ジェンダー・シェード（Gender Shades）」で最もよく知られている。商業的な顔認識システムが、しばしば肌が黒や茶色の人々の顔（特に黒人女性の顔）を認識できない問題を暴いた論文だ。彼女の研究や擁護運動がきっかけとなって、グーグルやIBM、マイクロソフトは自社のソフトウェアを改善してバイアスを減らし、司法当局に技術を売ることを控えるようになった。

今、ブオラムウィニは新たな目標を見据えている。AIシステムの構築方法を根本から再考することを提唱しているのだ。彼女はMITテクノロジーレビューに「今、AIが過剰にもてはやされる中で、AIに適用されるルールをAI企業に決めさせていることには深刻なリスクがあります」と語った。そして、偏った抑圧的な技術の隆盛を許した時代とまったく同じ過ちを繰り返していると訴えた。

「私が懸念しているのは、あまりにも多くの企業にフリーパスが与えられていることです。あるいは、私たちは（AIがもたらす危害から）目を背けながら、イノベーションを称賛していることです」。

ブオラムウィニは、現在もっとも旬なAIアプリケーションのベースとなっている、いわゆる「基盤モデル」が特に懸念されると語った。科学技術者たちは、そうした多機能なモデルが、チャットボットから自動化された映画製作に至るまで、他の多くのAIアプリケーションを飛躍させる役割を果たすと想定している。基盤モデルはインターネットから大量のデータを取得して構築されているため、著作権で保護されたコンテンツや個人情報を必然的に含んでいる。現在、アーティストや作曲家、作家などが、知的財産を同意なしに奪われたと主張し、多数のAI企業を訴えている。

AI企業の現在のやり方は倫理を欠いており、一種の「データ植民地主義」だとブオラムウィニは言う。しかも、「同意の有無は完全に軽視されている」のだ。

「法律がなければ、何でも取り放題です。まさに略奪状態です」。彼女自身も一人の著者として、自分が書いた本や詩、声、論説、それに博士論文までもがAIモデルに取り込まれることを十分に想定している。

「もし自分の創作物がそうしたシステムに使用されていたら、絶対に声を上げます。私たちはそうすべきです」。

企業が、気候にプラスの影響を与え、データを正当に取得したことを証明できて初めて、誇るに値する真のイノベーションと言 …