KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
「AI企業にフリーパスを与えすぎている」ジョイ・ブオラムウィニ
Naima Green
人工知能(AI) 無料会員限定
Joy Buolamwini: “We’re giving AI companies a free pass”

「AI企業にフリーパスを与えすぎている」ジョイ・ブオラムウィニ

先駆的なAI研究と啓蒙活動で知られるジョイ・ブオラムウィニ博士が、現在のAIのもたらす危害を指摘し、思いがけずに活動家になるに至った経緯について語った。 by Melissa Heikkilä2023.11.10

著名な人工知能(AI)研究者で活動家のジョイ・ブオラムウィニは、ボストンの自宅からズーム(Zoom)の画面に登場した。おなじみの太縁メガネをかけている。

マサチューセッツ工科大学(MIT)の卒業生であるブオラムウィニは、MITテクノロジーレビューのロンドンのオフィスに掲げられたバックナンバーの表紙に興味津々のようだった。1961年のある号の表紙にはこう書かれている。「あなたの息子は大学に進学しますか?」

ブオラムウィニはその表紙を面白いと感じたようだった。そして、写真を撮った。1961年から世の中は大きく変わった。新たな回顧録「Unmasking AI: My Mission to Protect What Is Human in a World of Machines(AI の仮面を剥ぐ: 機械の世界で人間らしさを守ることが私の使命、未邦訳)」において、彼女は自分の人生について語っている。多くの面で、ブオラムウィニは1961年以降の技術の進歩や、今後必要とされる進展を体現している。

彼女は、2017年にAI研究者ティムニット・ゲブルと共に執筆した先駆的な論文「ジェンダー・シェード(Gender Shades)」で最もよく知られている。商業的な顔認識システムが、しばしば肌が黒や茶色の人々の顔(特に黒人女性の顔)を認識できない問題を暴いた論文だ。彼女の研究や擁護運動がきっかけとなって、グーグルやIBM、マイクロソフトは自社のソフトウェアを改善してバイアスを減らし、司法当局に技術を売ることを控えるようになった。

今、ブオラムウィニは新たな目標を見据えている。AIシステムの構築方法を根本から再考することを提唱しているのだ。彼女はMITテクノロジーレビューに「今、AIが過剰にもてはやされる中で、AIに適用されるルールをAI企業に決めさせていることには深刻なリスクがあります」と語った。そして、偏った抑圧的な技術の隆盛を許した時代とまったく同じ過ちを繰り返していると訴えた。

「私が懸念しているのは、あまりにも多くの企業にフリーパスが与えられていることです。あるいは、私たちは(AIがもたらす危害から)目を背けながら、イノベーションを称賛していることです」。

ブオラムウィニは、現在もっとも旬なAIアプリケーションのベースとなっている、いわゆる「基盤モデル」が特に懸念されると語った。科学技術者たちは、そうした多機能なモデルが、チャットボットから自動化された映画製作に至るまで、他の多くのAIアプリケーションを飛躍させる役割を果たすと想定している。基盤モデルはインターネットから大量のデータを取得して構築されているため、著作権で保護されたコンテンツや個人情報を必然的に含んでいる。現在、アーティストや作曲家、作家などが、知的財産を同意なしに奪われたと主張し、多数のAI企業を訴えている。

AI企業の現在のやり方は倫理を欠いており、一種の「データ植民地主義」だとブオラムウィニは言う。しかも、「同意の有無は完全に軽視されている」のだ。

「法律がなければ、何でも取り放題です。まさに略奪状態です」。彼女自身も一人の著者として、自分が書いた本や詩、声、論説、それに博士論文までもがAIモデルに取り込まれることを十分に想定している。

「もし自分の創作物がそうしたシステムに使用されていたら、絶対に声を上げます。私たちはそうすべきです」。

企業が、気候にプラスの影響を与え、データを正当に取得したことを証明できて初めて、誇るに値する真のイノベーションと言 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. AI can make you more creative—but it has limits 生成AIは人間の創造性を高めるか? 新研究で限界が明らかに
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Interview with Prof. Masayuki Ohzeki: The Future of Quantum Computer Commercialization and the Qualities of Innovators 量子技術を最速で社会へ、大関真之教授が考えるイノベーターの条件
  4. How to fix a Windows PC affected by the global outage 世界規模のウィンドウズPCトラブル、IT部門「最悪の週末」に
  5. Robot-packed meals are coming to the frozen-food aisle 「手作業が早い」食品工場でもロボット化、盛り付け完璧に
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る