AI批評家、ゲイリー・マーカスとの散歩で話したこと
ニューヨーク大学名誉教授で元ウーバー(Uber)AI研究所所長のゲイリー・マーカスは、生成AIはテック企業の新たな搾取的ビジネスモデルであり、こうした企業は責任あるAIについてほとんど関心がないと喝破する。 by Melissa Heikkilä2024.02.22
この記事は米国版ニュースレターを一部再編集したものです。
ゲイリー・マーカスは、バンクーバーのグランビル・アイランドの郵便局の外で、ネオンコーラルカラーのスニーカーとアークテリクスのブルーのジャケットという出で立ちで私を出迎えてくれた。そのとき私は、家族の用事でこの街に来ていた。マーカスは20年間のニューヨークでの生活を経て、2018年からこの街に住んでいる。マーカスの毎日の日課である、グランビル・アイランドと近くのキツラノ・ビーチでの散歩に付き合っていると、マーカスは「ここは本当に楽園のようですよ」と言った。私たちは散歩をしながら、他でもない、人工知能(AI)の現状について話すことにしていた。
「そのことで、憂鬱になっているのです」とマーカスは言う。「私がAIの分野に足を踏み入れたのは、アーティストから大企業へと、富が大量に入れ替わるようにするためではありません」。私はブラックのダークローストコーヒーを大きく一口飲んだ。それでは始めることにしよう。
ニューヨーク大学の名誉教授であるマーカスは、著名なAI研究者および認知科学者であり、深層学習とAIを声高に批判する人物として知られている。マーカスは、何かと敵の多い人物である。X(旧ツイッター)での、ヤン・ルカンやジェフリー・ヒントンなどのAI界の重鎮たちとの激しいやり取りで、すでにマーカスのことをご存知の方もいるかもしれない(「私を社会生活に適合させようとする試みはすべて失敗した」とマーカスは冗談を言っている)。そしてマーカスがツイートをするのは、このような散歩のときが多いのである。
先週は、AIに関する大きなニュースのあった週だった。グーグル・ディープマインド(Google DeepMind)は、大量の動画やテキスト、画像を処理する機能が強化された、次世代の強力なAIモデル「Gemini(ジェミナイ)」を発表した。オープンAI(OpenAI)は、短いテキストの説明を取得して、最大1分間の詳細な高解像度フィルムクリップに変換できる、印象的な「Sora(ソラ)」という新しいビデオ生成モデルを構築した。AIによる動画生成はちょっと前からあったが、Soraはさらにレベルが高くなったようだ。私のXのタイムラインは、多くの人がSoraを使って生成した素晴らしいクリップであふれている。オープンAIは、Soraのようなビデオ生成モデルのスケーリングが、「物理世界の汎用シミュレーターの構築に向けた有望な道である」ことを示唆すると主張している。Soraについての詳細は、こちらの記事で読むことができる。
しかし驚いたことに、このSoraの動画にマーカスは感心していないのである。「(ビデオを)少し見ると、『ああ、すごいな』と思うでしょう。でももっと注意深く見れば、(AIシステムは)まだ常識的判断を理解していません」とマーカスは言う。確かに一部の動画では、物理的な挙動が明らかにおかしく、動物や人が自然に現れたり消えたり、物体が後ろ向きに飛んだりしている。
マーカスにとって、生成(ジェネレーティブ)ビデオはテック企業の搾取的ビジネスモデルの新たな例なのだ。多くのアーティストや作家、さらにはニューヨークタイムズ紙さえも、モデルを訓練するためにインターネットのデータを無差別にスクレイピングする行為が、知的財産を侵害しているとしてAI企業を訴えている。著作権の問題はマーカスの最大の関心事だ。マーカスは、人気のAI画像ジェネレーターに、マーベル映画やミニオンズ、ソニック・ザ・ヘッジホッグ、スターウォーズなどの有名キャラクターのシーンを生成させることに成功した。マーカスはAIモデルに何が組み込まれるかについて、より明確なルールを求めるロビー活動を始めている。
「何が起こっているのか理解できない不透明なシステムで、同意なしに取り込まれた著作権で保護された素材を使用して、ビデオの生成をするべきではありません」とマーカスは言う。「法的に正当な行為ではないはずです。また、明らかに倫理的な行為でもないでしょう」 。
散歩の途中、私たちは景色の良い場所で立ち止まった。市街地、山々、ビーチが見渡せる美しいルートだ。湾の向こうの山の頂に、太陽の光が当たっている。私たちは、今日のAIブームの中心地であるシリコンバレーからそれほど遠くない場所にいた。「私は信心深い人間ではないですが、この種の景色には心を揺さぶられ続けています」とマーカスは言った。
しかし、周囲の静けさとは裏腹に、マーカスがシリコンバレーの権力構造を批判するためにXを使用するのは、このような散歩のときなのだ。現在、自分は活動家であると自認しているとマーカスは話す。
私が活動の動機を尋ねると、マーカスは間髪入れずにこう答えた。「AIを使用している人たちは、責任あるAIと呼ばれるものについてはそれほど気にしていません。また、AIの社会への影響が深刻になるかもしれないということにも関心がないのです」 。
昨年末、マーカスは『Taming Silicon Valley(シリコンバレーを飼いならす)』という本を執筆した。これはAIをどのように規制すべきかについてのマーカスのマニフェストであるだけでなく、行動への呼びかけでもある。マーカスによれば、「AI企業に責任ある行動をとらせるためには、一般の人々をこの闘争に参加させる必要があるのです」とのことだ。
AI企業による行為を一掃するまで一部のソフトウェアをボイコットすることから、技術政策に基づいて選挙候補者を選ぶことまで、私たちにできることはたくさんあるとマーカスは言う。
AIの問題を修正できる期間は非常に限られているため、行動とAI政策が早急に必要であるとマーカスは主張している。そしてリスクは、規制当局がソーシャルメディア企業に対して犯したのと同じ間違いを、私たちも犯すことだ。
「私たちがソーシャルメディアで見てきたものは、これから起こることに比べれば、単なる前菜のようなものになるでしょう」とマーカスは言う。
1万2000歩ほど歩いたところで、私たちはグランビル・アイランドのパブリックマーケットに戻ってきた。お腹が空いたので、マーカスがおいしいベーグルの店を教えてくれた。そして2人でクリームチーズ入りのロックスを買って外の太陽の下で食べた後、私たちは別れることにした。
その日の後になって、マーカスはSoraに関するツイートを立て続けに投稿していた。彼はSoraに対してこのようなツイートをするのに、これまでに十分な証拠を見てきた。「Soraは素晴らしいが、汎用人工知能(AGI)に必要な物理的推論への道というよりは、モーフィングやスプライシングに似ている」とマーカスは投稿している。「より多くの人がアクセスできるようになるにつれ、より多くのシステム的な不具合が見られるだろう。その多くは修復するのが難しいだろう」 。
後になって、マーカスはそんなことは警告しなかったと言わないように。
◆
宇宙からのメタン漏洩の地図を作成する新しい人工衛星
3月に打ち上げられる予定のメタン測定衛星は、グーグルのAIを使用してメタンの漏洩を定量化して地図を作成し、メタンの排出を削減することを目指している。このミッションは非営利団体「環境防衛基金(Environmental Defense Fund:EDF)」との共同プロジェクトの一環であり、この結果、メタン排出量のこれまでで最も詳細な実態が得られるだろう。メタン漏洩に関する最悪の場所と、その責任者を特定するのに役立つことが期待されている。
温室効果ガスによる温暖化の約3分の1はメタンが原因となっており、米国などの規制当局は、石油・ガス工場からの漏洩を抑制するための規制の強化を推進している。この衛星「メタンSAT(MethaneSAT)」は、世界中の石油・ガス事業から目に見えずに噴出している「メタンプルーム」を測定し、そしてその結果に基づいて、グーグルとEDFは研究者や規制当局、一般の人々が使用できるようにメタンの漏洩をマッピングする。詳細は、新しいAI記者のジェームズ・オドネルによるこちらの記事で読むことができる。ジェームズは、AIとロボット工学やチップなどのハードウェアとの接点についての記事を書いている。
AI関連のその他のニュース
AIは動画の定義を変えるのだろうか? オープンAIのSoraのようなシステムは録画をしない。これらのAIはアイデアを表現するのだ。リアルではないことに問題はあるだろうか?(ニューヨーカー)
マイクロソフトのAIボットのアーリーアダプターは、お金を払う価値があるかどうか疑問に思っている。テスターたちはすでに6カ月間この製品を使用しているが、控えめに言っても結果はまちまちである。(ウォール・ストリート・ジャーナル)
米国政府が、新しいチップ工場に15億ドルを投じる予定。「CHIPS法」の一部である巨額の補助金は、米国が現代生活の最も重要な要素の一部を、自国で供給できるようにするのに役立つだろう。(ワシントン・ポスト)
AIへの過剰な期待には、通信のブームと不況の影響を反映している。最高経営責任者(CEO)が、資金調達の際に数十億ドルではなく数兆ドルを要求した場合、そのセクターが少し熱くなりすぎている可能性があることがわかる。(フィナンシャル・タイムズ)
- 人気の記事ランキング
-
- These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
- The startup trying to turn the web into a database Webをデータベースに変える、新発想のLLM検索エンジン
- 3 things that didn’t make the 10 Breakthrough Technologies of 2025 list 2025年版「世界を変える10大技術」から漏れた候補3つ
- OpenAI’s new defense contract completes its military pivot オープンAIが防衛進出、「軍事利用禁止」から一転
- メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者
- MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ(POLITICO)』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」(欧州メディア部門)に選出された。