KADOKAWA Technology Review
×
【3/14】MITTR主催「アクセシビリティとテクノロジー 」開催 申込受付中
野放しの生成AIブームに規制はいつ追いつくか?
Stephanie Arnet/MITTR
How do you solve a problem like out-of-control AI? 

野放しの生成AIブームに規制はいつ追いつくか?

最近の生成AI関連の動きは誰もが驚くほどのスピードで進んでいる。一方で欧州や米国では規制の動きもあるが、追いついていない状況だ。 by Melissa Heikkilä2023.07.14

この記事は米国版ニュースレターを一部再編集したものです。

グーグルは5月10日、生成AIに全面的に注力していることを明らかにした。自社開催の年次開発者会議であるグーグルI/O(Google I/O)でグーグルは、グーグル・ドキュメント(Google Docs)からコーディングやオンライン検索に至るまで、事実上すべての製品にAIツールを組み込むことを計画していると発表した(詳しくはこちらから)。

グーグルの発表はとてつもなく大きな意味を持つ。文書作成から問い合わせへの回答や、コードの作成やデバッグに至るまで、あらゆる種類の作業を支援してくれる最先端の強力なAIモデルを、何十億もの人々が利用できるようになるのだ。本誌のマット・ホーナン編集長が分析記事で書いているように、今やAIがグーグルの中核製品であることは明らかだ。

グーグルのアプローチは、これらの新機能を自社製品に段階的に導入していくというものだ。だが、上手くいかなくなるのは時間の問題だろう。グーグルは、これらのAIモデルが共通して抱えている問題を何一つ解決していない。AIは、依然として物事をでっち上げている。そしていまだに、簡単な操作でAIにルールを破らせることができてしまう。攻撃に対して脆弱でもある。そして、AIがデマ、詐欺、スパムのツールとして使われるのを止める方法はほとんどない。

この種のAIツールは、比較的新しいものであるからこそ、ほとんど規制のない領域で稼働しているのだ。だがそれはいつまでも続けられることとは思えない。チャットGPT(ChatGPT)後の高揚感が冷めるにつれ、規制を求める声が大きくなり、規制当局はAIテクノロジーに関して厳しい質問を投げかけ始めている。

米国の規制当局は、強力なAIツールを管理する方法を見つけ出そうとしている。5月16日には、オープンAI(OpenAI)のサム・アルトマンCEOが米上院司法委員会の公聴会で証言した。公聴会に先立ち、5月4日にはカマラ・ハリス副大統領と、アルファベット、マイクロソフト、オープンAI、アンソロピック(Anthropic)のCEOたちが会談している。

ハリス副大統領は声明で、企業には自社製品の安全性を確保する「倫理的、道義的、法的な責任」があると述べた。多数派のリーダーであるニューヨーク州選出のチャック・シューマー上院議員は、AI規制の法律を提案しており、その法案には規則を執行するための新機関を設けることが含まれる可能性がある。

「誰もが何かをしているように見られたいのです。このすべてがどこへ向かっているのか、多くの社会的な不安があります」とスタンフォード大学「人間中心のAI研究所(Human-Centered AI Institute)」の個人情報・データ政策特別研究員であるジェニファー・キングは言う。

新たなAI法案に超党派の支持を得るのは難しいだろうとキング特別研究員は言う。「どの程度まで(生成AIが)現実的な社会レベルの脅威とみなされるかによって決まります」。しかし、米国連邦取引委員会(FTC)のリナ・カーン委員長は「猛然と攻め立てて」いるとキング特別研究員は付け加える。5月初めにカーン委員長は、ある新聞記事への反論を寄稿し、過去にテック業界に対して甘すぎたことが招いた誤りを防ぐためにも、今すぐAI規制を導入すべきだと呼びかけた。そして、米国では規制当局がAIを規制するために、反トラスト法や商慣習法など、すでにある既存の法律を使う可能性が高いことを示唆した。

一方、欧州では、AI規制法案の最終合意に少しずつ近づいている。5月11には欧州議会の議員たちが、公共の場で顔認識テクノロジーの使用を禁止するよう求める規制法案に署名した。規制法案はまた、予測捜査(Predictive Policing)、感情認識、ネット上での生体データの無差別収集も禁止している。

欧州連合(EU)は、生成AIにも制約をかけるべくさらに多くの規則を策定しようとしており、議会は大規模なAIモデルを開発する企業に対し、より透明性を高めることを求めている。これらの法案には、AI生成コンテンツにラベルを付けること、モデルの訓練に使用した著作権保護対象のデータの概要を公表すること、モデルが違法コンテンツを生成するのを防ぐ予防手段を設けることなどが含まれる。

だが、ここに問題がある。EUが生成AIをめぐる規則を導入するまでの道のりはまだ長く、AI規制法案で提案されている法案の多くは最終版に間に合わないのだ。議会、欧州委員会、欧州連合加盟国の間には、まだ厳しい交渉が残されている。AI規制法案が施行されるまで何年もかかるだろう。

規制当局が準備を整えるために悪戦苦闘している一方で、テック業界の著名人物たちはその発言によって、オヴァートンの窓(多くの人に受け入れられる考え方)を変えてしまおうと動き始めている。5月3日、スイス・ジュネーブで開かれた世界経済フォーラム(WEF)のイベントで、マイクロソフトの主席エコノミストであるマイケル・シュワルツは、AIによる「実害」を目の当たりにするまで、AIの規制は待つべきだと述べた。シュワルツはそれを運転免許証になぞらえた。運転免許証は、何十人もの人々が事故で死亡した後で初めて導入されたのだと。「実際に何が問題であるのかを知るには、少なくとも少しの害がなければなりません」と言った。

この発言は聞き捨てならない。AIによる害はもう何年も前から記録に残っている。すでにバイアスや差別AI生成のフェイクニュース詐欺などが横行している。AIシステムが無実の人々を逮捕に追い込み、人々を貧困に陥れ、数万人の人々が詐欺罪で不当に告訴される事態を招いている。こうした害は、グーグルが発表したように生成AIが我々の社会に深く組み込まれるようになるにつれて、指数関数的に増大していくだろう。

我々が自らに投げかけるべき質問は、どれだけの害なら目の当たりにしても構わないかということだ。私なら、もう十分に目の当たりにしたと言うだろう。

オープンソースのLLMブームはいつまで続く?

新たなオープンソースの大規模言語モデル(LLM)が、ピニャータ(編注:中南米の国の子供のお祭りで使う、紙製のくす玉。お菓子やおもちゃなどが詰まっている)から落ちてきたお菓子のように投下されている。グーグルのバード(Bard)やオープンAIのチャットGPTに代わるもので、研究者やアプリ開発者が研究や構築に使ったり、改変したりすることができるモデルだ。大手企業が作成した最高のAIモデルにほぼ匹敵する性能を誇り、小型で安価なバージョンだ。しかも無料で配布されている。

AIがどのように作られ、使われるかという未来は、岐路に立っているといえる。 一方では、これらのモデルを利用できるという事実が、イノベーションを促進させてきた。そしてそれは、それらのモデルの欠点を見つけるのにも役立つ。だが、このオープンソースのブームは心許ないものだ。オープンソースのモデルのほとんどはまだ、資金力がある大手企業が発表した巨大モデルの肩を借りている状態だ。仮にオープンAIやメタ(Meta)が店をたたむと決めたなら、まるで新興都市が僻地になってしまうかのようにそのブームもしぼみかねない。本誌のウィル・ダグラス・ヘブン編集者による記事はこちらから読める。

AI関連のその他のニュース

アマゾンはチャットGPTのような機能を持つ秘密の家庭用ロボットを開発しようとしている。流出文書によると、見たものを記憶して理解し、人間の質問や命令に応える「アストロ」ロボットのアップデート・バージョンの計画があるようだ。だが、計画しているロボットが人々の家庭に安全に導入されるようになる前に、アマゾンは多くの問題を解決しなければならない。(インサイダー

スタビリティAI(Stability AI)がテキストからアニメを生成するモデルを発表。テキストから画像を生成するオープンソースのモデルであるステーブル・ディフュージョン(Stable Diffusion)を開発した企業が、テキストや画像、映像プロンプトを使ってアニメが作成できるというツールを発表した。 著作権の問題はさておき、こうしたツールは創造力がある人々にとって強力なツールとなる可能性がある。さらにオープンソースで公開しているため、より多くの人が利用できることになる。また、やがて来る次のステップであるテキストから映像を生成するオープンソース・モデルまでの一時しのぎでもある。(スタビリティAI

AIが文化戦争に巻き込まれる―ハリウッドの脚本家たちのストライキを見てみよう。全米脚本家組合とハリウッド・スタジオの間の争いの一つに、映画やテレビの脚本の執筆にAIの使用が許されるべきかという問題がある。うんざりしながらも予想がつくところだが、米国の文化戦争に従事する人々がこの争いに参戦している。ネット上の荒らしたちは、ストライキをする脚本家たちに、AIがその職を奪ってしまうことになるだろうと嬉々として囃し立てている。(ニューヨークマガジン

人気の記事ランキング
  1. Watch this robot as it learns to stitch up wounds AIロボットが縫合技術を習得、6針縫うことに成功
  2. Promotion MITTR Emerging Technology Nite #27 MITTR主催「アクセシビリティとテクノロジー 」開催のご案内
  3. OpenAI teases an amazing new generative video model called Sora 動画でも生成革命、オープンAIが新モデル「Sora」を発表
  4. People are worried that AI will take everyone’s jobs. We’ve been here before. 生成AIは雇用を奪うのか? MIT学長が書いた 85年前の記事に学べること
メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者
MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ(POLITICO)』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」(欧州メディア部門)に選出された。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. Watch this robot as it learns to stitch up wounds AIロボットが縫合技術を習得、6針縫うことに成功
  2. Promotion MITTR Emerging Technology Nite #27 MITTR主催「アクセシビリティとテクノロジー 」開催のご案内
  3. OpenAI teases an amazing new generative video model called Sora 動画でも生成革命、オープンAIが新モデル「Sora」を発表
  4. People are worried that AI will take everyone’s jobs. We’ve been here before. 生成AIは雇用を奪うのか? MIT学長が書いた 85年前の記事に学べること
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る