この記事は米国版ニュースレターを一部再編集したものです。

世界中にいるテイラー・スウィフトのような存在に、私たちは救われている。2024年1月、X（ツイッター）でテイラー・スウィフトのディープフェイク・ヌード画像が拡散され、世間の激しい反発を引き起こした。本人に無断で作成した露骨なディープフェイクは、人工知能（AI）がもたらす害の中でも、きわめて一般的かつ深刻なものの1つだ。ここ数年の生成AIブームによって問題は悪化する一方で、子どもや女性政治家が被害に遭う例が目立つ。

ひどい話ではあるが、おそらくスウィフトのディープフェイクは、他の何よりもこの種のリスクに対する意識を高め、テック企業や議員たちに行動を起こすよう駆り立てた。

「状況が変わりました」。10年近くディープフェイクを研究してきた生成AI専門家のヘンリー・アイダーは言う。アイダーによれば、現在私たちは転換点に立っているという。議員たちによる圧力と消費者の意識はかつてないほど高まっており、テック企業はこれ以上この問題を無視できなくなっているという。

まず、良いニュースがある。グーグルは先月、検索結果に露骨なディープフェイクを表示しないよう対策を講じると発表した。グーグルは、無断で作成された露骨な偽画像について、被害者がより簡単に削除を要求できるようにしている。また、検索で得られる露骨な結果をすべてふるいにかけ、複製された画像を削除することも予定している。こうすることで、今後この種の画像が再び表示されてしまうのを防ぐ。グーグルはまた、露骨なフェイク・コンテンツに導く検索結果のランクを下げている。誰かが人物の名前を検索キーワードに入れてディープフェイクを検索したときは、ニュース記事など、質が高く露骨ではないコンテンツが表示されるようにすることを目指す。

これは前向きな動きだと、アイダーは言う。グーグルの変更は、本人に断りなく作成された下品なディープフェイク・コンテンツが人々の目に触れる機会を大幅に減らす。「つまり、そのようなコンテンツにアクセスしたいユーザーは、見つけるのにより苦労することになります」。

私は今年1月、同意のない露骨なディープフェイクへの3つの対抗策について記事を書いた。1つ目は規制。2つ目は、AIが生成したものかどうかを判定しやすくする電子透かし。3つ目は、攻撃者に画像の悪用を難しくさせる保護シールドだ。

8カ月経った今でも、電子透かしや保護シールドはまだ実験的で信頼性に欠ける。とはいえ、規制が少しずつ現状に追い付いてきたのは良いニュースだ。 例えば英国では、本人の許可を得ていない露骨なディープフェイクの作成と配布の両方が禁止された。アイダーは、この種のコンテンツを配布する人気サイト「Mr DeepFakes」は英国によるこの決定を受けて、英国ユーザーからのアクセスをブロックすることになったという。

正式に施行されたEUのAI法は今後、透明性に関する重大な変化をいくつか引き起こすかもしれない。この法律は、ディープフェイクの作成者に対し、AIで作成した素材であることを明確に開示するよう義務付けている。そして7月下旬、米上院は、性的に露骨なディープフェイクに対して被害者が民事上の救済措置を求められるようにする「ディファイアンス法（Defiance Act）」を可決した。この法案の成立には今後、下院で多くの障壁を乗り越える必要がある。

しかし、やるべきことはもっとたくさんある。 グーグルは、どのWebサイトがトラフィックを獲得しているか明確に識別し、検索結果の上位からディープフェイクサイトを外そうとしているが、やれることはもっとあるかもしれない。「児童ポルノサイトのように扱い、可能ならば検索結果から完全に削除するというわけにはいかないのでしょうか？」とアイダーは言う。また、グーグルの発表の対象が画像のみで、ディープフェイクの動画には触れなかったことも奇妙なことだという。

ディープフェイク対策に関する記事を振り返ると、後知恵ではあるが、企業各社ができることをもっと盛り込むべきだったと分かる。グーグルが検索に変更を加えたことは大きな一歩だ。しかし、アプリストアには依然として、ユーザーにヌード・ディープフェイクの作成を可能にするアプリが氾濫しており、決済代行業者やアプリの提供者はまだ、人々がこのようなアプリを利用するインフラを提供している。

アイダーは私たちに対し、本人に無断で作成されたディープフェイクについて考え方を根本的に見直し、関係各社にそのようなコンテンツの作成やアクセスをより困難にするような変更を加えさせるため、圧力をかけるよう呼びかけている。

「こうしたコンテンツは、児童ポルノと同様に、反射的に嫌悪感を抱く言語道断のとんでもないものです。そのためにはすべてのプラットフォームが行動を起こす必要があります」。

---

難しい終末期医療の決断をAIが助けてくれる可能性

数カ月前、50代半ばの女性（仮にソフィーと呼ぶ）が脳出血を起こし、脳に大きな損傷を負った。この後、ソフィーの治療はどういう方向へ向かうべきなのだろうか？ この難問は、このような状況ではたいていそうであるように、ソフィーの家族に委ねられた。しかし、家族は意見を1つにまとめられなかった。この状況は、ソフィーの主治医を含め、関係者全員を苦しめた。

そこでAIの登場だ。寿命終末期の決断は、本人の代わりに決断しなければならない代理人を非常に動揺させる場合があると、米国立衛生研究所の生命倫理学者、デビッド・ウェンドラー研究倫理部長は言う。ウェンドラー部長らは、物事をより簡単にする可能性を秘めているあるものに取り組んでいる。患者自身が何を望むのか代理人が予測するのに役立つ、AIを利用したツールだ。 詳しくは本誌のジェシカ・ヘンゼロー記者の記事で。

AI関連のその他のニュース

• オープンAIが、話しかけることのできる新しいチャットGPT（ChatGPT）音声ボットを公開した。この新しいチャットボットは、オープンAIがシリ（Siri）やアレクサの流れに乗って、新世代のAI音声アシスタントを推し進めていることを表している。ただしチャットGPT音声ボットは、競合よりもはるかに多くの機能を備えており、より自然で流暢な会話を可能にしている。（MITテクノロジーレビュー）
• メタはユーザーからの支持を得られず、有名人AIチャットボットを廃止した。メタはパリス・ヒルトンなどの有名人をモデルにしたAIチャットボットを展開すると発表したが、それから1年も経たないうちに、この機能を廃止しようとしている。結局のところ、でたらめのAI有名人とチャットすることなど、誰も望んでいないと分かったのだ。その代わりにメタは、「AIスタジオ（AI Studio）」と呼ぶ新機能の提供を始めた。これは、クリエイターが自分自身のAIアバターを作成してファンとチャットできるようにするものだ。（ジ・インフォメーション）
• オープンAIはチャットGPTでカンニングする学生を捕まえるための透かしツールを持っているが、公開するつもりはない。このツールはAIが書いたテキストを99.9%の精度で検出できるが、オープンAIは人々がAI製品の利用を控えるかもしれないという恐れから、公開していない。（ウォール・ストリート・ジャーナル）
• EUのAI法がついに発効した。企業は、最悪の害に歯止めをかけることを目指すこの世界初の広範囲なAI法を遵守しなければならなくなった。この法律は、EU内外でAIを構築、使用する方法に、待ち望まれていた変化をもたらすだろう。この新法により何が変わり、何が変わらないかということについて、3月に記事を書いている。（欧州委員会）
• ティックトックのボットとAIは、どのように英国の極右暴力勢力の復活を促したか。英国では、3人の少女が刃物で刺される痛ましい事件が起きた後、極右勢力の暴動や破壊行為が急増している。暴徒たちは、憎悪を煽り、有害なステレオタイプを広めるAI生成画像を作成してきた。また極右グループは、AI音楽生成器を使って、外国人嫌悪を煽る曲も作った。強力な推薦アルゴリズムの恩恵を受けて、極右グループが作成した画像や音楽はネット上で山火事のように広がった。（ガーディアン）

• 5

人気の記事ランキング

1. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
2. The startup trying to turn the web into a database Webをデータベースに変える、新発想のLLM検索エンジン
3. 3 things that didn’t make the 10 Breakthrough Technologies of 2025 list 2025年版「世界を変える10大技術」から漏れた候補3つ
4. OpenAI’s new defense contract completes its military pivot オープンAIが防衛進出、「軍事利用禁止」から一転

▼Promotion