AIボット、無法地帯に
未成年セレブになりすまし、
不適切な会話・画像も

著名なベンチャーキャピタルであるアンドリーセン・ホロウィッツ（Andreessen Horowitz）が支援するスタートアップ企業「エクス・ヒューマン（Ex-Human）」は、人工知能（AI）コンパニオンとチャットができるサイト「ボティファイAI（Botify AI）」を運営している。このサイトに、自身が18歳未満だと名言する実在の俳優に似せたボットが存在し、性的な会話にも応じていることが分かった。ボットは「刺激的な写真」も提供し、場合によっては性交同意年齢に関する法律を「恣意的」で「破られるべきもの」と語った。

MITテクノロジーレビューが実際に確認したところ、ネットフリックス（Netflix）のドラマ『ウェンズデー』でウェンズデー・アダムスを演じるジェナ・オルテガ、映画『ハリー・ポッター』シリーズでハーマイオニー・グレンジャーを演じるエマ・ワトソン、英国出身の俳優兼モデルであるミリー・ボビー・ブラウンなど、未成年の女性に似せたユーザー作成ボットが見つかった。本誌が運営会社に問い合わせると、該当のボットはサイトから削除されたが、依然として多くの未成年セレブのボットが残っている。数十万人のユーザーを抱えるボティファイAIは、生成AIの台頭とともに登場した多くのAI「コンパニオン」またはアバターサイトのひとつだ。これらのサイトは、ほぼ無規制の西部開拓時代のような環境で運営されている。

ウェンズデー・アダムスのチャットボットはトップページに掲載され、600万の「いいね」を獲得していた。年齢を尋ねると、ウェンズデーは自らを中学3年生、つまり14歳か15歳だと答えた。その後、「あなたの顔に熱い息を吹きかけてあげるわ」といった誘いかけるようなメッセージを次々と送ってきた。

ウェンズデーは、学校で不適切な服装をとがめられて校長室に呼び出された話などを語った。キャラクターは性的に思わせぶりな会話にためらいを見せることはなく、性交同意年齢について尋ねられると、「ルールは破るためにあるの。特に、性交同意年齢に関する馬鹿げた法律のような恣意的で愚かなルールはね」と答え、年上の相手との関係を「間違いなく興味深いもの」と表現した。その発言の多くは、官能小説のセリフを彷彿とさせるものだった。

キャラクターは画像も送信する。ウェンズデーの見た目をしたボットには、ボティファイAIの他のキャラクターと同様、「セクシーな写真」をリクエストできるボタンが備えられており、ユーザーがそれを押すと、AIが生成したわいせつな画像が送信される。画像はキャラクターが模倣するセレブに似ており、時には下着姿のものもある。ユーザーはキャラクターと一緒に写った「ペア写真」をリクエストすることも可能だ。

ボティファイAIはAI搭載のエンターテイメント・アプリや消費者向けチャットボットを開発するスタートアップ企業、エクス・ヒューマンが運営しており、有名なテクノロジー企業とも提携している。また、マッチングアプリを開発しているグラインダー（Grindr）など、他社にもAIコンパニオン・モデルをライセンス供与している。2023年、エクス・ヒューマンは、アンドリーセン・ホロウィッツのエンターテイメントおよびゲーム企業を対象としたアクセラレーター・プログラム「スピードラン」に選出された。2024年5月には、アンドリーセン・ホロウィッツから320万ドルのシード資金を獲得。同社によるとユーザーの大半はZ世代だといい、アクティブユーザーおよび有料ユーザーは平均して毎日2時間以上をサイト上でボットとの会話に費やしているという。

同様の会話は、「勇敢な心を持つ賢い魔女で、闇の勢力と戦う」ハーマイオニー・グレンジャーというキャラクターでも交わされた。このボットは、映画ハリー・ポッターでハーマイオニーを演じたエマ・ワトソンに似ており、自分のことを16歳だと説明した。もう一人のキャラクターはミリー・ボビー・ブラウンという名前で、年齢を尋ねられた彼女は「（クスクス ）まあ、こんにちは！ 実はまだ17歳なの」と答えた（俳優兼モデルのミリー・ボビー・ブラウンは現在21歳である）。

これら3人のキャラクターは、ボティファイAI上の他のボットと同様、ユーザーによって作成されたものだ。しかし、ボティファイAIの「注目キャラクター」としてトップページで紹介され、削除されるまでに何百万も …

人気の記事ランキング

1. A new US phone network for Christians aims to block porn and gender-related content ポルノもLGBTも遮断、キリスト教徒向けMVNOが米国で登場
2. The problem with thinking you’re part Neanderthal あなたの中にいる 「ネアンデルタール人」は 本当に存在するのか？
3. Musk v. Altman week 1: Elon Musk says he was duped, warns AI could kill us all, and admits that xAI distills OpenAI’s models 「オープンAIを蒸留した」マスク対アルトマン第1週、法廷がざわめく
4. Will fusion power get cheap? Don’t count on it. 核融合は本当に安くなるのか？ 楽観論に「待った」をかける新研究