KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
無規制が招いた暴走、
SNSの反省から考える
生成AIの未来
Stephanie Arnett/MITTR | Getty, Envato
ビジネス Insider Online限定
Let’s not make the same mistakes with AI that we made with social media

無規制が招いた暴走、
SNSの反省から考える
生成AIの未来

過去10年あまり、ソーシャルメディアは多くの人に力を与える一方で、さまざまな問題を引き起こしてきた。今、黎明期にある生成AIの利用で同じ失敗を繰り返さないために、ソーシャルメディアの失敗から学べる教訓を紹介しよう。 by Bruce Schneier2024.07.09

この記事の3つのポイント
  1. ソーシャルメディア広告は人為的操作と紙一重、AIではさらに悪化する可能性
  2. 監視と囲い込みによるユーザー搾取、AIでも同様の懸念
  3. ソーシャルメディア同様にAIの規制を怠ることは深刻なリスクに
summarized by Claude 3

かつての栄光は失われてしまった。 10年以上前、ソーシャルメディアはアラブ世界やその他の地域で民主主義を求める人々の蜂起を支援したとして称賛を受けた。だが現在では、ソーシャルプラットフォームは誤情報や企業の陰謀、不正行為、精神的健康(メンタルヘルス)に対するリスクなどを生み出す一因となっているという記事がメディアのトップページを賑わしている。2022年の調査では、米国人は政治的言論の粗雑化や、誤情報の拡散、党派支持層の二極化増大の原因としてソーシャルメディアを非難していることが明らかになった。

今、テック企業が最も力を注いでいるのはAI(人工知能)だ。ソーシャルメディア同様、AIはさまざまな形で世界を変える可能性を秘めており、その中には民主主義にとって好ましいものも含まれる。しかし、同時に社会に極めて大きなダメージを与える可能性も持っている。

過去10年間にわたりソーシャルメディアが規制を受けずに進化してきたことについて、私たちが学べることは多い。その学びはAI企業やテクノロジーに直接活かすことができる。これらの教訓は、私たちがソーシャルメディアで犯した間違いをAIで繰り返さないようにするのに役立つ。

特に、ソーシャルメディアが持つ5つの根本的特性が社会に悪影響を及ぼしてきた。AIもまたそのような特性を持っている。注意すべきは、それらが本質的に悪というわけではないことだ。5つの根本的特性はすべて諸刃の剣であり、善にも悪にもなり得る可能性を持っている。誰がそれを利用し、その力が何に対して利用されるのかによっては危険が生じる。ソーシャルメディアに当てはまってきたことは、AIも同様だと考えられる。どちらのケースでも、解決策はテクノロジー利用に対する制限にある。

1.広告

インターネットの世界で広告が果たす役割は、偶然にも、そのほかの何よりも大きくなっている。インターネットが初めて商用化された頃は、ユーザーが Webページ閲覧などのためにマイクロペイメント(少額支払い)をする簡単な方法などなかった。加えて、ユーザーは無料のアクセスに慣れており、サービスのサブスクリプションというモデルを受け入れようとしなかった。広告は、決してそれがベストなものではないとしても、明白なビジネスモデルだった。ソーシャルメディアも依存するモデルだが、それによりソーシャルメディアは何よりもエンゲージメントを優先するようになっている。

グーグルもフェイスブックも、数千億ドル規模のネット広告市場(そう、数千億ドル規模だ)を掌握するためにAIが役に立つと信じている。また、マイクロソフトやアマゾンなどのような従来、広告への依存度が比較的低いテクノロジー大手も、ネット広告市場でより大きなシェアを握るためにAIが役に立つと信じている。

巨大テック企業は、プラットフォームへの支出を継続するように広告主を説得するための材料を必要としている。ターゲット・マーケティングの有効性についての大げさな主張はあるものの、研究者たちはネット広告が実際に、どこで、どんな時に、影響力を持つのか実証するのに長い間苦労してきた。ウーバーやP&Gなどの大手広告主が最近、デジタル広告に対する支出を数億ドル規模で削減したが、各社は売上には全く影響がなかったと公表している。

業界のリーダーたちは「AIを駆使した広告はかなり良いものになるでしょう」と言うだろう。グーグルは、ユーザーの検索内容に応じてAIが広告コピーを調整できること、また、AIアルゴリズムが最大の成果が出るようにキャンペーンを設定できることを広告主に保証するだろう。アマゾンは、トースターの商品ページをより素敵なものにするために、広告主に自社の画像生成AIを使うよう望んでいるだろう。IBMは自社のワトソンAIが、広告主の広告をより良いものにすると自信を持っているだろう。

これらの手法は人為的操作と紙一重だが、ユーザーにとっての最大のリスクは AIチャットボットの中にある広告から生じる。グーグルやメタがユーザーの検索結果やフィードに広告を埋め込むのと同様に、AI企業も(チャットボットとの)会話に広告を埋め込むよう圧力をかけられることになるだろう。そして、ユーザーとAIチャットボットとの会話は人間同士のような関係性が築かれるため、より有害になる可能性がある。私たちの多くは、アマゾンやグーグルの検索結果ページに出てくる広告をスクロールしてやり過ごすのはだいぶ上手くなったが、AIチャットボットがある製品について言及しているとき、それがユーザーの質問に対する適切な答えなのか、それともAIデベロッパーがメーカーからキックバックを受けているからなのかを見極めるのは、はるかに難しいだろう。

2.監視

Webサイトを収益化する主な方法として、ソーシャルメディアが広告に依存していることがパーソナライズにつながっている。そしてパーソナライズにより、ますます頻繁に監視されるようになった。ソーシャルプラットフォームが、個々のユーザーに最大限アピールできるように広告を調整できることを広告主に納得させるため、プラットフォームはユーザーに関する情報をできる限り多く収集できることを実証しなければならない。

どれだけのスパイ活動が実行されているかは、どんなに誇張してもしすぎるということはない。コンシューマー・レポート(Consumer Reports)が最近実施したフェイスブックについての分析(対象はフェイスブックのみ)によれば、ユーザー1人当たり平均2200社以上の企業が、ユーザーのWebアクティビティを監視していることが分かった。

AIを活用し、広告主から支持されるプラットフォームは、ソーシャルプラットフォームが直面しているものと全く同じいびつで強力な市場インセンティブに直面することになるだろう。チャットボットの運用会社が、自社のチャットボットがユーザーの位置情報や、嗜好に関するデータ、過去のチャット履歴などに基づいてターゲットを絞り、製品を購入するよう説得できると主張できれば、高額な広告出稿料を請求できるだろう。これは容易に想像できる。

私たちが個人向けサービスをAIに依存する中、人為的操作が実施される可能性はますます高まるばかりだ。生成AIによって実現が見込まれることの1つに、AIがユーザーの代弁者となったり、ユーザーの執事としてふるまったりするのに十分に高度なデジタル・パーソナル・アシスタントになるということだ。これには、ユーザーが検索エンジンや、メール・プロバイダー、クラウド・ストレージシステム、電話との間に築く親密性よりもさらに親密な関係が必要となる。ユーザーはそれを常に自分のそばに置いておきたいと思うだろう。そして、ユーザーに代わって最も効果的に働くためには、ユーザーのすべてを知る必要がある。(チャットボットは)友人のように振る舞うので、ユーザーも友人として扱い、チャットボットが下す判断を誤って信頼してしまう可能性がある。

もしユーザーがAIアシスタントに自分のライフスタイルや嗜好を進んで知らせないと選択しても、AIテクノロジーにより、企業はより簡単にユーザーのことを知ることができるだろう。以前実施された実証では、ありふれた質問をすることで個人データをこっそりと引き出そうとする時に、チャットボットがどのように使われるのかが示されている。また、顧客サービス・システムからWebサイトの基本的な検索インターフェイスに至るまで、あらゆるものがチャットボットに統合されることが多くなる中、この種の推論データの収集に(ユーザーが)曝されることは避けられないかもしれない。

3.バイラリティ

ソーシャルメディアにより、ユーザーは誰でも自分の考えを表明できるようになり、即座に世界 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Lego bricks are making science more accessible 科学を身近にするレゴブロック、大学の実験装置にも応用
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Why artists are becoming less scared of AI 見えてきた「生成AIの限界」がアーティストの不安を取り除く
  4. A way to let robots learn by listening will make them more useful 見落とされてきた「耳」、音を学んだロボットはもっと賢くなる
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る