A Cambridge Analytica-style scandal for AI is coming

AI企業は「ケンブリッジ・アナリティカ」事件の教訓に学べ

チャットGPTを開発したオープンAIなど、最先端のAIシステムを開発している企業は、インターネットからかき集めたデータでAIを訓練している。だがこのやり方が、個人データの扱いをめぐって欧州を中心に物議を醸している。欧州データ保護監察機関の監督官に話を聞いた。 by Melissa Heikkilä2023.06.26

この記事は米国版ニュースレターを一部再編集したものです。

自動車メーカーが安全対策機能を搭載せずに新車を市場に送り込むことなど、想像できるだろうか？あり得ないはずだ。だが人工知能（AI）企業は、シートベルトや完全に機能するブレーキを搭載せずにレーシングカーを販売し、その結果何が起きるのか、様子を見ているようだ。

こうしたやり方によって、AI企業は問題に直面している。例えばオープンAI（OpenAI）は、人気のチャットボットであるチャットGPT（ChatGPT）で個人データを収集する方法と、利用する方法について、欧州とカナダのデータ保護当局の調査を受けた。イタリアは一時的にチャットGPTを禁止した。

オープンAIが息もつかせぬペースで開発を進めてきたため、データ保護規制当局は「ケンブリッジ・アナリティカ（Cambridge Analytica）」のようなスキャンダルの再来に備えなければならないと語るのは、EU（欧州連合）のデータ監視人であるヴォイチェフ・ヴィエヴィオロフスキーだ。

ヴィエヴィオロフスキーは欧州データ保護監察機関の監督官であり、大きな権限を持っている。彼の役割は、データ保護の実践についてEUに責任を持たせ、最先端テクノロジーを監視し、EU各国が規制のために連携することを支援することだ。この10年のテック企業から私たちが学ぶべきこと、EUのデータ保護方針について米国民は何を理解する必要があるのか、ヴィエヴィオロフスキー監督官に話を聞いた。

テック企業が学ぶべきことは？
最初からプライバシー保護機能を組み込んで製品を設計すべきである。しかしながら、「ものすごい速さで製品を送り込まなければならない企業に対して、最初からプライバシー保護機能を組み込んで製品を設計するように説得するのは簡単なことではありません」とヴィエヴィオロフスキー監督官は語る。企業がデータ保護で手を抜くと何が起こり得るのか？最良の教訓は、依然としてケンブリッジ・アナリティカだとヴィエヴィオロフスキー監督官は言う。フェイスブック（現：メタ）にとって最大級の風評スキャンダルとなったこの事件は、投票行動に影響を与える目的で、数千万人の米国民の個人データを、ロンドンを本拠地としていたコンサルティング会社のケンブリッジ・アナリティカがフェイスブックから収集していた事件だ。同じようなスキャンダルがまた起こるのは時間の問題だと、ヴィエヴィオロフスキー監督官は指摘する。

米国民がEUのデータ保護方針について理解すべきことは？
「欧州のアプローチは、データの利用目的と関連しています。データの利用目的を変更した場合、特にデータを提供してくれた人々に提示した利用条件に反する行為は法律違反となります」。ヴィエヴィオロフスキー監督官は話す。ケンブリッジ・アナリティカの例で考えてみよう。ここでの最大の違法行為は、ケンブリッジ・アナリティカがデータを収集したことではなく、同社が科学的な目的とテストのためにデータを収集していると主張しながら、それを別の目的、主に人々の政治的プロファイル作成に利用したことだ。これが、一時的にチャットGPTを禁止したイタリアのデータ保護当局の主張である。各当局は、オープンAIが利用したいデータを違法な形で収集し、どのような意図で利用するつもりなのかを人々に伝えなかったと主張している。

規制はイノベーションを抑圧する？
これはテクノロジストからよく上がる主張だ。ヴィエヴィオロフスキー監督官は、私たちが本当に問うべきは、「私たちは本当に、企業が私たちの個人データに制限なくアクセスすることを許してもいいのか？」ということだと語る。「私は規制当局がイノベーションを妨げているとは思いません。当局はイノベーションをより文明的なものにしようとしているのです」。結局のところ、GDPRは個人データを守るだけでなく、国境を超えたデータの取引や自由な流れも保護しているのだ。

巨大テック企業にとっての生き地獄？
テック企業に対して強硬姿勢を取っているのは欧州だけではない。ホワイトハウスはAIの責任に関する規制を検討している。米国連邦取引委員会（FTC：Federal Trade Commission）はさらに踏み込んで、2022年にウェイト・ウォッチャーズ（Weight Watchers）がそうなったように、企業に対して違法に収集、利用されてきた可能性のあるアルゴリズムとデータを削除するよう求めている。ヴィエヴィオロフスキー監督官は、バイデン大統領がテック企業に対して製品の安全性により責任を持つよう求めるのは歓迎すべきことであり、米国の政策がAIによるリスクを防ぎ、企業に責任を負わせるための欧州の取り組みに歩調を合わせようとしているのは心強いことだと語る。「かつてテック市場のある大企業は、『地獄とは、欧州の立法と米国の法律施行が組み合わさったものを指す』と言いました」。

チャットGPTに関するその他の記事

◆

プログラミングを学ぶだけでは不十分

この10年間で、子どもたちにプログラミングを教えることを目的とした非営利の取り組みが数多く登場した。ノース・カロライナ州は今年、コーディングを高校卒業要件に含めることを検討している。先行する5州（ネバダ州、サウス・カロライナ州、テネシー州、アーカンソー州、ネブラスカ州）に倣う形だ。これらの州では、プログラミングやコンピューター教育を包括的教育の基礎とみなすという、似通った政策を打ち出している。こうした政策の提唱者たちは、学生たちが教育を受ける機会と、彼らの経済的機会を拡大するよう主張している。

人々のテクノロジー能力を高めようとする取り組みは、1960年代から存在している。だがそういったプログラムやその後に続いた数多くの取り組みは、多くの場合社会において最も大きな力を持った人々に利益をもたらす結果を招いた。今や、単にコーディングを学ぶということは、経済的に不安定な環境にいる人々が経済的に安定した未来を掴むための道筋ではなく、教育制度の不備を補ってくれる万能薬でもない。ジョイ・リシ・ランキンによる記事はこちら。

人気の記事ランキング

メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者: MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ（POLITICO）』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」（欧州メディア部門）に選出された。