「騙すAI」対「見抜くAI」 激化するフェイクニュース戦争の行方

あれはインターネット史上におけるねつ造ニュースの最初の一コマだったのかもしれない。1984年、ユースネット（Usenet）にソビエト連邦が参加していると誰かが投稿したのだ。その投稿は無害なエイプリルフールのいたずらであり、現在のほとんど武器と化した偽情報キャンペーンや、手っ取り早く儲けるための無節操な作り話からは程遠いものだった。だが、誤解を呼ぶ、悪意で歪められたオンライン・コンテンツがあまりに多くなった今日、もはや私たちはその泥沼から自分自身の力で抜け出すことが叶わなくなった。その代わりに、機械に救ってもらわなければならなくなる可能性はますます高まっている。

「アドベリファイ（AdVerif.ai）」は、この闇に光を照らすであろうアルゴリズムだ。アドベリファイは、でっち上げ、ヌード、マルウェア、その他の問題がある記事を検知するための人工知能（AI）ソフトウェアであり、同名のスタートアップ企業が運営している。2017年11月にベータ版が発表され、米国や欧州で、偽物や感情を害する可能性のある記事を排除したいコンテンツ・プラットフォームや広告ネットワーク企業と提携している。

アドベリファイの創業者兼CEO（最高経営責任者）であるオア・レヴィによると、同社は一般ユーザー向けではなく、企業向けの製品に焦点を当てることに商機を見い出したという。個々の消費者はどんどんクリックする記事のそれぞれの真実性を気にかけないかもしれないが、広告主やコンテンツ・プラットフォーム企業は悪いコンテンツを掲載したり広告したりすることで失うものがある。広告主やコンテンツ・プラットフォームがサービスを変更すれば、ねつ造ニュースを作って稼いでいる連中の収入を効果的に断ち切れるかもしれない。「アドベリファイは、この種のコンテンツとの戦いにおける大きな一歩になるでしょう」と、レヴィCEOはいう。

アドベリファイはコンテンツを読み込み、不適切だという証拠の兆候を見つけ出す。たとえば見出しが本文と合致しない、あるいは見出しに大文字が多すぎるなどだ。さらに、それぞれの記事を何千もの正当な記事や偽造記事のデータベース（毎週更新される）と照らし合わせてクロスチェックをする。システムは検討した各記事について、フェイクニュースやマルウェア、あるいはヌードなど、顧客企業が注意するように指示したさまざまなコンテンツが含まれている可能性を評価し、得点付けをした報告書を顧客に提供する。レヴィCEOは、ゆくゆくは巧みに処理した画像を見分ける能力を追加し、ブラウザーの …

人気の記事ランキング

1. A new US phone network for Christians aims to block porn and gender-related content ポルノもLGBTも遮断、キリスト教徒向けMVNOが米国で登場
2. Musk v. Altman week 1: Elon Musk says he was duped, warns AI could kill us all, and admits that xAI distills OpenAI’s models 「オープンAIを蒸留した」マスク対アルトマン第1週、法廷がざわめく
3. Will fusion power get cheap? Don’t count on it. 核融合は本当に安くなるのか？ 楽観論に「待った」をかける新研究
4. The problem with thinking you’re part Neanderthal あなたの中にいる 「ネアンデルタール人」は 本当に存在するのか？