「何が本物か」どう証明？ マイクロソフトがAI偽装の検証技術を提言

人工知能（AI）による偽装は今や私たちのオンライン生活に浸透している。ホワイトハウス当局者が最近、ミネソタ州の抗議者の加工画像を共有し、それについて質問する人々を嘲笑したような、簡単に見抜けるかもしれない注目度の高い事例がある。また、ロシアの影響工作がウクライナ人の入隊を阻止するために現在拡散している動画のように、静かにソーシャルメディアのフィードに滑り込み、視聴回数を稼ぐこともある。

このような混乱状況の中で、マイクロソフトは、ネット上で「何が本物か」を証明する方法についての技術的枠組みを提示し、MITテクノロジーレビューに内容を説明した。

同社のAI安全性研究チームは最近、インタラクティブなディープフェイクや広く利用可能な超リアルなモデルといった、今日最も懸念されるAIの進展に対して、デジタル操作を記録する手法がどの程度有効に機能しているかを評価した。そして、AI企業やソーシャルメディア・プラットフォームが採用可能な技術標準を提言した。

マイクロソフトが推進する「金字塔」を理解するために、レンブラントの絵画を所有しており、その真正性を記録しようとしている場面を想像してみよう。絵画の来歴について、どこから来たのか、どのように所有者が移り変わったのかを詳細な記録としてまとめるかもしれない。人間には見えないが機械で読み取れる透かしを施すこともできる。そして絵画をデジタルスキャンし、筆致に基づく指紋のような数学的署名を生成することも可能である。もしその作品を美術館で展示すれば、懐疑的な来館者はこれらの証拠を確認し、それが本物であることを検証できるだろう。

これらの手法はすべて、オンライン・コンテンツを検証する取り組みにおいて、程度の差こそあれすでに活用されている。マイクロソフトはこれらを60通りの異なる組み合わせで評価し、メタデータが削除された場合から、コンテンツがわずかに改変された場合、あるいは意図的に操作された場合まで、さまざまな障害シナリオの下で各構成がどの程度耐えられるかをモデル化した。そのうえで、プラットフォームがネット上で利用者に自信を持って提示できる堅牢な結果を生み出す組み合わせと、明確化よりも混乱を招きかねないほど信頼性の低い組み合わせを整理・分類した。

同社の最高科学責任者（CSO）であるエリック・ホルヴィッツは、この研究は米カリフォルニア州のAI透明性法（AI Transparency Act、8月施行予定）などの法整備と、映像と音声を驚異的な忠実度で組み合わせられるまでにAIが急速に発展したことを受けて開始されたと述べている。

「これを自主規制と呼ぶこともできるでしょう」とホルヴィッツCSOはMITテクノロジーレビューに語った。しかし彼が、この取り組みをマイクロソフトの企業イメージ向上にも資するものと捉えているのは明らかである。「私たちは、世界で何が起きているのかを知りたいと望む人々に選ばれ、信頼されるプロバイダーになろうとしているのです」。

それにもかかわらず、ホルヴィッツCSOは、マイクロソフトが自社の全プラットフォームでこれらの推奨事項を採用することを明言するのは避けた。同社は巨大なAIコンテンツ・エコシステムの中心に位置している。画像やテキストを生成できるCopilot（コパイロット）を運営し、顧客 …

人気の記事ランキング

1. It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
2. Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
3. Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
4. A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
5. Inside the stealthy startup that pitched brainless human clones 「臓器袋」から全身置換へ ステルス企業R3が隠す 「脳なし」クローン計画

▼Promotion