「何が本物か」どう証明？ マイクロソフトがAI偽装の検証技術を提言

人工知能（AI）による偽装は今や私たちのオンライン生活に浸透している。ホワイトハウス当局者が最近、ミネソタ州の抗議者の加工画像を共有し、それについて質問する人々を嘲笑したような、簡単に見抜けるかもしれない注目度の高い事例がある。また、ロシアの影響工作がウクライナ人の入隊を阻止するために現在拡散している動画のように、静かにソーシャルメディアのフィードに滑り込み、視聴回数を稼ぐこともある。

このような混乱状況の中で、マイクロソフトは、ネット上で「何が本物か」を証明する方法についての技術的枠組みを提示し、MITテクノロジーレビューに内容を説明した。

同社のAI安全性研究チームは最近、インタラクティブなディープフェイクや広く利用可能な超リアルなモデルといった、今日最も懸念されるAIの進展に対して、デジタル操作を記録する手法がどの程度有効に機能しているかを評価した。そして、AI企業やソーシャルメディア・プラットフォームが採用可能な技術標準を提言した。

マイクロソフトが推進する「金字塔」を理解するために、レンブラントの絵画を所有しており、その真正性を記録しようとしている場面を想像してみよう。絵画の来歴について、どこから来たのか、どのように所有者が移り変わったのかを詳細な記録としてまとめるかもしれない。人間には見えないが機械で読み取れる透かしを施すこともできる。そして絵画をデジタルスキャンし、筆致に基づく指紋のような数学的署名を生成することも可能である。もしその作品を美術館で展示すれば、懐疑的な来館者はこれらの証拠を確認し、それが本物であることを検証できるだろう。

これらの手法はすべて、オンライン・コンテンツを検証する取り組みにおいて、程度の差こそあれすでに活用されている。マイクロソフトはこれらを60通りの異なる組み合わせで評価し、メタデータが削除された場合から、コンテンツがわずかに改変された場合、あるいは意図的に操作された場合まで、さまざまな障害シナリオの下で各構成がどの程度耐えられるかをモデル化した。そのうえで、プラットフォームがネット上で利用者に自信を持って提示できる堅牢な結果を生み出す組み合わせと、明確化よりも混乱を招きかねないほど信頼性の低い組み合わせを整理・分類した。

同社の最高科学責任者（CSO）であるエリック・ホルヴィッツは、この研究は米カリフォルニア州のAI透明性法（AI Transparency Act、8月施行予定）などの法整備と、映像と音声を驚異的な忠実度で組み合わせられるまでにAIが急速に発展したことを受けて開始されたと述べている。

「これを自主規制と呼ぶこともできるでしょう」とホルヴィッツCSOはMITテクノロジーレビューに語った。しかし彼が、この取り組みをマイクロソフトの企業イメージ向上にも資するものと捉えているのは明らかである。「私たちは、世界で何が起きているのかを知りたいと望む人々に選ばれ、信頼されるプロバイダーになろうとしているのです」。

それにもかかわらず、ホルヴィッツCSOは、マイクロソフトが自社の全プラットフォームでこれらの推奨事項を採用することを明言するのは避けた。同社は巨大なAIコンテンツ・エコシステムの中心に位置している。画像やテキストを生成できるCopilot（コパイロット）を運営し、顧客 …

人気の記事ランキング

1. What’s next for Chinese open-source AI ディープシーク騒動から1年 中国のオープンモデルが 世界の開発者を席巻している
2. Promotion Emerging Technology Nite #36 Special 【3/9開催】2026年版「新規事業の発想と作り方」開催のお知らせ
3. EVs could be cheaper to own than gas cars in Africa by 2040 アフリカでEVがガソリン車より安くなる日——鍵は「太陽光オフグリッド」
4. RFK Jr. follows a carnivore diet. That doesn’t mean you should. 「肉か発酵食品しか食べない」米保健長官が目指す「健康な米国」
5. Why EVs are gaining ground in Africa アフリカ初のバッテリー工場も建設中、「次のEV市場」は立ち上がるか？