AI研究は規制すべき？ 研究者が書いた「犯罪利用4つのシナリオ」

人工知能（AI）は産業を活性化させ、経済の生産性を高めるといわれ、すでに多くの製品に利用され日常的に利用されている。だが、オックスフォード大学、ケンブリッジ大学、非営利団体のオープンAI（OpenAI）、電子フロンティア財団などに所属する20名以上の研究者による最新の報告書は、AIが犯罪者や政治家、独裁国家に新たな機会を与えているとして警鐘を鳴らしている。AI研究には秘密にしなければならない部分があるということだ。

発表された報告書「AIの悪意のある利用：予測、予防、緩和（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）」には、AI利用に関する悪夢のような4つのシナリオが書かれている。まるでネットフリックス（Netflix）のSF番組「ブラック・ミラー（Black Mirror）」から引用したようなシナリオだ。

シナリオ1：よりずる賢いフィッシング詐欺

とあるビルのロボット・セキュリティ・システムの管理者が、勤務時間中にフェイスブックを見ている。彼女はそこで列車模型の広告を見つけ、カタログをダウンロードするが、そのカタログがマルウェアに侵されていることには気づいていない。詐欺師はAIを利用して彼女がSNSなどに公に投稿した内容を調べ上げ、列車模型の愛好家であることを割り出し、彼女のためにカタログを作成する。それを開いた瞬間にハッカーは彼女のパソコンに侵入し、ビルのセキュリティ・システム用のIDとパスワードを手に入れ、ビルを支配してしまう。

シナリオ2：マルウェアの感染拡大

東ヨーロッ …

人気の記事ランキング

1. What’s behind this summer’s heat, and why 2027 could be worse 記録ずくめの猛暑の夏、しかし本番は来年かもしれない
2. Promotion AI White Paper 2026 松尾・岩澤研協力『AI白書2026』発売、サブスク版も開始
3. How much hydrogen awaits us underground? 地下に眠る数兆トン、天然水素は本当に「宝の山」なのか
4. Scientists just created female clones of male mice オスのマウスからメス作製、日本チームが遺伝子編集で性逆転に成功
5. These startups are chasing the next big thing in LLMs トランスフォーマーに限界、 次世代LLMを担う 4つの最新アプローチ