AI研究は規制すべき？ 研究者が書いた「犯罪利用4つのシナリオ」

人工知能（AI）は産業を活性化させ、経済の生産性を高めるといわれ、すでに多くの製品に利用され日常的に利用されている。だが、オックスフォード大学、ケンブリッジ大学、非営利団体のオープンAI（OpenAI）、電子フロンティア財団などに所属する20名以上の研究者による最新の報告書は、AIが犯罪者や政治家、独裁国家に新たな機会を与えているとして警鐘を鳴らしている。AI研究には秘密にしなければならない部分があるということだ。

発表された報告書「AIの悪意のある利用：予測、予防、緩和（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）」には、AI利用に関する悪夢のような4つのシナリオが書かれている。まるでネットフリックス（Netflix）のSF番組「ブラック・ミラー（Black Mirror）」から引用したようなシナリオだ。

シナリオ1：よりずる賢いフィッシング詐欺

とあるビルのロボット・セキュリティ・システムの管理者が、勤務時間中にフェイスブックを見ている。彼女はそこで列車模型の広告を見つけ、カタログをダウンロードするが、そのカタログがマルウェアに侵されていることには気づいていない。詐欺師はAIを利用して彼女がSNSなどに公に投稿した内容を調べ上げ、列車模型の愛好家であることを割り出し、彼女のためにカタログを作成する。それを開いた瞬間にハッカーは彼女のパソコンに侵入し、ビルのセキュリティ・システム用のIDとパスワードを手に入れ、ビルを支配してしまう。

シナリオ2：マルウェアの感染拡大

東ヨーロッ …

人気の記事ランキング

1. How lasers could help provide fuel for nuclear reactors 核廃棄物は「地上ウラン鉱山」、レーザー濃縮で再生を狙う
2. Trump’s AI protectionism has come for robotics 中国製ロボットを締め出す米国、その研究は中国製で回っている
3. How an overlooked geothermal plant got a second chance もっと深く掘れ——採算割れの地熱発電所を米新興企業が再生
4. OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.  「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由