KADOKAWA Technology Review
×
AI研究は規制すべき? 研究者が書いた「犯罪利用4つのシナリオ」
知性を宿す機械 The “Black Mirror” scenarios that are leading some experts to call for more secrecy on AI

AI研究は規制すべき? 研究者が書いた「犯罪利用4つのシナリオ」

AIにより引き起こされる多くの犯罪シナリオが書かれた報告書が発表された。まるでSF番組のような内容だが、報告書が指摘するようにAI研究に一定の歯止め、もしくは秘匿は必要なのだろうか。 by Will Knight2018.03.29

人工知能(AI)は産業を活性化させ、経済の生産性を高めるといわれ、すでに多くの製品に利用され日常的に利用されている。だが、オックスフォード大学、ケンブリッジ大学、非営利団体のオープンAI(OpenAI)、電子フロンティア財団などに所属する20名以上の研究者による最新の報告書は、AIが犯罪者や政治家、独裁国家に新たな機会を与えているとして警鐘を鳴らしている。AI研究には秘密にしなければならない部分があるということだ。

発表された報告書「AIの悪意のある利用:予測、予防、緩和(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)」には、AI利用に関する悪夢のような4つのシナリオが書かれている。まるでネットフリックス(Netflix)のSF番組「ブラック・ミラー(Black Mirror)」から引用したようなシナリオだ。

シナリオ1:よりずる賢いフィッシング詐欺

とあるビルのロボット・セキュリティ・システムの管理者が、勤務時間中にフェイスブックを見ている。彼女はそこで列車模型の広告を見つけ、カタログをダウンロードするが、そのカタログがマルウェアに侵されていることには気づいていない。詐欺師はAIを利用して彼女がSNSなどに公に投稿した内容を調べ上げ、列車模型の愛好家であることを割り出し、彼女のためにカタログを作成する。それを開いた瞬間にハッカーは彼女のパソコンに侵入し、ビルのセキュリティ・システム用のIDとパスワードを手に入れ、ビルを支配してしまう。

シナリオ2:マルウェアの感染拡大

東ヨーロッ …

こちらは会員限定の記事です。
無料登録すると1カ月10本までご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月150本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月150本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る