KADOKAWA Technology Review
×
AI研究は規制すべき? 研究者が書いた「犯罪利用4つのシナリオ」
Santiago Zavala
知性を宿す機械 無料会員限定
The “Black Mirror” scenarios that are leading some experts to call for more secrecy on AI

AI研究は規制すべき? 研究者が書いた「犯罪利用4つのシナリオ」

AIにより引き起こされる多くの犯罪シナリオが書かれた報告書が発表された。まるでSF番組のような内容だが、報告書が指摘するようにAI研究に一定の歯止め、もしくは秘匿は必要なのだろうか。 by Will Knight2018.03.29

人工知能(AI)は産業を活性化させ、経済の生産性を高めるといわれ、すでに多くの製品に利用され日常的に利用されている。だが、オックスフォード大学、ケンブリッジ大学、非営利団体のオープンAI(OpenAI)、電子フロンティア財団などに所属する20名以上の研究者による最新の報告書は、AIが犯罪者や政治家、独裁国家に新たな機会を与えているとして警鐘を鳴らしている。AI研究には秘密にしなければならない部分があるということだ。

発表された報告書「AIの悪意のある利用:予測、予防、緩和(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)」には、AI利用に関する悪夢のような4つのシナリオが書かれている。まるでネットフリックス(Netflix)のSF番組「ブラック・ミラー(Black Mirror)」から引用したようなシナリオだ。

シナリオ1:よりずる賢いフィッシング詐欺

とあるビルのロボット・セキュリティ・システムの管理者が、勤務時間中にフェイスブックを見ている。彼女はそこで列車模型の広告を見つけ、カタログをダウンロードするが、そのカタログがマルウェアに侵されていることには気づいていない。詐欺師はAIを利用して彼女がSNSなどに公に投稿した内容を調べ上げ、列車模型の愛好家であることを割り出し、彼女のためにカタログを作成する。それを開いた瞬間にハッカーは彼女のパソコンに侵入し、ビルのセキュリティ・システム用のIDとパスワードを手に入れ、ビルを支配してしまう。

シナリオ2:マルウェアの感染拡大

東ヨーロッ …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る