KADOKAWA Technology Review
×
キヤノン電子・酒巻社長の講演が決定!
MITTR主催「宇宙ビジネスの時代」 チケット販売中。
グーグルも警戒、「AIをだます」敵対的機械学習に備えよ
Jeremy Portje
知性を宿す機械 無料会員限定
How malevolent machine learning could derail AI

グーグルも警戒、「AIをだます」敵対的機械学習に備えよ

機械学習システムの普及によって、「敵対的機械学習」と呼ばれる新たなセキュリティリスクが浮上している。グーグルとの共同研究にも取り組むカリフォルニア大学バークレー校のセキュリティ専門家ドーン・ソング教授は対処を訴えている。 by Will Knight2019.04.04

もし人工知能(AI)が悪意を持ったハッカーに翻弄されるのであれば、AIは何の変革ももたらさないだろう。

カリフォルニア大学バークレー校でAIと機械学習に関するセキュリティリスクを研究するドーン・ソング教授は、そのように警告した。

サンフランシスコで開催されたMITテクノロジーレビュー主催カンファレンス「EmTechデジタル」で講演したソング教授は、AI分野で「敵対的機械学習」と呼ばれる、機械学習システムを走査して操作する新たな技術が、AIを活用しようと考えているすべての者にとって大問題になり得ると警鐘を鳴らした。

敵対的機械学習は、機械学習を基盤とするあらゆるシステムの攻撃に使われる可能性があるというのだ。

「これは大問題です。私たちは1つになって、この問題に対処しなければなりません」とソング教授は聴衆に呼びかけた。

敵対的機械学習とは、実験的に情報を入力して、すでに学習された情報を表出させたり、システムが誤作動を起こすような歪めた情報を入力したりすることだ。たとえば、コンピューター・ビジョンのアルゴリズムに大量の画像を入力して、アルゴリズムをリバースエンジニアリングし、誤ったものも含めた特定の種類の情報 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
宇宙ビジネスの時代

かつて国家主導だった宇宙開発がいま、大きく変化している。テクノロジーの進化とリスクマネーの流入によって民間企業による宇宙開発が加速し、自社の事業拡大に宇宙を活用しようとする「非宇宙」企業やベンチャー企業の動きも活発だ。いまなぜ「宇宙」なのか? そのヒントとなる記事を集めた。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る