Hackers can trick a Tesla into accelerating by 50 miles per hour

テスラの自動運転機能、道路標識への細工で80キロ加速

サイバーセキュリティ企業マカフィーの研究者は、道路脇の速度制限標識に些細な変更を加えることでテスラの自動運転システムをだまして、制限速度を80キロ超過させることに成功した。自律型システムが急増する中、「敵対的機械学習」の問題の影響は広範に及ぶことが危惧される。 by Patrick Howell O'Neill2020.02.25

クルマの「目」を信じてはいけない。

ハッカーがテスラの複数車種で、制限速度を約80キロ超過させることに成功した。人間の運転者ならほとんど気づかないような微細な変更を道路脇の速度制限標識に加えることで、テスラ車に搭載されているモービルアイ（MobilEye）製の画像処理チップ「EyeQ3」を欺いたのだ。

サイバーセキュリティ企業であるマカフィーが実施した今回のデモンストレーションは、敵対的機械学習によって自動運転システムが使いものにならなくなる可能性を示す最新の事例である。自動運転テクノロジーの商用化を目指す企業に対して、セキュリティ上の課題を突きつけるものだ。

マカフィー先端脅威研究チームのスティーブ・ポヴォルニーとシヴァンジー・トリベディによると、モービルアイの EyeQカメラシステムは速度制限標識を読み取り、その情報をテスラの自動クルーズコントロールのような自動運転システムに送信している。

実験でポヴォルニーらは、ほとんどの人が気づかないような小さなステッカーを速度制限標識に貼り付けた。すると、2016年発売のテスラ・モデルXと同年のモデルSに搭載されたEyeQカメラシステムは、時速35マイル（時速約56キロメートル）制限の標識を時速85マイル（時速約136キロ）制限と認識し、時速にして約80キロ加速してしまった。

https://www.youtube.com/watch?v=4uGV_fRj0UA

生命に関わるような危険な状況において、機械学習システムが攻撃を受けてだまされる可能性があることを示す研究は大幅に増加している …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【春割】実施中！年間購読料20%オフ！

人気の記事ランキング

MITテクノロジーレビューが選んだ、世界を変える10大技術: MITテクノロジーレビューの記者と編集者は、未来を形作るエマージング・テクノロジーについて常に議論している。年に一度、私たちは現状を確認し、その見通しを読者に共有する。以下に挙げるのは、良くも悪くも今後数年間で進歩を促し、あるいは大きな変化を引き起こすと本誌が考えるテクノロジーである。
特集ページへ

AI革命の真実　誇大宣伝の先にあるもの: AIは人間の知能を再現する。AIは病気を根絶する。AIは人類史上、最大にして最も重要な発明だ——。こうした言葉を、あなたも何度となく耳にしてきたはずだ。しかし、その多くは、おそらく真実ではない。現在地を見極め、AIが本当に可能にするものは何かを問い、次に進むべき道を探る。
特集ページへ