テスラの自動運転機能、道路標識への細工で80キロ加速
サイバーセキュリティ企業マカフィーの研究者は、道路脇の速度制限標識に些細な変更を加えることでテスラの自動運転システムをだまして、制限速度を80キロ超過させることに成功した。自律型システムが急増する中、「敵対的機械学習」の問題の影響は広範に及ぶことが危惧される。 by Patrick Howell O'Neill2020.02.25
クルマの「目」を信じてはいけない。
ハッカーがテスラの複数車種で、制限速度を約80キロ超過させることに成功した。人間の運転者ならほとんど気づかないような微細な変更を道路脇の速度制限標識に加えることで、テスラ車に搭載されているモービルアイ（MobilEye）製の画像処理チップ「EyeQ3」を欺いたのだ。
サイバーセキュリティ企業であるマカフィーが実施した今回のデモンストレーションは、敵対的機械学習によって自動運転システムが使いものにならなくなる可能性を示す最新の事例である。自動運転テクノロジーの商用化を目指す企業に対して、セキュリティ上の課題を突きつけるものだ。
マカフィー先端脅威研究チームのスティーブ・ポヴォルニーとシヴァンジー・トリベディによると、モービルアイの EyeQカメラシステムは速度制限標識を読み取り、その情報をテスラの自動クルーズコントロールのような自動運転システムに送信している。
実験でポヴォルニーらは、ほとんどの人が気づかないような小さなステッカーを速度制限標識に貼り付けた。すると、2016年発売のテスラ・モデルXと同年のモデルSに搭載されたEyeQカメラシステムは、時速35マイル（時速約56キロメートル）制限の標識を時速85マイル（時速約136キロ）制限と認識し、時速にして約80キロ加速してしまった。
https://www.youtube.com/watch?v=4uGV_fRj0UA
生命に関わるような危険な状況において、機械学習システムが攻撃を受けてだまされる可能性があることを示す研究は大幅に増加している …
- 人気の記事ランキング
-
- What’s next for Chinese open-source AI ディープシーク騒動から1年 中国のオープンモデルが 世界の開発者を席巻している
- Promotion Emerging Technology Nite #36 Special 【3/9開催】2026年版「新規事業の発想と作り方」開催のお知らせ
- EVs could be cheaper to own than gas cars in Africa by 2040 アフリカでEVがガソリン車より安くなる日——鍵は「太陽光オフグリッド」
- RFK Jr. follows a carnivore diet. That doesn’t mean you should. 「肉か発酵食品しか食べない」米保健長官が目指す「健康な米国」
- Why EVs are gaining ground in Africa アフリカ初のバッテリー工場も建設中、「次のEV市場」は立ち上がるか？
