ロボット工学

If a Driverless Car Goes Bad We May Never Know Why トヨタがMITと挑戦する
人工知能の説明責任

自動運転システムが事故を起こしても、人工知能は原因を答えてくれない。 by Will Knight2016.07.08

テスラの自動運転システムが関与した最近の2件の事故を受けて、事故発生時に機械学習に基づくコンピュータシステムをどう検証し、調査すべきかの課題が浮上している。

5月にフロリダで起きた死亡事故では、システムがトラックを認識できず、自動運転中のテスラ モデルSがトラックに衝突した。自動運転中でも道路状況に注意して欲しいとテスラは呼びかけているが、自動運転で交通事故を減らせると宣伝していたことを考えると、責任放棄ともいえる。声明でテスラは、太陽がまぶしく、システムが誤動作した可能性に触れている。7日、NHTSA(米国国家道路交通安全局)は、先週ペンシルベニア州で今度はテスラ モデルXが両サイドの壁に衝突してひっくり返った、別の事故も調査中であると発表した。ドライバーは、衝突時、自動運転中だったと語っている。

テスラは、自動運転の仕組みを詳細には公開していない。しかし、自動車のシステムを訓練するため、特に視覚情報の認識に機械学習を利用しているのはほぼ確実だ。また、テスラを含む自動車メーカーにテクノロジーを提供しているイスラエル企業モービルアイのソフトは、映像内の車両や車線、標識、その他の物体を認識するのに深層学習を使っている。

A technician examines a Tesla using a laptop computer.

ノートPCでテスラ車を調べる技術者

手作業のプログラミングでは困難な動作でも、機械学習であれば操作をコンピューターに教えるのは簡単だ。十分な数のパターンを提示して深層学習の人工神経回路を訓練すれば、写真や映像に映る犬をかなり正確に認識できるようになる。だが、プログラミングが不要になったことで、システムの仕組みを理解するのは難しくなった。

神経回路は、判断の信頼性を測定できるようにも設計できる。しかし複雑な計算を経て得られた機械の判断を理解するために、神経回路を分析するのが簡単であるはずがない。つまり、意図しない挙動はまず予測できないし、不具合が起きても、原因はまず説明できない、と思った方がよい。たとえばシステムが写真内の物体を誤認したとき、画像認識システムの何が誤認をもたらしたかを理解するのは、不可能とまでいえないが、相当難しい。機械学習には、他の手法にも同様の課題がある。

もちろん、規制当局は、機械学習を使った運転システムを評価する方法を検討しなければならない。逆に、規制当局が、複雑化する一方の自動運転車を調査できなくなる可能性も自動車メーカーは認識している。トヨタが投資しているMITの研究プロジェクトでは、何か起きた後に、自動運転車に自分の行動を説明させる方法を探っている。トヨタは他にも、自動運転車の課題に関わる研究プロジェクト数件に資金を提供している。

深層学習を使えば、単に物体を認識させるだけではなく、センサーから取得したリアルタイムデータで車を制御できる。実際、プリンストン大学のチームが設計した自動運転システムは、大部分が深層学習に基づいている。また、自動車メーカー向けにもハードウェアを製造している半導体メーカーエヌビディアの研究者は、完全に深層学習で動作する自動運転車を披露している。

MITのカール・ヤグネンマ主任研究員(自動化タクシーに取り組む新興企業ヌートノミーの創業者)は、センサーから取得した生データで自動車を制御するエンドツーエンド型の深層学習システムに事故の原因を言わせるのは難しいと語る。

「自動車を安全に運転しているときのセンサーデータで学習した、中身のわからないアルゴリズムを開発しているのと同じです。自動車が安全でない状況に陥ったとき、機械がどう制御するかを予測するのは非常に難しいのです」

人間は、たとえば交差点の向こう側の車両が一時的に視界から消えても、直前までの軌道から障害物になりうると推測できる。マシンビジョンが専門のスタンフォード大学のシルビオ・サバレーゼ助教は、さまざまな形態の情報から結論を導く人間の能力は従来の機械学習に備わっていないことが弱点だという。

「人間はたくさんの文脈情報を使っていますが、現在の学習メカニズムにはうまくできません」

自動運転テクノロジーの関係者は、誰もがテスラの事故の結末を見守っている。結論がどうであれ、テクノロジーや安全性に対する一般大衆の受け止め方が気になるところだ。ヤグネンマ主任研究員は、事故に対する短絡的な反応を気にかける。

「テクノロジーの進化に水をさされる分岐点にいるのです。たった一度の事故で考えの足りない開発だと決めつけられるのは、ハードルが高すぎますよ」

人気の記事ランキング
  1. Machines Can Now Recognize Something After Seeing It Once グーグル・ディープマインド、大量データ不要の深層学習システムを開発
  2. Wikileaks E-Mails Are an Election Influence to Really Worry About クリントン不支持の世論形成は、ロシアによる選挙干渉
  3. Humans Will Bully Mild-Mannered Autonomous Cars 安全重視の自動運転車は、周りの自動車や歩行者、自転車にナメられる
  4. Neural Network Learns to Identify Criminals by Their Faces ニューラル・ネットワーク、「犯罪者顔」で犯罪者を判定
  5. Can social media control public opinion? ソーシャルメディアで世論は操作できるか?
この記事をシェアしてください!
この記事が気に入ったら
いいね!しよう
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MIT Technology ReviewのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MIT Technology Review以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

0 コメント
    「自動運転」の記事
    人気の記事ランキング
    1. Machines Can Now Recognize Something After Seeing It Once グーグル・ディープマインド、大量データ不要の深層学習システムを開発
    2. Wikileaks E-Mails Are an Election Influence to Really Worry About クリントン不支持の世論形成は、ロシアによる選挙干渉
    3. Humans Will Bully Mild-Mannered Autonomous Cars 安全重視の自動運転車は、周りの自動車や歩行者、自転車にナメられる
    4. Neural Network Learns to Identify Criminals by Their Faces ニューラル・ネットワーク、「犯罪者顔」で犯罪者を判定
    5. Can social media control public opinion? ソーシャルメディアで世論は操作できるか?