KADOKAWA Technology Review
×
Top Safety Official Doesn’t Trust Automakers to Teach Ethics to Self-Driving Cars

自律自動車の倫理問題
米国は規制強める方針

誰を殺し、誰を生かすかを自律自動車がどう判断するかの連邦規則が作られることになる。 by Andrew Rosenblum2016.09.05

自律運転の急速な進歩によって、未来の車は、たとえば、進行方向にいる大勢の人に重傷を負わせるくらいなら、急ハンドルを切って自損事故を起こすべきか、といった倫理上の究極の選択をすることになると懸念されている。

国家運輸安全委員会(NTSB)のクリストファー・ハート委員長もそのひとりだ。ハート委員長は、連邦規制は、自律自動車の信頼性に関する安全基準はもちろん、自律自動車の基本的なモラルを決める必要があるだろうとMIT Technology Reviewに語った

ハート委員長は、米国国家道路交通安全局(NHTSA)は、自律自動車メーカーが、車両の極めて重要な構成部品の設計に、航空機メーカーが取り入れているやり方に似たフェイルセーフの仕組みを採用するよう要求する可能性が高いだろうという。

A Mercedes-Benz self-driving car prototype.
メルセデス・ベンツ自律自動車のプロトタイプ

「政府が乗り出せば、『君たちは、この問題が起きる可能性がX分の1よりも低いと示さなきゃならん。でなきゃ、その問題で人が死なずに済む安全対策を示してもらう必要がある』ということになります」

ハート委員長はまた、自動車が人身事故を起こしそうなとき、ソフトウェアの通常の判断を覆す倫理的プログラムコードには連邦政府の規制が必要とも述べた。ハート委員長は、対向車線から向かってくる制御の利かないトラックと衝突しそうなときや、歩道に乗り上げて歩行者をはね殺してしまいそうな場合に自律自動車が直面する判断を例にあげた。

「私の考えでは、これは、連邦政府が取り組むべきです。そのような種類の倫理的選択は避けられないでしょう」

NHTSAはこの8カ月間、どのように無人乗用車を規制すべきか検討しており、近日中に指針を発表することになっている。NHTSAは自動運転に関する倫理的な懸念について見解を示していない。

自律自動車に関する規制はカリフォルニア州などにすでにあり、アルファベット(グーグル)やウーバーなどの企業による試作車両を対象にしている。カリフォルニア州が義務付けているのは、安全のためにドライバーは常に機械から運転を引き継ぐ準備を整えておくこと、人間が介入すべきだった事故の詳細を企業が州に報告することを求めている。

ワシントン大学のライアン・カロ助教授(ロボット法)は、従来の理論的な倫理的考察を実践的な規則やシステム・デザインに落とし込めるのか懐疑的だ。カロ助教授は、人が実生活のさまざまな場面で理解するさまざまな要因を理解できるほど自律自動車が高度になっているとは思っていない。

カロ助教授は、自動運転が多くの事故を防げるとしても、一方では人間なら犯さないような、致命的な大失敗をときどき犯すかもしれない自動車を本当に普及させてよいのかどうかこそが真の問題だと考えている。

「もし自律自動車が、買い物カートと乳母車に同時に出くわしたとき、食料品は人よりも重要ではないと自律自動車は道徳的に判断できないでしょう。しかし、食料品がつねに人間の命より軽いかというと、(救援物資として)何万人もの人を救う場合もあるのです」

ダイムラー・ベンツの非営利部門で倫理と自動運転を研究しているカリフォルニア・ポリテクニック州立大学(カリフォルニア州サンルイスオビスポ)のパトリック・リン教授(哲学)は、自動車に倫理的な判断をさせるアイデアを性急に不可能と判断することはない、という。センサーや人工知能、顔認識ソフトの進歩によって、自動車がひとりの命を救い、同時に別の人を犠牲にする判断ができるようになる可能性が高いだろう、とリン教授はいう。

「実際に販売される前に、私たちが問題を前もって予測し対処しようとするほうがよいのです。それこそが、企業を崩壊させたり、業界に巨大な汚点を残したりしかねない訴訟に対応することになるのです」

倫理や安全面に関する連邦基準は、無人乗用車がどう判断するのかについて、ある程度の透明性をもたらすだろう。リン教授は、自動車メーカーは概して、自動車のソフトウェアに関する内部構造を、ハッカーや競合に知られないように秘密にしたがるという。

「自動車メーカーは、プログラミングや衝突時の設計思想を明かさないことで有名です」

人気の記事ランキング
  1. A tiny new open-source AI model performs as well as powerful big ones 720億パラメーターでも「GPT-4o超え」、Ai2のオープンモデル
  2. Geoffrey Hinton, AI pioneer and figurehead of doomerism, wins Nobel Prize in Physics ジェフリー・ヒントン、 ノーベル物理学賞を受賞
  3. The coolest thing about smart glasses is not the AR. It’s the AI. ようやく物になったスマートグラス、真価はARではなくAIにある
  4. Geoffrey Hinton tells us why he’s now scared of the tech he helped build ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか?
アンドリュー・ローゼンブラム [Andrew Rosenblum]米国版 ゲスト寄稿者
アンドリュー・ローゼンブラムは、MIT Technology Reviewのゲスト寄稿者で、ドローンや人工知能、セキュリティ、商用宇宙旅行についてポピュラー・サイエンス誌やワイヤード、フォーチュンなどにも寄稿しています。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者は11月発表予定です。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る