KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
AIの「失敗」の責任は誰が負うべきか?
Tempe Police Department
人工知能(AI) Insider Online限定
When algorithms mess up, the nearest human gets the blame

AIの「失敗」の責任は誰が負うべきか?

人工知能(AI)が社会のあらゆる面に深く入り込み始めるにつれ、アルゴリズムによる損害の責任を誰が負うべきなのか、議論になっている。高度に自動化されたシステムで問題が起こった場合、人々はもっとも「近い」人間に責任を押し付けがちだ。 by Karen Hao2019.05.31

2019年5月のブルームバーグ(Bloomberg)に、アルゴリズムのせいで投資の損失が生じ、訴訟に至ったケースの記事が掲載された。香港のある大富豪が、財産の一部を自動投資のプラットフォームに預託し、2000万ドルを超える損失を出した。しかし、テクノロジー自体を訴訟する法的な枠組みが存在しないため、その大富豪はテクノロジーに最も近い人間、つまりその製品を売った男を訴えたのだ。

これは自動投資による損失に関して知られるものとしては最初の訴訟だ。しかし、アルゴリズムの責任を問う訴訟は、これが初めてではない。 2018年3月、アリゾナ州テンピ市で、ウーバーの自動運転車が歩行者の死亡事故を起こした事件でも訴訟が発生している。 1年後、ウーバーはすべての刑事責任について無罪となったが、事故を起こした車に同乗していた人間のドライバー(セーフティ・ドライバー)は危険運転致死罪の判決を受けるかもしれない。

どちらのケースも、自動システムが社会のあらゆる側面に深く入り込み始めていることによって、私たちが現在直面している中心的な課題に関わっている。それは、アルゴリズムによって損害が出た場合の責任は誰に帰するべきかということだ。さらに、責任を実際に負うのはだれか、ということも重要だ。

非営利の研究機関であるデータ&ソサエティの研究者で、文化人類学の教育を受けたマデレーン・クレア・エリッシュは、前者の問いの答えを求めるにあたり後者の研究を役立てるべく、過去の事例をここ数年研究してきた。現代の人工知能(AI)システムが生まれたのは最近のことだが、責任の所在に関わる問題は新しいことではない。

たとえば、ウーバーの自動運転車が起こした死亡事故は、エールフランス航空の447便の2009年の墜落事故に似ている。その墜落事故の責任をどう扱ったかを見ていけば、それが現在の事故に対してどう適用されるべきかの手がかりが得られるはずだ。ブラジルからフランスへと向かっていた旅客機が大西洋に墜落した悲劇的な墜落事故では、乗客乗員の228人全員が死亡した。この航空機の自動システムは、非常にまれなケース以外は人間のパイロットの手を必要とせず飛行でき、想定されるほぼ全てのシナリオに対して完全な「フールプルーフ」設計になっていた。その意味 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Lego bricks are making science more accessible 科学を身近にするレゴブロック、大学の実験装置にも応用
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. AI companies are finally being forced to cough up for training data 「訓練データはタダではない」音楽業界が問う生成AIの根本的問題
  4. AI lie detectors are better than humans at spotting lies 人間よりも優秀な「AIうそ発見器」は社会に何をもたらすか?
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る