KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2021年度候補者募集のお知らせ
安全なAIに必要なのは 『不信感』の設計
courtesy of ACM
知性を宿す機械 Insider Online限定
We need to design distrust into AI systems to make them safer

安全なAIに必要なのは 『不信感』の設計

私たちが自動化されたシステムを過度に信頼しすぎると、危険な状況に陥る場合がある。コンピューター科学に重要な貢献をした女性研究者を称えるACMの賞を受賞したアヤナ・ハワード博士が語った。 by Karen Hao2021.05.20

アヤナ・ハワード博士は常に、ロボットや人工知能(AI)を使って人を助けることを考えてきた。30年近いキャリアにおいて、ハワード博士は火星探査用ロボット、有害廃棄物処理用ロボット、障害児支援用ロボットなど、数え切れないほどのロボットを作っている。その過程でハワード博士は、ロボット操作、自律ナビゲーション、コンピュータービジョンなど、優れた技術を次々と開発してきた。さらに、人間がよく犯す誤り——人間が、自動化されたシステムを信頼しすぎること——についての研究もリードしてきた。

5月12日、米ACM(Association for Computing Machinery、計算機協会)は、今年の「アテナ・レクチャラー賞(Athena Lecturer Award)」をハワード博士に授与した。コンピューター科学の分野において重要な貢献を果たした女性に贈られる賞である。ACMはハワード博士の素晴らしい科学的業績だけでなく、地域社会に貢献しようとする情熱や献身的取り組みにも名誉を与えた。ハワード博士は、著名なテクノロジストであると同時に、若い女性や参加率の低いマイノリティ集団がこの分野にもっと参加し定着できるよう、数多くのプログラムを立ち上げ、主導する取り組みをしてきたのだ。

ジョージア工科大学で16年間教授職を務めたハワード博士はこの3月、オハイオ州立大学工学部の学部長として新たなキャリアをスタートした。同学部の学部長に女性が就くのは初めてのことである。ハワード博士がACMの賞を受賞した日に、キャリアや最新の研究について話を聞いた。

なお、以下のインタビューは、発言の趣旨を明確にし、長さを調整するため、編集されている。

◆◆◆

——ご自身の研究について説明されるときに、「人工知能(artificial intelligence)」という言葉を使わず、「人間化された知能(humanized intelligence)」という言葉を使われていることに気がつきました。これはなぜですか?

この言葉は2004年の論文の中で使い始めました。なぜ私たちはロボット工学やAIシステムの知能化に取り組むのかということを考えていたのです。私たちは、こうした知的機能を人間と人間との関わり合いの外側に作りたいわけではありません。私たちは、人間の経験、人間のデータ、人間のインプットに突き動かされているのです。「人工知能」というと、違う種類の知能という意味になりますが、「人間化された知能」というと、知的ではあるが、人間性を構成する要素によって動機づけられていることになります。つまり、私たちがこうしたシステムを構築する際には、人間の社会的な価値観を多少でも持てるように気をつけてもいる、ということです。

——研究を始めたきっかけを教えていただけますか?

博士課程における研究がきっかけでした。当時、私は病院内の危険物処理用ロボットのマニピュレーター訓練に取り組んでいました。今のように安全に注射針を捨てられる場所など、まだなかった時代です。注射針は他のものと同じように普通のゴミ箱に捨てられており、病院で働く人が病気になるケースもありました。そこで私は考えたのです。こうした環境で役に立つロボットを設計するにはどうすればよいか、と。

ですから、非常に早い段階から、人の役に立つロボットを構築するを研究していました。そして、こうしたタスクを大変うまくこなすロボットの作り方など、誰にもわかっていないことも知っていました。ですが、人間がいつもやっていることですから、人のやり方を真似てみようと思いました。それが始まりです。

その後、米国航空宇宙局(NASA)と協力して、将来の火星探査車のナビゲーションについて考えるようになりました。そしてここでも、こう思ったのです。科学者なら火星探査車を本当にうまくナビゲーションすることができる、と。そこで、科学者に探査車を遠隔操作してもらいました。探査車のカメラに映っているものを見てもらい、その映像に基づいて探査車がどう運転するかを関連付けようとしたのです。常にそれがテーマでした。つまり、人間の専門家に相談して、専門家たちがやっていることをアルゴリズムでコード化し、ロボットに理解させればいいのではないか、ということです。

——当時、AIやロボットについて、他の人たちもこうした人間中心の考え方で考えたり語ったりしていたのでしょうか?それとも、あなたは異端児だったのでしょうか?

もう、完全に変人でした。他のみんなと違った見方をしていたのです。しかも当時は、こうした種類の研究をする方法を示すガイドもありませんでした。実際の話、当時の自分の研究のやり方を振り返ると、今ならまったく違う方法でするだろうと思います。それ以降、経験や知識をいろいろ現場から得ていますからね。

——どの時点で、人間を助けるロボットを作るという考えから、ロボットと人間との関係を考えるという方向に変わったのでしょうか。

大きなきっかけとなったのは、緊急時の避難とロボットに対する信頼に関する研究です。私たちが調べたかったのは、非常に危険で一刻を争うような状況に置かれたとき、人間はロボットの誘導を信頼するだろうかということでした。そこで、参加者を募って、当時全く使われていなかった学外のオフィスビルに連れて行き、ツア …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
10 Breakthrough Technologies 2021

新型コロナで注目されるmRNAワクチンから、史上最も優れたAI言語モデル、電気自動車の普及を担うリチウム金属電池まで。
MITテクノロジーレビューが選んだ、世界を変える10大テクノロジー。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021Innovation Issue

AI/ロボット工学、コンピューター/電子機器、輸送、ソフトウェア、インターネット分野で活躍する13人の日本発のイノベーターを紹介。併せて、グローバルで活躍する35人のイノベーターの紹介と、注目のイノベーション分野の動向解説も掲載しました。
日本と世界のイノベーションの最新情報がまとめて読める1冊です。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る