安全なAIに必要なのは 『不信感』の設計

アヤナ・ハワード博士は常に、ロボットや人工知能（AI）を使って人を助けることを考えてきた。30年近いキャリアにおいて、ハワード博士は火星探査用ロボット、有害廃棄物処理用ロボット、障害児支援用ロボットなど、数え切れないほどのロボットを作っている。その過程でハワード博士は、ロボット操作、自律ナビゲーション、コンピュータービジョンなど、優れた技術を次々と開発してきた。さらに、人間がよく犯す誤り——人間が、自動化されたシステムを信頼しすぎること——についての研究もリードしてきた。

5月12日、米ACM（Association for Computing Machinery、計算機協会）は、今年の「アテナ・レクチャラー賞（Athena Lecturer Award）」をハワード博士に授与した。コンピューター科学の分野において重要な貢献を果たした女性に贈られる賞である。ACMはハワード博士の素晴らしい科学的業績だけでなく、地域社会に貢献しようとする情熱や献身的取り組みにも名誉を与えた。ハワード博士は、著名なテクノロジストであると同時に、若い女性や参加率の低いマイノリティ集団がこの分野にもっと参加し定着できるよう、数多くのプログラムを立ち上げ、主導する取り組みをしてきたのだ。

ジョージア工科大学で16年間教授職を務めたハワード博士はこの3月、オハイオ州立大学工学部の学部長として新たなキャリアをスタートした。同学部の学部長に女性が就くのは初めてのことである。ハワード博士がACMの賞を受賞した日に、キャリアや最新の研究について話を聞いた。

なお、以下のインタビューは、発言の趣旨を明確にし、長さを調整するため、編集されている。

◆◆◆

——ご自身の研究について説明されるときに、「人工知能（artificial intelligence）」という言葉を使わず、「人間化された知能（humanized intelligence）」という言葉を使われていることに気がつきました。これはなぜですか？

この言葉は2004年の論文の中で使い始めました。なぜ私たちはロボット工学やAIシステムの知能化に取り組むのかということを考えていたのです。私たちは、こうした知的機能を人間と人間との関わり合いの外側に作りたいわけではありません。私たちは、人間の経験、人間のデータ、人間のインプットに突き動かされているのです。「人工知能」というと、違う種類の知能という意味になりますが、「人間化された知能」というと、知的ではあるが、人間性を構成する要素によって動機づけられていることになります。つまり、私たちがこうしたシステムを構築する際には、人間の社会的な価値観を多少でも持てるように気をつけてもいる、ということです。

——研究を始めたきっかけを教えていただけますか？

博士課程における研究がきっかけでした。当時、私は病院内の危険物処理用ロボットのマニピュレーター訓練に取り組んでいました。今のように安全に注射針を捨てられる場所など、まだなかった時代です。注射針は他のものと同じように普通のゴミ箱に捨てられており、病院で働く人が病気になるケースもありました。そこで私は考えたのです。こうした環境で役に立つロボットを設計するにはどうすればよいか、と。

ですから、非常に早い段階から、人の役に立つロボットを構築するを研究していました。そして、こうしたタスクを大変うまくこなすロボットの作り方など、誰にもわかっていないことも知っていました。ですが、人間がいつもやっていることですから、人のやり方を真似てみようと思いました。それが始まりです。

その後、米国航空宇宙局（NASA）と協力して、将来の火星探査車のナビゲーションについて考えるようになりました。そしてここでも、こう思ったのです。科学者なら火星探査車を本当にうまくナビゲーションすることができる、と。そこで、科学者に探査車を遠隔操作してもらいました。探査車のカメラに映っているものを見てもらい、その映像に基づいて探査車がどう運転するかを関連付けようとしたのです。常にそれがテーマでした。つまり、人間の専門家に相談して、専門家たちがやっていることをアルゴリズムでコード化し、ロボットに理解させればいいのではないか、ということです。

——当時、AIやロボットについて、他の人たちもこうした人間中心の考え方で考えたり語ったりしていたのでしょうか？それとも、あなたは異端児だったのでしょうか？

もう、完全に変人でした。他のみんなと違った見方をしていたのです。しかも当時は、こうした種類の研究をする方法を示すガイドもありませんでした。実際の話、当時の自分の研究のやり方を振り返ると、今ならまったく違う方法でするだろうと思います。それ以降、経験や知識をいろいろ現場から得ていますからね。

——どの時点で、人間を助けるロボットを作るという考えから、ロボットと人間との関係を考えるという方向に変わったのでしょうか。

大きなきっかけとなったのは、緊急時の避難とロボットに対する信頼に関する研究です。私たちが調べたかったのは、非常に危険で一刻を争うような状況に置かれたとき、人間はロボットの誘導を信頼するだろうかということでした。そこで、参加者を募って、当時全く使われていなかった学外のオフィスビルに連れて行き、ツア …

人気の記事ランキング

1. A tiny new open-source AI model performs as well as powerful big ones 720億パラメーターでも「GPT-4o超え」、Ai2のオープンモデル
2. Geoffrey Hinton, AI pioneer and figurehead of doomerism, wins Nobel Prize in Physics ジェフリー・ヒントン、 ノーベル物理学賞を受賞
3. The coolest thing about smart glasses is not the AR. It’s the AI. ようやく物になったスマートグラス、真価はARではなくAIにある
4. Geoffrey Hinton tells us why he’s now scared of the tech he helped build ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか？