KADOKAWA Technology Review
×
発表!MITテクノロジーレビューが選ぶ
2022年のイノベーター14人。
【12/15 Summit開催】
五十嵐歩美×成田悠輔×中島秀之:日本がAIで世界と戦う方法
撮影:曽根田元
Researchers Discuss: How will Japan compete with the world in the AI?

五十嵐歩美×成田悠輔×中島秀之:日本がAIで世界と戦う方法

新型コロナウイルスの感染拡大で、分散化・自動化・省人化など、社会の価値観やニーズの変化が加速している。AIの研究・社会実装で日本が遅れをとっていると言われて久しいが、社会課題の解決に向けてAIをどのように活かせば良いのだろうか。不可分財の公平な配分を研究している五十嵐歩美氏、データを使って公共政策やビジネスをデザインしている成田悠輔氏と、『AI白書』編集委員長の中島秀之氏が話し合った。 by MIT Technology Review Japan2022.06.01

アルゴリズムだけでは問題を解決できない

中島 お2人とも社会を相手に研究していて、我々が昔、箱庭や積み木の世界をやっていたころから随分変わったという印象を受けています。簡単にそれぞれの研究内容を教えていただけますか。

五十嵐 私は公平な資源配分メカニズムを研究しています。例えば学生に授業をどうやって公平に割り当てるか、家事を家族でどうやって公平に分担するか、そういったことを数学の力を使って解決する研究です。同じテーマの研究は、経済学や数学の分野で昔からありましたが、特に最近、計算機科学分野からの参入が活発になっています。

そのきっかけは、2014年にカーネギーメロン大学のグループが一般向けにリリースした公平な資源配分のためのWebサービスでした。意外にも人気が出て、需要があることがわかったのです。その後、サービスのユーザーを交えたコミュニティで、どういうものが公平か、どういうときに公平性が保証できるかという研究が活発になりました。私はその流れを汲んで研究をしています。

五十嵐歩美(いがらし・あゆみ)
筑波大学システム情報工学研究科(工学修士)、オックスフォード大学計算 機科学科修了(計算機科学博士)。JSPS特別研究員として九州大学システム情報科学研究院、東京大学情報理工学系研究科での勤務を経て、現在、国立情報学研究所情報学プリンシプル系助教。整数単位でしか量れない複数の財(不可分財)を公平配分する計算手法を開発。IJCAI(International Joint Conference on Artificial Intelligence)でチュートリアル講演等を行う。

成田 私はデータやアルゴリズムを使ったビジネス・公共政策のデザインを専門にしていて、AIについては日曜大工的にちょっとかじらせていただいている感じです。興味があるのは、社会的に重要な意思決定や資源配分をするアルゴリズムを、いかにデータを用いて設計していくか、改善していくかということです。それを理論的に考えると同時に、政策からビジネスまで、特に重要度が高い社会課題に使っていくことをしています。

例えばAIや機械学習アルゴリズムが典型だと思いますが、ソフトウェアの形でデジタルに書き下されたアルゴリズムやルールを使って何らかの意思決定をしたり資源配分をしたりすることが、ごく普通に行われるようになってきました。ビジネスではもちろんのこと、政策領域でもそのような事例はどんどん増えています。例えば裁判の判決や警察のパトロール、教育や医療の個別最適化にアルゴリズムが使われるようになってきています。

意思決定アルゴリズムを使う上で難しいのが、今使われているアルゴリズムが必ずしも最適なものとは限らないという点です。今あるアルゴリズムから出発して、その運用が自然につくり出したデータを使いながら自動的にそのアルゴリズムを改善していけたらうれしいですよね。そのための理論をつくり、ソフトウェア化し、実際に使ってみるという研究をしています。

また、理論だけでなく、政策とビジネスへの応用も行っています。政策への応用では、例えばコロナ禍で病院に対して政府が補助金を給付する場合、どの病院にどれくらいの補助金を出すかを決めるために、アルゴリズムAIを使う事例があります。その場合、その補助金アルゴリズムから出てきた行政データを自治体や政府から共有してもらい、それに基づいて今あるアルゴリズムを評価し、改善していくための政策提言を行います。ビジネスの応用では、主に日本のテック企業と共同研究をしながら、彼らのビジネスの改善を支援しています。政策は主に米国、ビジネスは主に日本と分けて活動しています。

中島 社会を相手にしたときに問題になるのは、例えば公平性でいえば、アルゴリズムだけでは足りなくて、何が公平か、資源配分として何が最適かの基準は社会の側にあると思います。その辺りはどのように考えていますか。

五十嵐 私の場合はこれまでずっと理論研究をしてきたので、他分野の、例えば哲学や社会学の方との交流は現段階ではほとんどありません。ただ理論を社会実装していくことにはとても興味があります。

もし自分の研究を応用して財産分割アプリをつくったとしたら、そこで出てくる問題はいろいろ考えられます。例えば、どうやってユーザーにアルゴリズムを説明するか。一つの財を2人に分配しなければいけないような「公平な解が存在しない」ときにどうやって解決すれば良いのか。そういった問題は、他分野の方と話し合いながら決めていかなくてはならないと思っています。

成田悠輔(なりた・ゆうすけ)
東京大学経済学部を卒業後、同大大学院を経て米マサチューセッツ工科大学(MIT)で博士課程を修了。現在、イェール大学助教授、半熟仮想株式会社代表取締役。研究者としてNeurIPS(Neural Information Processing Systems)、AAAI(Association for the Advancement of Artificial Intelligence)、Econometrica、Management Science、PNASで論文を発表、社会的意思決定アルゴリズムをデータ駆動にデザインする手法を開発する一方、事業者として、サイバーエージェント、ZOZO、ニューヨーク市、シカゴ市などと共同研究・事業を行う。

成田 私は今、まさに価値観や規範的判断の問題に直面しています。まず、「価値判断の基準をどのように設定すれば良いか」という問題が重要である領域と重要でない領域がはっきり分かれている印象があります。重要でない領域というのは、比較的安定しているビジネス領域での応用のケースがそれに当たります。例えば、広告・メディア業界やWeb産業の大企業におけるクリック率やコンバージョン率などのKPIはすぐに測れる会社の事業目標で、短期的にはあまり変わらない。そういう場合には、そのKPIに向かって最適化していけばいい、めでたしめでたしで終わりです。でもそれは、解きやすい問題に自分たちの知性と感性を押し込めて視野狭窄に陥っているだけともいえると思うのです。社会的に重要な問題というのは、定義上一つのKPIを設定するのが難しいはずですから。

一方で、価値判断基準の設定が重要な問題になる領域として、一つは変化が激しい産業や会社の場合が挙げられます。例えば私が一緒に仕事をしている会社はすごい勢いで急成長していて、半年経つと市場が全く別、会社が全く違った姿になっていたりします。第1四半期と第2四半期のKPIが違うことがごく普通にあるんです。こういう領域だと、短期的なKPIの変化に振り回され過ぎると、何に向かってアルゴリズムをつくっているのかがわからなくなってしまう。変わりゆく市場のなかで、長い目で見たときの企業の成長、産業の成長にとって重要なKPIが何なのかを見極めることが重要になると思います。

価値判断基準の設定が顕著に重要になる領域のもう一つが、政策領域だと思います。私自身は教育と医療の分野で仕事をしているのですが、この辺りは何をKPIとすればいいかわからないことが、その分野の本質そのものという感じです。例えば教育の領域では、比較的測りやすい指標、短期視点だとテストの点数、長期視点では所得水準のようなものを、とりあえずKPIとして使うことが多いです。でも、それが不十分なのは誰にとっても明らかです。

特に日本のような国は、米国のように合理的過ぎる国と違って、とりあえずテストの点数や所得を最適化していけばいいとはならず、ステークホルダーを説得しようとする段階で「何が教育の目的なのか」という議論が前面に出て来ざるを得ない部分があります。そういう部分で、自治体や政府の担当者、その他の教育学者や社会学者などと話しながらいかに合意を得ていくかは、個人的にも重要な問題として直面しているところです。

中島 政策決定の話では、「投票」というシステムがありますよね。経済学者がいうように、多数決が必ずしも良いわけではないことはわかっているにもかかわらず、選挙でもいまだに使い続けています。多数決の一番の欠点は「票割れ」です。似たような候補者が複数いたら、その人たちの間で票が割れて別の人が勝ってしまう。なぜ多数決をやめないのか。今はコンピューターで複雑な計算もできるわけだから、AIを研究している人から新しい提案が出てくるといいなと思います。

私は2004年から、はこだて未来大学の学長を務めましたが、当時は台湾との連携が多くて主要な大学には全部行きました。そこで面白かったのは、行く先々で「うちの大学は台湾で1位です」というわけです。それぞれ指標が違っていて、自分の大学が1位の指標を持っている。だから、自分たちで指標を決めて独自性を出すというのも面白いと思いますね。

中島秀之(なかしま・ひでゆき)
東京大学大学院情報工学専門課程修了(工学博士)。通産省工業技術 院電子技術総合研究所に入所後、産総研サイバーアシスト研究センター長、公立はこだて未来大学学長を経て、2016年6月より東京大学大学院情報理工学系研究科知能機械情報学専攻特任教授。現在、札幌市立大学学長。人工知能を状況依存性の観点から研究している。

AIと社会の間をつなぐ倫理・正しさ

中島 AIに学習させるデータにバイアスがあることで、データ的には正しいものの、社会の視点ではその結論が使えないケースがたくさんあります。例えば過去の犯罪者の顔のデータをAIに学習させて、罪を犯しそうな人をAIに検出させたら特定の人種ばかりになってしまうようなケースです。では、どうするべきか。逆のバイアスをかけるのか、その場合、どの程度戻すのが正しいのか、技術とは別の議論をしなければいけません。これからのAIは、社会と離れたところでは成り立たない気がしています。

成田 これまでのAIは、画像検索や機械翻訳など使う目的が誰の目にもはっきりしていて議論の余地がないタスクに集中することで成果を上げてきました。しかし、社会にとってそもそも何が大事な問題なのか。虚心坦懐に立ち返ってみると、解決すべきもっと大きな問題があることに誰でも気づくはずです。先ほどの選挙の問題や民主主義の問題は、まさにその代表格です。民主主義あるいは資本主義のようなものを動かす基本的なルールを再設計するというような一番重要なタスクにどのようにAIを使うかは、今後数十年の最も大きいAI研究の課題になるでしょう。

中島 そういう意味では、AI倫理の決定版がありません。日本では人工知能学会倫理委員会が定めた倫理指針があるのですが、要約すると「悪いことをしてはいけない」としかいっていない。ほしいのは倫理的に何が悪いことで、何が良いことかの基準です。そしてそれが、AIと社会の問題と密接に関わり合っている。

五十嵐さんの公平性の話もたぶん同じで、例えばジェンダーの公平性という話がありますよね。昔ある女性の国会議員が「機会均等では駄目だ、結果均等にしなさい」という言い方をしていました。どちらが正しいかは一概にいえない話ですが、これに関する理論は何かあるのでしょうか。

五十嵐 具体的な研究としては、「機会的な公平性も、結果的な公平性もバランスを取るべきだ」という議論があります。例えば、宝くじのように一様にランダムに誰かを選ぶやり方は、機会的な意味では公平です。けれども、何らかの公的な補助金を同様に配ってしまうと、結果的に不平等になってしまいます。そのときに両者のバランスをどうやって取るのか。

その答えは問題にもよりますが、簡単な資源配分の例だと、randomnessとdeterminismをうまく混ぜる形になります。ラウンドごとに分けて、全体ではdeterministicにやるけれども、各ラウンドを見ると不作為性がある。うまく織り交ぜると、機会的にも結果的にもまあまあ平等になります。

成田 五十嵐さんがされている公平な資源配分に関する研究だと、「何が公平か」の要件を記述した数学的な公理を考えて、それを満たしているかどうかで善し悪しを判断していくことが多いですよね。それは重要だと思うのですが、同じぐらい重要なこととして、私たちが肌感覚として納得するか、逆に抵抗があるかといった、公理としては書き下せないけれども、動物としての人間が表してしまう心と体の反応があると思います。公平性の公理は満たしていても炎上するときはしてしまう(笑)。

この私たちの心と体が示す反応を学習して、私たちが公平だと感じられる意思決定や資源配分を行うアルゴリズムをどうやってつくれるか、これは重要な問題です。おそらく今世紀後半には、自治体や政府の機能をいかに自動化するかが重大な問題になるでしょう。そのときに、AIによってなされた意思決定に対して人間がどう感じたか、世論はどう反応したかを読み取って、それに対してさらに反応するAIをいかにしてつくるのか。その意味では、数学的な公理に依存する部分と、人間がどう反応したかというデータに拠る部分、両者を融合したようなAIが必要になってくるのかもしれません。

日本の強みとAIによる社会課題の解決

中島 成田さんは米国で研究や社会実装を続けています。五十嵐さんは英国で研究されたご経験があります。日本と海外の環境を比べてみてどう感じますか。

成田 私は米国の大学で学術研究をしていますが、日本では研究という感じの研究はほとんどしていません。企業や自治体と仕事をしたり、メディアで仕事をしたりという、自由活動みたいなことをしています。そういう混合活動が楽しいです。

日本のいいところを挙げるとすると、良くも悪くも米国のような激しい競争にさらされていないことがあると思います。最近の米国のコンピューターサイエンスの大学院の入試や教員の採用を見ているとあまりに過当競争で、完璧な成績表とトップカンファレンスに5本以上パブリケーションがある人しかPh.D.に入れない状況です。

そういう状況だと、先ほど話したような本当に重要な問題に腰を据えて取り組むことはできません。当然、学会の潮流からずれたことはできません。そういう意味で、自由に考えたり、大きなことを考えたりする場所として日本は良いところだと昔から感じています。

五十嵐 私が研究をしていたのは英国ですが、成田さんのお話のように、特にここ2、3年のコンピューターサイエンス分野の競争の激しさは、つらいものがあるような気がします。オックスフォードへの留学は非常に楽しい経験で、英国は米国よりは多少緩い文化ですが、それでもランチタイムに「トップカンファレンスに何本論文通ったか?」と聞かれてプレッシャーを感じていました。日本も最近の傾向として、米国的なカンファレンス至上主義のようなものが若干ある気はしますが、そこまで激しくはないですね。

中島 今、研究も含めていろいろなことが国際的になってきています。日本だけで何とかしようというよりは、成田さんが話されたように、「こういうことは米国で」「こういうことは日本で」と分けて考えるほうが良いのではないかと思いました。AIに関して言うと、日本は基礎研究でがんばるのはやめたほうがいい。グーグルなどが機械学習の良いプログラムを開放してくれているのだから、その上でアプリケーションに注力するのが、日本の役割ではないかと思います。

五十嵐 中島先生がおっしゃっているように、特に学術研究の世界では国際社会と連携しなければ、そもそも日本だけでは人材が足りず難しいと感じています。ただし、比較的狭い研究の世界とは異なり、応用の現場は、プレイヤーも問題も多種多様なので、それぞれの場所でどんどん成功例を増やすこともできると思います。

最近は、AI技術が医療・教育・自動運転など社会の様々な場面で応用が進み役立っています。今後も、AI技術の進歩のおかげで、これまでに解くことが難しかった問題を解くことが可能になり、様々な物事の効率化が進むと思います。しかしながら、人権問題、格差の是正など、社会の安定性に関わる問題に対しては、AI技術があまり成功している印象はありません。私は公平な資源配分の研究をしていますが、例えば家事分担の公平性を目標にする場合、参加者にとって負担が増えることもあり、なかなかAI技術での介入の仕方が難しいこともあります。より複合的な問題解決をしてくれるAI技術が誕生してくれるといいなと思います。また、AI技術と社会との関わり方も今後ますます重要な課題になると思います。

成田 日本は人材のプールも貧しくお金もあまりない、計算資源もないという感じなので、もういろいろなものがない状況だと思います。だから、資源を投下することが重要な領域で戦うのは無理があると思います。どちらかというと物量勝負の領域からは積極的に撤退して、先ほど話した民主主義AIをつくるみたいな、ちょっとSF的で思考実験に近いようなタイプの、おかしな研究をやる方向に行ったらいいのではないかという気がしています。そういう大きな社会構想系と並んで重要なのが、日本という世界一の高齢化社会が抱える日々の生活の困難に取り組むことですね。介護や医療です。日本が他のどの国より切実だと感じている課題に利己的に取り組むことが、結果として世界のためにもなるのではないでしょうか。

本記事は、『AI白書2022』(2022年4月、角川アスキー総合研究所刊)を一部転載したものです。

『AI白書2022』
人工知能、デジタルツイン、ブロックチェーンが構築する新しい世界の幕開け

AI(人工知能)の社会実装が進み、国内企業のAI導入率も4.2%から20.5%に改善しました。現在、AIはデジタルツイン、ブロックチェーン、ロボティクスなどと組み合わせて、日常から地球全体、仮想空間「メタバース」に活用範囲が広がっています。本書は、AIに関する基礎的な技術解説や国内外の導入事例、制度や政策面での取り組みに加え、各種調査を掲載し、幅広い視点でAIを解説。業務効率化やイノベーションの創出、さらには気候変動、労働人口の減少、インフラの老朽化への取り組みなど、企業がAIを導入する指針として実践的に活用できる一冊です。

・発売日:2022年4月28日
・編:AI白書編集委員会
・発行:株式会社角川アスキー総合研究所
・発売:株式会社KADOKAWA
・ISBN:978-4-04-911090-6
・定価:4,840円(10%税込)
・サイズ:A4判 496ページ 2色刷(冒頭のみ4色)
詳細はKADOKAWAの公式ページまで

人気の記事ランキング
  1. Here’s how a Twitter engineer says it will break in the coming weeks ツイッターで「非公式RT」が一時復活、崩壊の始まりか
  2. Former Twitter employees fear the platform might only last weeks 「ハードコア」大量離職で、元従業員らがツイッターに余命宣告
  3. When you lose weight, where does it go? 解説:ダイエットで減った体重はどこに行ったのか?
MITテクノロジーレビュー編集部 [MIT Technology Review Japan]日本版 編集部
MITテクノロジーレビュー(日本版)編集部
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
人気の記事ランキング
  1. Here’s how a Twitter engineer says it will break in the coming weeks ツイッターで「非公式RT」が一時復活、崩壊の始まりか
  2. Former Twitter employees fear the platform might only last weeks 「ハードコア」大量離職で、元従業員らがツイッターに余命宣告
  3. When you lose weight, where does it go? 解説:ダイエットで減った体重はどこに行ったのか?
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る