KADOKAWA Technology Review
×
12/16開催 「再考ゲーミフィケーション」イベント参加受付中!
心配すべきは未来ではない
ディープマインド研究者、
AIの「脅威」を語る
David Vintiner
人工知能(AI) Insider Online限定
The true dangers of AI are closer than we think

心配すべきは未来ではない
ディープマインド研究者、
AIの「脅威」を語る

人工知能(AI)がやがて超知能に発達して人間を脅かす。グーグルのAI子会社ディープマインドで倫理問題に取り組む科学者は、そんな未来を心配するよりも現実の課題を直視すべきだという。 by Karen Hao2020.11.12

人間が機械を作り出してからというもの、人々は機械によって滅ぼされる日を恐れてきた。スティーブン・ホーキング博士が、「人工知能(AI)は人類文明に終わりを告げる恐れがある」と警告したのも有名な話だ。だが、こうした見解を持つ人は現実を分かっていないのではないか、と考えるAI研究者も多い。研究者がAIの暴走を恐れていないわけではない。研究者には、AIの暴走がすでに起こっていると分かっている。ただその起こり方が、ほとんどの人が考えているものとは異なるということなのだ。

AIは現在、求職者をスクリーニングし、病気を診断し、犯罪容疑者を特定するまでになっている。こうした意思決定は効率性や公正さを高めるようにしなければいけないが、実際にはそうはなっておらず、逆にAIを訓練した人間のバイアスがAIによって永続化させられる、ということがしばしば起こっている。

ウィリアム・アイザックは、2014年にグーグルが買収したAIスタートアップ企業であるディープマインド(DeepMind)の倫理・社会チームの上級リサーチ科学者であり、この分野で活躍するAIの専門家、社会科学者、弁護士が年に一度結集する「公平性、説明責任、透明性」会議の共同議長も務めている。アイザックに、AI開発が直面している現在の課題や潜在的な課題、その解決策について話を聞いた。

◆◆◆

——超知性を備えたAIについて心配した方がいいのでしょうか?

質問をずらしたいと思います。予測警備やリスク評価といった短期的なものであれ、スケールアップした高度なシステムといった長期的なものであれ、脅威には重複する部分があります。これらの問題には、歴史に基づいたものも多くあります。ですから、潜在的なリスクにしても、そうしたリスクに対するアプローチの仕方にしても、私たちが考えるほど抽象的なものではないのです。

警告したい分野は3つあります。おそらく最も差し迫っている問題は、価値観の整合性についてです。母集団のさまざまなかたちの嗜好や価値観を理解し、それを実現するためのシステムが、実際にはどのように設計されているのかという問題です。ここ数年、政策立案者や産業界などによって、技術的なシステムに価値観を組み込もうという試みが大規模に実施されています。こうした動きは予測警備、リスク評価、雇用といった分野に顕著です。これらのシステムには、社会を反映したバイアスが何らかの形で表れていることは明白です。理想的なシステムとは、母集団の多数の利害関係者や人々のすべてのニーズを釣り合わせるようなシステムでしょう。ですが、社会は自分たち自身の歴史と志との間で折り合いをどうつけていくのしょうか? その答えを出すのに私たちはまだ苦労している状態ですし、その問いは今後飛躍的に複雑さを増すでしょう。この問題を正しく解決することは、将来だけでなく、今この現在にとっても重要なのです。

2つ目は、実証可能な社会的利益の実現だと考えます。今の段階では、私たちが志す広範な社会的利益をAIテクノロジーが達成できるであろうことを示す経験的証拠が、まだほとんどないのです。

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Promotion MITTR Emerging Technology Nite #31 MITTR主催「再考ゲーミフィケーション」開催のご案内
  2. 3 things that didn’t make the 10 Breakthrough Technologies of 2025 list 2025年版「世界を変える10大技術」から漏れた候補3つ
  3. OpenAI’s new defense contract completes its military pivot オープンAIが防衛進出、「軍事利用禁止」から一転
▼Promotion 再考 ゲーミフィケーション
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る