KADOKAWA Technology Review
×
6/15開催 「生成AI革命2」参加受付中【会員優待あり】
殺人ロボよりも現実的なAIの脅威
Miguel Porlan
The Dangers of Tech-Bro AI

殺人ロボよりも現実的なAIの脅威

企業でのAIの展開を支援するコグニション・エックス(CognitionX)の共同設立者タバサ・ゴールドスタウは、人間が持つ無意識の先入観がAIに与える影響について危惧している。 by MIT Technology Review Editors2017.10.30

人工知能(AI)や、AIをAIたらしめる中核要素とは、与えられた目標を達成する方法を見つけることにあります。しかし、目標を達成する過程については不透明な部分が多く見られます。もし、機械に無意識の先入観が組み込まれていて、だれもそれに気が付かなったとしたら、実は女性にとって不利な結果が出る可能性があるのです。しかも、そのような結果が出た理由を正確に知ることですら非常に困難なのです。

従来のテクノロジーでは、原因を追及することは容易です。例えば、自動車事故の死亡率は女性の方が高いですが、それは衝突試験で使われるダミー人形が、女性よりも男性に近い形状だったからです。AIにおいても、医薬品の治験や自動運転車などの分野で生死にかかわる問題が起きる可能性があります。

AIの性的偏向については、現時点でも事例があります。 グーグル広告では、高報酬の求人広告は女性よりも男性に多く提示されています。ほかにも同様の状況を想定することができます。女性の方がお金や住宅ローンを借りたり、保険に入るのが難しかったすることもあるのではないでしょうか?

私はAIについて、悲観的な未来を思い描いているわけではありません。殺人ロボットが作られることなどは想定していません。もっと狭い範囲での応用について考えています。その狭い応用例をつぶさに見ていくと、女性へのマイナスの影響に行き当たると思います。これはAIの問題ではなく、別の原因から生まれているのです。開発中の機械に、人間の無意識の性的偏見や人種差別が浸透してしまうリスクについて考えているのです。

AIの開発に携わる人たちに、このような問題を認識してもらうにはどうすればいいのでしょうか? まずは利用者の側が、倫理的なAIを求めていくことが必要です。単なる性の問題として捉えている人も大勢いますが、偏った先入観を持ったAIが生まれてしまうことは、根幹に関わる問題なのです。

(聞き手:レイチェル・メッツ=MITテクノロジーレビュー モバイル担当上級編集者)

人気の記事ランキング
  1. MITTR Emerging Technology Nite #23 Plus MITTR主催「生成AI革命2」開催(オンライン&東京)のご案内
  2. This abundant material could unlock cheaper batteries for EVs 中国企業が続々発表、ナトリウムイオンはEV電池の主流になるか?
  3. A chatbot that asks questions could help you spot when it makes no sense チャットGPT、「質問付き」回答で騙される人が減ることが判明
生成AI革命

自然な文章を生成するチャットGPT(ChatGPT)/GPT-4などの大規模言語モデル、テキストから画像を生成できるDALL·E 、Stable Diffusion、Midjourneyなどの拡散モデルの登場は、私たちの生活やビジネスを大きく変えようとしている。
人工知能(AI)の新時代を牽引する「生成AI(ジェネレーティブAI)」革命の最前線を追う。

記事一覧を見る
人気の記事ランキング
  1. MITTR Emerging Technology Nite #23 Plus MITTR主催「生成AI革命2」開催(オンライン&東京)のご案内
  2. This abundant material could unlock cheaper batteries for EVs 中国企業が続々発表、ナトリウムイオンはEV電池の主流になるか?
  3. A chatbot that asks questions could help you spot when it makes no sense チャットGPT、「質問付き」回答で騙される人が減ることが判明
MITテクノロジーレビュー[日本版] Vol.10
MITテクノロジーレビュー[日本版] Vol.10世界を変えるU35イノベーター2022年版

人工知能(AI)/ロボット工学、インターネット、通信、コンピューター/電子機器、輸送、持続可能性、生物工学など幅広いテクノロジー領域で活躍する2022年の日本を代表する若手イノベーター14人、米国・中国・欧州などで活躍するグローバルのイノベーター35人を一挙紹介する。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る