人工知能から差別や偏見を排除できるのか？

アルゴリズム設計者やデータ・サイエンティストが、偏見や不公平について説明するのはなぜ難しいのでしょうか？

女性が働きにくい職場環境を例に考えてみましょう。「成功」の定義を、2〜3年間働き続けて昇進することと仮定します。過去のデータに基づいて予測すれば、女性を雇用するのはよい考えではない、となるでしょう。ここで重要なのは、歴史的な採用判断について話しているわけではないということです。たとえ採用基準から偏見を完全に払拭したとしても、現実として女性が働きにくい職場環境には相変わらず差別はあり続けるのです。より深い部分にある、構造的で、根深く、克服するのが困難な問題なのです。

私は機械学習と人工知能（AI）が誰と誰を対等に扱うべきかを判断するために、歴史や社会学、心理学の教養を持つ真の知識人と連携することが非常に役に立つと考えています。

コンピューターができないというのではなく、今はできないというのが私の意見です。AIが正しいモデルを身につけられるのはいつか。そのモデルが社会で現実に起きていることを反映できるようになるのはいつか。あなたが何の話をしているのか理解する必要があるのです。「すべてのモデルは間違っているが、中には役に立つモデルもある」という有名な言葉があります。

（聞き手：MITテクノロジーレビュー AI担当上級編集者 ウィル・ナイト）

• 37
• 6
• 2

人気の記事ランキング

1. The real reason America is scared of Huawei: internet-connected everything ファーウェイ問題の本質 「5Gリスク」理解のために 知っておきたい5つのこと
2. MITTR Emerging Technology Nite #11 MITTR主催「ロボットとのコミュニケーションの未来」開催のご案内
3. A new Harry Potter–themed cryptocurrency is like a more private version of Bitcoin サトシ・ナカモトの再来か？ 真の匿名性実現を謳う 「グリン」に沸く暗号通貨界
4. We analyzed 16,625 papers to figure out where AI is headed next 深層学習の終わりの始まり arXiv投稿論文に見る AI研究のトレンド
5. Data mining adds evidence that war is baked into the structure of society 「戦争のない世界」は実現可能か？600年分のデータ分析した結果