人工知能から差別や偏見を排除できるのか？

アルゴリズム設計者やデータ・サイエンティストが、偏見や不公平について説明するのはなぜ難しいのでしょうか？

女性が働きにくい職場環境を例に考えてみましょう。「成功」の定義を、2〜3年間働き続けて昇進することと仮定します。過去のデータに基づいて予測すれば、女性を雇用するのはよい考えではない、となるでしょう。ここで重要なのは、歴史的な採用判断について話しているわけではないということです。たとえ採用基準から偏見を完全に払拭したとしても、現実として女性が働きにくい職場環境には相変わらず差別はあり続けるのです。より深い部分にある、構造的で、根深く、克服するのが困難な問題なのです。

私は機械学習と人工知能（AI）が誰と誰を対等に扱うべきかを判断するために、歴史や社会学、心理学の教養を持つ真の知識人と連携することが非常に役に立つと考えています。

コンピューターができないというのではなく、今はできないというのが私の意見です。AIが正しいモデルを身につけられるのはいつか。そのモデルが社会で現実に起きていることを反映できるようになるのはいつか。あなたが何の話をしているのか理解する必要があるのです。「すべてのモデルは間違っているが、中には役に立つモデルもある」という有名な言葉があります。

（聞き手：MITテクノロジーレビュー AI担当上級編集者 ウィル・ナイト）

特集：AI最前線
人工知能は社会と人類をどう変えるか？

記事一覧を見る

• 37
• 10
• 3
• 1

人気の記事ランキング

1. The way we train AI is fundamentally flawed グーグルが発見した、機械学習が現実世界で使い物にならない理由
2. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
3. Half the Milky Way’s sun-like stars could be home to Earth-like planets 「地球2.0」候補、天の川銀河に3億個以上存在か？ 最新研究
4. We just found a source for one of the most mysterious phenomena in astronomy 謎の天文現象「高速電波バースト」の発生源、最新研究で明らかに
5. One in five covid-19 patients are diagnosed with a mental illness within 90 days 新型コロナ患者の5人に1人、回復後に精神疾患と診断