人工知能から差別や偏見を排除できるのか？

アルゴリズム設計者やデータ・サイエンティストが、偏見や不公平について説明するのはなぜ難しいのでしょうか？

女性が働きにくい職場環境を例に考えてみましょう。「成功」の定義を、2〜3年間働き続けて昇進することと仮定します。過去のデータに基づいて予測すれば、女性を雇用するのはよい考えではない、となるでしょう。ここで重要なのは、歴史的な採用判断について話しているわけではないということです。たとえ採用基準から偏見を完全に払拭したとしても、現実として女性が働きにくい職場環境には相変わらず差別はあり続けるのです。より深い部分にある、構造的で、根深く、克服するのが困難な問題なのです。

私は機械学習と人工知能（AI）が誰と誰を対等に扱うべきかを判断するために、歴史や社会学、心理学の教養を持つ真の知識人と連携することが非常に役に立つと考えています。

コンピューターができないというのではなく、今はできないというのが私の意見です。AIが正しいモデルを身につけられるのはいつか。そのモデルが社会で現実に起きていることを反映できるようになるのはいつか。あなたが何の話をしているのか理解する必要があるのです。「すべてのモデルは間違っているが、中には役に立つモデルもある」という有名な言葉があります。

（聞き手：MITテクノロジーレビュー AI担当上級編集者 ウィル・ナイト）

特集：AI最前線
人工知能は社会と人類をどう変えるか？

記事一覧を見る

• 37
• 10
• 3
• 1

人気の記事ランキング

1. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は？専門家が解説
2. Covid-19 immunity likely lasts for years 新型コロナ、免疫は長期間持続か＝米新研究
3. The first black hole ever discovered is more massive than we thought 白鳥座X-1ブラックホール、従来推定よりはるかに巨大だった
4. There’s a tantalizing sign of a habitable-zone planet in Alpha Centauri ケンタウルス座アルファ星のハビタブルゾーンに惑星が存在か
5. Bill Gates: Rich nations should shift entirely to synthetic beef 「富裕国は人工肉を食べよ」 ビル・ゲイツ、 気候変動問題を語る