「アマゾンは顔認識の司法当局への販売停止を」AI研究者らが要請
産学界の人工知能（AI）研究者が、アマゾンに対する公開書簡に署名し、明らかなバイアスが確認された同社の顔認識技術を司法当局に販売するのを中止するよう求めている。
2019年1月に、トロント大学のデボラ・ラジとマサチューセッツ工科大学（MIT）のジョイ・バオラムウィーニは、アマゾンの画像認識製品「レコグニション（Rekognition）」が、女性および肌の色が黒い人を誤認識する割合が他よりも高いことを示す研究を発表した。バオラムウィーニは、以前にも他の顔認識システムに対して人種的偏見の問題を指摘している（マイクロソフトはバオラムウィーニが研究で指摘した技術的問題に対応済み）。
顔認識技術は、AIの無責任な使用を懸念する人々にとって大きな問題になっており、何らかの形で規制される可能性が高まっている。しかし、その普及は速く、企業は対応方針の調整に苦慮している。マイクロソフトは、司法当局との連携を継続することを表明し、顔認識技術が使用されている場所の表示を求める法律の制定も支持している。グーグルは、適切な方針が決まるまで、顔認識技術を提供しないとしている。
公開書簡では、2人のアマゾン幹部（マシュー・ウッド博士とマイケル・パンク）が1月に投稿した、ある研究に対する批判にも反論している。2人の批判は、研究がレコグニションの機能（および制約）について誤った認識を示していると主張するものだった。併せてアマゾンは、自社のテクノロジーが法制度に従って使用されることを求めており、司法当局によるテクノロジー使用については透明性が確保されることを支持すると述べている。
今回の公開書簡は、コンピューター科学者のヨシュア・ベンジオをはじめとする、AIと倫理に関する著名人が署名している。ベンジオは最近、現代のAIの基盤となる深層学習テクノロジーにおいて重要な役割を果たしたとして、コンピューター科学分野でもっとも権威あるチューリング賞を受賞した。深層学習は顔認識において、重要な技術となる。ベンジオは現在、AIのリスクに関する重要な意見を持つ研究者とされている。
