Why everyone is mad about New York’s AI hiring law

AI採用ツール規制がニューヨークで施行、不評の理由は？

人工知能（AI）と人材採用に関する法律が7月5日にニューヨーク市で施行された。だが、この法律は、求職者の権利を保護する公益団体や公民権擁護団体と、法律に従わなければならない企業の双方から、批判されている。 by Tate Ryan-Mosley2023.07.21

この記事は米国版ニュースレターを一部再編集したものです。

7月5日にニューヨーク市で施行された人工知能（AI）と人材採用に関する法律に、誰もが憤慨している。同法律は米国で初のAIのひとつであり、これがどう展開していくかは、今後他の都市でAI関連の政策や議論がどのように具現化していくかのヒントになる。AIによる人材採用の規制は欧州の「AI法（AI Act）」にも含まれており、米国の他州でもニューヨーク市と同等の法案が検討されている。

人材採用におけるAIの活用は、既存の人種的・性別的偏見を自動化してそれを固定させる方法だと批判されている。応募者たちの表情や言葉を評価するAIシステムは、白人、男性、健常者を優位に置くことがこれまでに示されている。これは大規模な問題で、多くの企業が人材採用のプロセスで少なくとも一度はAIを使用している。米雇用機会均等委員会のシャーロット・バローズ委員長は2023年1月の会議で、5社中4社もの企業が、採用の判断にAIによる自動処理を使用していると述べた。

7月5日に施行されたニューヨーク市の「自動雇用決定ツール（Automated Employment Decision Tool）法」では、人材採用にAIを利用する雇用主は、応募者にその旨を伝えなければならないとされている。また、そのシステムが人種差別的または性差別的ではないことを証明するために、毎年第三者による監査を通さなけなければならなくなる。そして応募者は、そのテクノロジーによってどのようなデータが収集・分析されるのか、雇用活動をしている企業に対して情報要求ができるようになる。違反した企業には、最高1500ドルの罰金が科せられる。

この法律を支持する人々は、完璧ではないにしろ、AIを規制し、その使用にまつわる害やリスクをいくらかでも軽減する方向へと進む良いスタートだと主張する。この法律は企業に対し、自分たちが使うアルゴリズムをよく理解すること、そしてそのテクノロジーが女性や有色人種を不当に差別していないかどうかよく把握することを求めているのだ。そして米国のAI政策という意味で言えば、これは規制に関する非常に珍しい成功例でもあり、このような地方政府による明確な規制は今後もっと増えていくことだろう。ある種、期待が持てそうではないだろうか。

だが、この法律が大きな議論を呼んでいる。公益団体や公民権擁護団体は、この法律には十分な強制力がなく範囲も不十分だとしており、一方、この法律に従わなければならない企業側は非現実的で負担が大きいと主張している。

民主主義及びテクノロジーセンター（Center for Democracy & Technology）、監視テクノロジー監督プロジェクト（S.T.O.P：Surveillance Technology Oversight Project）、全米有色人種地位向上協会法的防御教育基金（NAACP Legal Defense and Educational Fund）、ニューヨーク自由人権同盟（New York Civil Liberties Union）は、この法律は「過小包摂」であると主張する。AIを使って何千人もの応募者たちをふるいにかけるシステムをはじめとする、人材採用における自動化システムの多くの使用例を除外してしまう恐れがあると言うのだ。

さらに、第三者監査に何ができるのかが正確には不明瞭だ。監査業界は現在のところ非常に未成熟だからだ。アドビ、マイクロソフト、IBMなどが加盟する有力なテクノロジー業界団体であるビジネス・ソフトウェア・アライアンス（BSA）は2023年1月に、第三者による監査は「実現不可能」であると主張して今回の法律を批判するコメントをニューヨーク市に提出した。

「監査人が企業の情報にどのようなアクセスができるのか、またその動作方法についてどれだけ実際に尋問できるのか、多くの疑問があります」と監視テクノロジー監督プロジェクトのアルバート・フォックス・カーン事務局長は言う。「たとえて言うならば、財務監査人はいても、税法や監査規則はおろか、一般的に受け入れられている会計原則も存在しないようなものです」。

この法律は、AIと人材採用に関する誤った安心・安全感覚を生み出しかねないとカーン事務局長は論じる。「この法律は、AIシステムから応募者たちが守られている証拠として掲げることで、逆に事実を覆い隠してしまう働きをしてしまいます。実際問題、これが法制化されても責任を問われる企業は皆無でしょう」。

重要なのは、義務化されたこの監査では、AIシステムのアウトプットがある集団に対して偏っているかどうかを評価するのに、そのテクノロジーによる「選択率」がさまざまな集団間で異なるかどうかを判定する「影響率」という指標を使うことになるという点だ。この監査では、アルゴリズムがどのように意思決定をするのかを突き止める必要はなく、今回の法律は、深層学習のような複雑な形式を採用した機械学習の「説明可能性」という課題を回避している。ご想像の通り、この「回避」もAIの専門家の間では議論の的となっている。

米国では連邦法を待つ間に、この種のAI規制、すなわちテクノロジーのある特定の適用方法を取り上げた州法が、今後も増えていきそうだ。そして、こうしたローカルな戦いの中でこそ、今後数十年の間にAIツール、安全メカニズム、そして執行がどのように定義されていくことになるかがわかるはずだ。すでにニュージャージー州とカリフォルニア州が同様の法律を検討している。

AIと人材採用に関してはこちらの記事も参照してほしい。

◆

テック政策関連の気になるニュース

暗号資産の波に乗っている有名人たちは、今や現実の暴落に直面しており、中にはトム・ブレイディー（フットボール選手）など、ひと際、苦境に立たされている人々もいる。「暗号資産で楽に手に入るお金とネット上の誇大広告に飛び付いた俳優やスポーツ選手などの有名人が直面している屈辱的な報い」について、エリン・グリフィスとデイビッド・ヤッフェ＝ベラニーが書いたニューヨークタイムズ紙の記事は面白かった。

ロシアはインターネットをより地政学的に支配しようとしていると、コラムニストのデイビッド・イグナティウスが最新のワシントンポスト紙の社説で書いている。ロシアは、ジュネーブで開催される国連会議に先立ち、インターネットが世界的にどのように管理されるかを検討する決議案を提出した。中国とロシアがともにグローバルなデジタル・ルールを書き換えようとしている中で、この不安定な空間を観察するのは実のところ、非常に興味深い。

米国の連邦判事は、（誤報などの）オンラインコンテンツを削除・報告しようとする試みは憲法修正第1条に違反するとして、バイデン政権の当局者がソーシャルメディアに接触することを阻んだ。この判決は間違いなく争われるだろう。これはコンテンツ・モデレーション政策に対する意味ある変更というより、政治的な駆け引きの感が強い。

人気の記事ランキング

テイト・ライアン・モズリー [Tate Ryan-Mosley]米国版テック政策担当上級記者: 新しいテクノロジーが政治機構、人権、世界の民主主義国家の健全性に与える影響について取材するほか、ポッドキャストやデータ・ジャーナリズムのプロジェクトにも多く参加している。記者になる以前は、MITテクノロジーレビューの研究員としてニュース・ルームで特別調査プロジェクトを担当した。前職は大企業の新興技術戦略に関するコンサルタント。2012年には、ケロッグ国際問題研究所のフェローとして、紛争と戦後復興を専門に研究していた。