GDPRの衝撃再来か？ 欧州AI規制で最低限知っておきたい基礎知識

人工知能（AI）の世界は、まさに「無法地帯」だ。AIアプリケーションは、監視や説明責任をほとんど果たすことなく、人間の生活に関する重要な決定を下すためにますます使用されるようになっている。これは、不当な逮捕、間違った学生の成績、さらには経済的損失など、破壊的な結果をもたらす可能性がある。女性、社会から疎外されたグループの人々、有色人種は、しばしばAIの誤りや行き過ぎの影響をもろに受けがちだ。

欧州連合（EU）は、この問題に解決策があると考えている。すべてのAI関連規制の母体となるEUの「AI規制法案（AI Act）」だ。AI規制法案は、AI分野全体を包括的に規制することによって、AIによる悪影響を抑制することを目的とした初めての法律である。EUがこの試みに成功すれば、世界中のAI監視に関する新たな世界標準となる可能性がある。

ただ、EUの法制度の世界は複雑で不透明なところがある。ここでは、EUのAI規制法案について知っておくべきことを簡潔に解説しよう。現在、同法案は欧州議会およびEU加盟国の議員によって修正が加えられている最中だ。

何がそんなに重要なのか？

EUのAI規制法は非常に野心的なものだ。法案では、人に危害を加える可能性が最も高い「ハイリスク」なAIの使用については、特別なチェックを義務付けている。これには、試験の採点や従業員の採用、法律や司法に関する裁判官の判断に使われるシステムも含まれる可能性がある。さらに、法案の最初の草案には、認識された信頼性に基づいて人を採点するなど、「容認できない」とみなされるAIの利用を禁止することが盛り込まれている。

同法案はさらに、司法当局が公共の場で顔認識システムを使用することを制限している。顔認識テクノロジーについては、監視社会を可能にするとして、欧州議会議員やドイツなどの政府関係者から、司法当局と民間企業の両方に対して公共の場でのAIの使用の全面禁止や猶予期間の設置を望む声がある。

EUのAI規制法がうまくいけば、これまでで最も強力なテクノロジー抑制のひとつとなるだろう。サンフランシスコやバージニアなど、米国の一部の州や都市では、顔認識システムに対する規制をすでに導入している。しかし、EUのAI規制法は27カ国、人口4億4700万人超に適用されることになる。

AI規制法は市民にどのような影響を与えるのか？ 

理論的には、AIアプリケーションに対して少なくともある一定の精査と説明責任を課すことにより、AIによる最悪の被害から人々を保護することが可能となるはずだ。

AI規制法案の修正に携わるチームの主要メンバーであるイタリアの欧州議会議員、ブランド・ベニフェイは、「人々は、最も有害な形態のAIから保護されていると安心できます」と述べる。

規制法案では、ディープフェイクや生体認証システム、感情を読み取れるとされるAIアプリケーションを使う場合には、これらのAIについて人々に通知することを義務付けている。議員らはさらに、AIシステムによって被害を受けた場合に、被害者が苦情を申し立て、救済を求めるための仕組みを法律で定めるべきかどうかについても議論している。

AI規制法案の修正に取り組むEU機関の一つである欧州議会も、予測捜査（Predictive Policing）システムの禁止を後押ししている。予 …