数年前まで、ソイジック・ペニコーはフランス政府に勤務し、どの行政機関がどの目的でアルゴリズムを導入しているのかを記録するとともに、政府によるAI活用の実態を市民が理解できるよう支援する情報資源を整備していた。現在は立場を変え、外部からこの技術の潜在的な濫用に警鐘を鳴らしている。

31歳のペニコーは、警察や福祉行政が用いるアルゴリズムなど、自身が特に重大なリスクをはらむと考えるシステムが公的評価プロセスの対象外とされていることに不満を抱いた。「透明性の確保に取り組んでいても、被害そのものの問題は解決できていないと感じました」と彼女は語る。

2021年に政府を離れ、独立研究者およびAI政策専門家として活動を開始した。2023年には、非営利ニュースルームのライトハウス・レポーツ（Lighthouse Reports）と協力し、フランス社会保障機関が福祉受給者の不正受給リスクを評価するために運用しているアルゴリズムを調査した。関連する3つのモデルのソースコードを入手・解析した結果、ひとり親や障害者を不当に重点監視対象としていることを明らかにした。この調査結果は、15のNGOによる同機関への訴訟につながった（MITテクノロジーレビューは最近、アムステルダムの福祉アルゴリズムに関する別件の報道でライトハウスと協力している）。

彼女の最新プロジェクトは、フランス政府が導入しているアルゴリズムを網羅的に記録する公開リポジトリの構築である。昨年11月に公開され、オンラインレビューに基づいて飲食店を衛生検査対象として抽出するシステム、心臓移植候補者の優先順位付けに用いられる病院向けシステム、さらに福祉行政や法執行機関で運用される複数のアルゴリズムなど、72件の詳細を掲載している。彼女の把握する限り、少なくともさらに50件以上が存在するという。

現在、彼女の活動はフランス国内にとどまらない。スペイン拠点の非営利連合と協働し、AIガバナンスについて議論するために集まる15カ国の政府代表から成る非公式グループとも連携している。

ペニコーは、資源配分の効率化や都市計画の高度化など、政府におけるAI活用の可能性を否定しているわけではない。しかし、そのようなシステムが意図通りに機能し、かつ市民に害を与えないことを証明する責任は公的機関側にあると強調する。

人気の記事ランキング

1. This company claims a battery breakthrough. Now they need to prove it. すべてのパラメーターが矛盾——「出来すぎ」全固体電池は本物か？
2. OpenAI’s “compromise” with the Pentagon is what Anthropic feared アンソロピック排除の裏で進んだオープンAIの軍事契約、その代償は
3. AI is rewiring how the world’s best Go players think 「アルファ碁」から10年、 AIは囲碁から 創造性を奪ったのか
4. How uncrewed narco subs could transform the Colombian drug trade 中には誰もいなかった—— コカイン密輸組織が作った 「自律潜水ドローン」の脅威

• 0