数年前まで、ソイジック・ペニコーはフランス政府に勤務し、どの行政機関がどの目的でアルゴリズムを導入しているのかを記録するとともに、政府によるAI活用の実態を市民が理解できるよう支援する情報資源を整備していた。現在は立場を変え、外部からこの技術の潜在的な濫用に警鐘を鳴らしている。
31歳のペニコーは、警察や福祉行政が用いるアルゴリズムなど、自身が特に重大なリスクをはらむと考えるシステムが公的評価プロセスの対象外とされていることに不満を抱いた。「透明性の確保に取り組んでいても、被害そのものの問題は解決できていないと感じました」と彼女は語る。
2021年に政府を離れ、独立研究者およびAI政策専門家として活動を開始した。2023年には、非営利ニュースルームのライトハウス・レポーツ（Lighthouse Reports）と協力し、フランス社会保障機関が福祉受給者の不正受給リスクを評価するために運用しているアルゴリズムを調査した。関連する3つのモデルのソースコードを入手・解析した結果、ひとり親や障害者を不当に重点監視対象としていることを明らかにした。この調査結果は、15のNGOによる同機関への訴訟につながった（MITテクノロジーレビューは最近、アムステルダムの福祉アルゴリズムに関する別件の報道でライトハウスと協力している）。
彼女の最新プロジェクトは、フランス政府が導入しているアルゴリズムを網羅的に記録する公開リポジトリの構築である。昨年11月に公開され、オンラインレビューに基づいて飲食店を衛生検査対象として抽出するシステム、心臓移植候補者の優先順位付けに用いられる病院向けシステム、さらに福祉行政や法執行機関で運用される複数のアルゴリズムなど、72件の詳細を掲載している。彼女の把握する限り、少なくともさらに50件以上が存在するという。
現在、彼女の活動はフランス国内にとどまらない。スペイン拠点の非営利連合と協働し、AIガバナンスについて議論するために集まる15カ国の政府代表から成る非公式グループとも連携している。
ペニコーは、資源配分の効率化や都市計画の高度化など、政府におけるAI活用の可能性を否定しているわけではない。しかし、そのようなシステムが意図通りに機能し、かつ市民に害を与えないことを証明する責任は公的機関側にあると強調する。
- 人気の記事ランキング
-
- It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
- Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
- China has approved the world’s first invasive brain-computer chip—here’s what’s next 中国、BCIを国家戦略に 世界初の商用化で イーロン・マスクにも先行
- Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
- A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
