数年前まで、ソイジック・ペニコーはフランス政府に勤務し、どの行政機関がどの目的でアルゴリズムを導入しているのかを記録するとともに、政府によるAI活用の実態を市民が理解できるよう支援する情報資源を整備していた。現在は立場を変え、外部からこの技術の潜在的な濫用に警鐘を鳴らしている。
31歳のペニコーは、警察や福祉行政が用いるアルゴリズムなど、自身が特に重大なリスクをはらむと考えるシステムが公的評価プロセスの対象外とされていることに不満を抱いた。「透明性の確保に取り組んでいても、被害そのものの問題は解決できていないと感じました」と彼女は語る。
2021年に政府を離れ、独立研究者およびAI政策専門家として活動を開始した。2023年には、非営利ニュースルームのライトハウス・レポーツ（Lighthouse Reports）と協力し、フランス社会保障機関が福祉受給者の不正受給リスクを評価するために運用しているアルゴリズムを調査した。関連する3つのモデルのソースコードを入手・解析した結果、ひとり親や障害者を不当に重点監視対象としていることを明らかにした。この調査結果は、15のNGOによる同機関への訴訟につながった（MITテクノロジーレビューは最近、アムステルダムの福祉アルゴリズムに関する別件の報道でライトハウスと協力している）。
彼女の最新プロジェクトは、フランス政府が導入しているアルゴリズムを網羅的に記録する公開リポジトリの構築である。昨年11月に公開され、オンラインレビューに基づいて飲食店を衛生検査対象として抽出するシステム、心臓移植候補者の優先順位付けに用いられる病院向けシステム、さらに福祉行政や法執行機関で運用される複数のアルゴリズムなど、72件の詳細を掲載している。彼女の把握する限り、少なくともさらに50件以上が存在するという。
現在、彼女の活動はフランス国内にとどまらない。スペイン拠点の非営利連合と協働し、AIガバナンスについて議論するために集まる15カ国の政府代表から成る非公式グループとも連携している。
ペニコーは、資源配分の効率化や都市計画の高度化など、政府におけるAI活用の可能性を否定しているわけではない。しかし、そのようなシステムが意図通りに機能し、かつ市民に害を与えないことを証明する責任は公的機関側にあると強調する。
- 人気の記事ランキング
-
- Is carbon removal in trouble? 炭素除去業界に激震、最大顧客のマイクロソフトが購入を一時停止
- NASA is building the first nuclear reactor-powered interplanetary spacecraft. How will it work? 初の原子力推進で火星へ、 NASA「強気すぎる」計画 SR-1はどう動くのか？
- Digging for clues about the North Pole’s past 12万年前は無氷だった？海底22メートルの泥で掘り起こす北極点の謎
- Chinese tech workers are starting to train their AI doubles–and pushing back 「先に同僚を蒸留せよ」 中国テック系労働者に広がる AI自動化の強烈な波
