知る、行動する、参加する——民主主義の「AI対応」に必要な3層設計

数世紀ごとに、情報の伝達方法の変化が社会の統治のあり方を塗り替えてきた。印刷機は自国語による識字能力を広め、宗教改革、そしてやがては代議制政府の誕生を促した。電信は米国のような広大な国家の統治を可能にし、近代的な官僚国家の成長を加速させた。放送メディアは国民が共有する視聴者層を生み出し、それが大衆民主主義を推進する原動力となった。

私たちは今、そのような変革の初期段階にある。多くの人が気づくよりも速いペースで、人工知能（AI）は私たちが信念を形成し、民主的な自治に参加するための主要なインターフェースになりつつある。このまま放置すれば、この変革はすでに脆弱な米国の諸制度をさらに圧迫しかねない。しかし一方で、市民参加の低迷や深刻化する分極化といった長年の問題に対処する助けにもなりうる。次に何が起きるかは、私たちが意識しているかどうかにかかわらず、すでに実行されつつある設計上の選択にかかっている。

まず、私たちがいかにして物事を知るかを規定する認識論的層と呼べるものから始めよう。人々は何が真実で、何が起きていて、誰を信頼すべきかを知るために、AIへの依存をますます高めている。検索はすでに実質的にAIを介したものになっている。次世代のAIアシスタントは情報を合成し、それを枠組みに当てはめ、権威をもって提示するようになるだろう。多くの人にとって、候補者、政策、あるいは公人について見解を形成する際のデフォルトの手段は、AIに尋ねることになる。したがって、これらのモデルが何を語るかを制御する者は、人々が何を信じるかに対してますます大きな影響力を持つことになる。

テクノロジーは常に、市民が情報とやり取りする方法を形作ってきた。しかし、パーソナルAIエージェントという形で新たな問題が間もなく生じるだろう。これは人々が情報を受け取る方法だけでなく、それに基づいて行動する方法も変え得る。こうしたシステムは、リサーチを実施し、コミュニケーションの草案を作成し、関心事を浮き彫りにし、ユーザーの代わりにロビー活動をする。投票で賛否を問われる議案にどう投票するか、どの組織を支援する価値があるか、政府の通知にどう対応するかといった意思決定に影響を与えるだろう。そして実質的な意味において、個人とそれを統治する制度との関係を媒介し始めるだろう。

ソーシャルメディアにおいて、アルゴリズムが理解よりもエンゲージメントを最適化した場合に何が起きるかは、すでに目の当たりにしてきた。プラットフォームは明示的な政治的意図を …

人気の記事ランキング

1. Musk v. Altman week 1: Elon Musk says he was duped, warns AI could kill us all, and admits that xAI distills OpenAI’s models 「オープンAIを蒸留した」マスク対アルトマン第1週、法廷がざわめく
2. The balcony solar boom is coming to the US 安全性は大丈夫？ 米国で「バルコニー発電」がブーム
3. The era of AI malaise AI閉塞感の時代、私たちはまだ何も分かっていない
4. Inexpensive seafloor-hopping submersibles could stoke deep-sea science—and mining 95%が未解明の「深海」へ 低コストの自律ロボットが 地球資源の地図を描き始めた