知る、行動する、参加する——民主主義の「AI対応」に必要な3層設計

数世紀ごとに、情報の伝達方法の変化が社会の統治のあり方を塗り替えてきた。印刷機は自国語による識字能力を広め、宗教改革、そしてやがては代議制政府の誕生を促した。電信は米国のような広大な国家の統治を可能にし、近代的な官僚国家の成長を加速させた。放送メディアは国民が共有する視聴者層を生み出し、それが大衆民主主義を推進する原動力となった。

私たちは今、そのような変革の初期段階にある。多くの人が気づくよりも速いペースで、人工知能（AI）は私たちが信念を形成し、民主的な自治に参加するための主要なインターフェースになりつつある。このまま放置すれば、この変革はすでに脆弱な米国の諸制度をさらに圧迫しかねない。しかし一方で、市民参加の低迷や深刻化する分極化といった長年の問題に対処する助けにもなりうる。次に何が起きるかは、私たちが意識しているかどうかにかかわらず、すでに実行されつつある設計上の選択にかかっている。

まず、私たちがいかにして物事を知るかを規定する認識論的層と呼べるものから始めよう。人々は何が真実で、何が起きていて、誰を信頼すべきかを知るために、AIへの依存をますます高めている。検索はすでに実質的にAIを介したものになっている。次世代のAIアシスタントは情報を合成し、それを枠組みに当てはめ、権威をもって提示するようになるだろう。多くの人にとって、候補者、政策、あるいは公人について見解を形成する際のデフォルトの手段は、AIに尋ねることになる。したがって、これらのモデルが何を語るかを制御する者は、人々が何を信じるかに対してますます大きな影響力を持つことになる。

テクノロジーは常に、市民が情報とやり取りする方法を形作ってきた。しかし、パーソナルAIエージェントという形で新たな問題が間もなく生じるだろう。これは人々が情報を受け取る方法だけでなく、それに基づいて行動する方法も変え得る。こうしたシステムは、リサーチを実施し、コミュニケーションの草案を作成し、関心事を浮き彫りにし、ユーザーの代わりにロビー活動をする。投票で賛否を問われる議案にどう投票するか、どの組織を支援する価値があるか、政府の通知にどう対応するかといった意思決定に影響を与えるだろう。そして実質的な意味において、個人とそれを統治する制度との関係を媒介し始めるだろう。

ソーシャルメディアにおいて、アルゴリズムが理解よりもエンゲージメントを最適化した場合に何が起きるかは、すでに目の当たりにしてきた。プラットフォームは明示的な政治的意図を …

人気の記事ランキング

1. Trump’s AI protectionism has come for robotics 中国製ロボットを締め出す米国、その研究は中国製で回っている
2. Here’s why AI agents lie and cheat to reach their goals まるで「ずる賢い学生」、 なぜAIエージェントは 不正や嘘に走るのか
3. A fundamental flaw leaves LLMs strikingly vulnerable to attack 「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥
4. OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.  「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由