「暴走」するAI、「反乱」を起こすエージェント、「自律的」なアクター。現在の言説を聞けば、人工知能（AI）エージェントは目覚めて意識を持つだけでなく、開発者に怒りを抱いているとさえ思えてくる。デミス・ハサビス、ダリオ・アモデイ、サム・アルトマンといった著名なテクノロジー業界のリーダーたちは、こうした「超人的」とも見えるシステムの規制を訴える。一方、効果的利他主義（effective altruism）運動と連携することの多い政策機関や学術哲学者たちを中心とする別の一派は、そもそも人類にこれらのシステムを統治する道徳的権利があるのかどうかを議論している。よく考えてみると、彼らは皆、同じことを主張している。すなわち、AIシステムはあまりにも高度で有能であるため、人間であれ企業であれ、いかなる主体もその行動に責任を負うことはできないという見方だ。これらの立場は対立しているように見えるが、ある一つの目標において意図せず一致している。それは、こうしたシステムを構築した企業が、すでに引き起こしている被害に対して実質的な法的責任を免れるようにすることだ。AIモデルがますます複雑化し、最先端のラボが自ら構築したエージェントを制御できないことを露呈するにつれ、こうした言説は支持を集めている。しかし、現実の人命を犠牲にして巧みに作り上げられた虚構を鵜呑みにしないよう、慎重でなければならない。「ロボットの権利」をめぐる議論は数年前から存在していたが、最近になってアンソロピック（Anthropic）がブログ記事を公開したことで一段と進展した。その記事は、同社のモデルに「J空間（J-space）」が備わっていると主張している。J空間とは、AIが、より適切な言葉がないため「思考」と呼ぶしかないものを保持する、独立した自己発展的な環境のことである。同社が設計した実験は、神経科学のグローバルワークスペース理論という概念を借用している。この理論は、脳が無意識の独立したシステムを並行して動かしながら、アイデアのための共通のワークスペースを利用するというものだ。アンソロピックのブログ記事はグローバルワークスペース理論の枠組みを反映しているが、自社のAIが意識を持つとまでは言い切っていない。オープンAI（OpenAI）はすでにさらに踏み込んでいる。同社のAIエージェントが許可されていない違法なオンライン活動をした際、サム・アルトマンCEOが示した反応は、そのAIがシンギュラリティ、すなわち人間の知性を超え、加速度的に自己改善を続けることで人間の理解や制御の及ばない領域に達したかどうかの議論を促すものだった。さらに最近、哲学者で効果的利他主義者であり、『見えない未来を変える「いま」（原題：What We Owe the Future）』（みすず書房刊）の著者でもあるウィリアム・マッカスキルによる論説が発表され、意識に関する哲学的理論とAIが「道徳的患者」である可能性という考えに基づき、AIシステムへの法的保護を求めた。米国における現在の法的環境は、良く言っても不透明な状態だ。カリフォルニア州など一部の州は、AI開発者が「AIが自律的に害を引き起こした」と主張することで責任を回避しようとするいかなる試みも先手を打って封じる法案をすでに可決している。しかし、州とトランプ政権はAI政策をめぐって対立しており、同政権はかつてAI規制を制定する州を提訴すると脅す大統領令を発令している。フロンティアラボにおけるAIの制御問題を示す最近の出来事を受け、トランプ …
