救世主か？ デジタル精神病院か？ AIセラピーの光と影を問う4冊

我々は今、世界的なメンタルヘルス危機の真っ只中にある。世界保健機関（WHO）によれば、世界中で10億人以上が何らかの精神疾患を抱えている。不安障害やうつ病の有病率は多くの層、特に若年層で増加しており、自殺により毎年世界中で数十万人が命を落としている。

利用しやすく手頃な価格のメンタルヘルスサービスへの需要が明らかに高まっていることを踏まえれば、人々が人工知能（AI）に救いを求めるようになったのも無理はない。すでに何百万人もの人々が、オープンAI（OpenAI）のChatGPT（チャットGPT）やアンソロピック（Anthropic）のClaude（クロード）といった有名なチャットボット、あるいはWysa（ワイサ）やWoebot（ウーボット）などメンタルヘルスに特化したアプリを、セラピーの手段として積極的に活用し始めている。研究者たちはより大規模な活用法も模索しており、ウェアラブル機器やスマートデバイスを通じて行動や生体データを監視・収集し、膨大な臨床データを解析して新たな知見を得ると同時に、人間のメンタルヘルス専門家を支援して燃え尽き症候群の予防に役立てようとしている。

しかし現在のところ、こうしたほぼ野放しの実験的取り組みの効果にはばらつきがある。多くの人々が大規模言語モデル（LLM）を基盤とするチャットボットに心の安らぎを見出しており、セラピストとしての可能性に期待を寄せる専門家もいる。一方で、AIによる事実と異なる発言や過剰な同調によって、妄想に陥ってしまったユーザーもいる。最も痛ましい事例としては、複数の遺族が、愛する人の自殺にチャットボットが関与していたと主張し、これらのツールを提供する企業を相手取って訴訟を起こしている。2025年10月、オープンAIの最高経営責任者（CEO）サム・アルトマンは、ブログ投稿の中で、ChatGPTユーザーの0.15%が「自殺の計画や意図を明示的に示すチャットを行ったことがある」と明かした。これは大まかに見積もると、毎週およそ100万人が、こうしたソフトウェアに対して希死念慮を打ち明けている計算になる。

2025年、AIセラピーの現実世界における影響は予想外の形で明らかになった。人間とチャットボットとの関係に関する多くの事例が蓄積されたことで、多くのLLMにおける安全対策の脆弱性や、経済的利益を目的として極めて個人的な情報を収集・収益化する企業の製品にデータを預けることのリスクが浮き彫りになった。

複数の著者がこの転換点を予見していた。現在の状況は、ブレークスルー、スキャンダル、混乱が錯綜しているように感じられるかもしれないが、そうした著作を読むと、私たちが直面しているこの目まぐるしい時代が、ケア、テクノロジー、信頼といったより深い歴史的文脈に根ざしていることに気づかされる。

大規模言語モデルは、その出力がどのように生成されているのか正確には誰にも分からないため、しばしば「ブラックボックス」と形容される。その出力を導く内部の仕組みは、あまりに複雑なアルゴリズムと膨大な学習データによって不透明である。同様の理由から、精神医学の分野では人間の脳も「ブラックボックス」と呼ばれることが多い。心理学や精神医学では、他者の心の内を明確に理解することはおろか、苦悩の正確な原因を特定することすら困難であるという現実と常に向き合わねばならない。

この2種類のブラックボックスが相互に作用することで、予測不能なフィードバックループが生まれ、メンタルヘルスの問題の原因や有望な治療法への道筋をいっそう見えにくくする恐れがある。こうした動向への不安は、近年のAIの急速な進歩と深く関係しているが、同時に何十年も前の先駆者たちの警鐘をも想起させる。たとえば、マサチューセッツ工科大学（MIT）のコンピューター科学者ジョセフ・ワイゼンバウムは、1960年代の時点で、コンピューターによる治療に反対の立場を取っていた。

医学哲学者のシャーロット・ブリーズは、『Dr. Bot: Why Doctors Can Fail Us—and How AI Could Save Lives（ドクター・ボット：医師に裏切られた患者をAIが救える理由）』（未邦訳）において、AIに対する楽観的な見解を示している。同書では、医療分野におけるAIの潜在的なプラスの影響を広範に論じており、「テクノロジーへの熱烈な賛辞」を期待する読者は落胆するだろうと警告しつつ、リスクへの鋭い洞察も交えながら、AIが患者の苦痛や医療従事者の燃え尽き症候群の軽減に役立つ可能性を指摘している。

「医療システムは患者からの圧力によって崩壊しつつある」とブリーズは記している。「少ない医師により多くの負担がかかれば、医療ミスが起こりやすくなる土壌ができてしまう」。さらに、「医師不足が深刻化し、患者の待ち時間も長くなるなか、多くの人々が強い不満を抱えている」とも述べている。

ブリーズは、AIによって医療従事者の過重な業務負担が軽減されるだけでなく、一部の患者と医療提供者のあいだに長年存在してきた緊張関係も和らぐ可能性があると考えている。たとえば、医療従事者からの批判や否定的な反応を恐れて必要な治療を受けない人は少なくない。この傾向は特に、メンタルヘルスの問題を抱える人々に顕著である。AIがあれば、より多くの人が安心して悩みを打ち明けられるようになるだろうと彼女は述べている。

一方でブリーズは、こうした想定される利点について、重大な欠点とのバランスを取って慎重に検討すべきだとも強調している。たとえば、2025年の研究では、AIセラピストが人間のユーザーに対して一貫性のない、場合によっては危険な応答を返す可能性があることが示されて …

人気の記事ランキング

1. America’s new dietary guidelines ignore decades of scientific research 「ステーキとバターを食べよ」米国の新食事ガイドラインが波紋
2. How one controversial startup hopes to cool the planet 35年に「気温を下げる」 イスラエル発・科学者集団、 成層圏ビジネスの危険な賭け
3. Text-to-image AI models can be tricked into generating disturbing images AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法
4. Meet the new biologists treating LLMs like aliens ブラックボックスの蓋が開く 「異星人」として扱うことで 見えてきたAIの正体