ググるよりマシ？ 「Dr. チャッピー」は医師の代わりになるか

過去20年間、新たな体の不調を感じた人々が最初にとる行動は、インターネットで症状を検索することだった。この習慣はごく一般的となり、「ドクター・グーグル」と揶揄されるまでになった。しかし、時代は変わり、多くの人々が今や医療情報の収集に大規模言語モデル（LLM）を利用している。オープンAI（OpenAI）によれば、毎週2億3000万人がChatGPT（チャットGPT）に健康に関する質問をしているという。

これは、今月初めに発表されたオープンAIの新製品「ChatGPT Health（ヘルス）」のリリースを取り巻く背景である。この製品は、不運なタイミングで登場した。2日前、ニュースサイトのSFゲート（SFGate）が、さまざまな薬物の最適な組み合わせ方についてChatGPTと長時間やり取りを重ねた後、昨年過剰摂取で死亡した10代のサム・ネルソンに関する記事を報じた。この2つのニュースを受けて、複数のジャーナリストが、このような極端な害を引き起こす可能性のあるツールに医学的助言を求めることの是非に疑問を投げかけた。

ChatGPT HealthはChatGPT本体とは別のサイドバータブに存在するが、新しいモデルではない。これは、健康アドバイスを提供するためのガイダンスやツールを追加するラッパーのようなものであり、オープンAIの既存モデルの1つがベースとなっている。許可が与えられれば、ユーザーの電子カルテやフィットネス・アプリのデータにアクセスすることも可能だ。ChatGPTや他のLLMが医学的な誤りを犯す可能性があることは間違いなく、オープンAIはChatGPT Healthが医師の代替ではなく、補助的な支援として設計されていると強調している。しかし、医師にアクセスできない、または医師が対応できない状況では、人々は代替手段に頼るだろう。

一部の医師たちは、LLMを医学的リテラシー向上の恩恵と見なしている。平均的な患者にとって、ネット上の膨大な医学情報を取捨選択することは困難であり、特に高品質な情報源と、見た目は洗練されていても内容が事実に基づかないWebサイトとを区別するのは難しい。しかし、LLMは少なくとも理論上は、それを患者に代わって担うことができる。ハーバード医科大学の准教授で現役の放射線科医でもあるマーク・スッチは、「グーグルで症状を検索した患者の診療では、『患者の不安を和らげ、誤情報を減らす』ことが大きな課題でした」と語る。しかし現在では、「大学卒業者や高校卒業者の患者が、医学生の初期段階で尋ねるようなレベルの質問をしてくるのを見るようになりました」と言う。

ChatGPT Healthのリリースと、それに続くアンソロピック（Anthropic）によるClaude（クロード）の新たな医療統合の発表は、AI大手企業が自社モデルの健康関連用途をますます積極的に認識・推奨していることを示している。LLMが、無知を認めるよりもユーザーに同意し、情報を作り出す傾向があることは広く知られており、このような用途には確実にリスクが伴う。

しかし、こうしたリスクは潜在的な利益と天秤にかけて評価する必要がある。ここには自動運転車との類比が存在する。政策立案者が自分たちの都市でウェイモ（Waymo：アルファベット傘下の自動運転サービス）の導入を検討する際、焦点となるのはその車が事故を起こすかどうかではなく、現在の人間ドライバー中心の状況よりも被害を減らせるかどうかだ。もしドクター・チャッピーがドクター・グーグルよりも優れているのであれば（そ …

人気の記事ランキング

1. How one controversial startup hopes to cool the planet 35年に「気温を下げる」 イスラエル発・科学者集団、 成層圏ビジネスの危険な賭け
2. Meet the new biologists treating LLMs like aliens ブラックボックスの蓋が開く 「異星人」として扱うことで 見えてきたAIの正体
3. Text-to-image AI models can be tricked into generating disturbing images AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法
4. America’s new dietary guidelines ignore decades of scientific research 「ステーキとバターを食べよ」米国の新食事ガイドラインが波紋