AIツールがパンデミックで「役立たず」に終わった理由

2020年3月、当時まだ情報の乏しかった新型コロナウイルス感染症（COVID-19）が欧州を襲い、多くの病院が医療崩壊に陥った。「医師たちは患者をどう治療すればいいか、見当もつきませんでした」と、オランダのマーストリヒト大学で予測ツールを研究する疫学者のローレ・ワイナンツ助教授は言う。

しかし、その4カ月前からパンデミックと戦ってきた中国のデータはあった。このデータをもとに機械学習アルゴリズムの訓練をすれば、医師たちが目の前の症例を理解し、医学的判断を下し、命を救うのに役立つかもしれない。「人工知能（AI）の有用性を証明する、またとないチャンスだと思い、大きな期待を抱いていました」と、ワイナンツ助教授は話す。

結局、AIが新型コロナウイルス感染症の治療に貢献することはなかった。だがそれは、そうした取り組みがなされなかったからではない。世界各地の研究チームが協力を申し出た。なかでもAIコミュニティは、即座にソフトウェア開発に乗り出した。こうしたソフトウェアは、患者の診断やトリアージを迅速化することで、少なくとも理屈の上では、最前線の医師たちが切実に求めている支援を提供できるはずだった。

こうして相当数の予測ツールが開発された。だが、本当に役立ったものはひとつもなく、有害になり得るものすらあった。

こうした否定的な結論が、ここ数カ月で発表された複数の論文で得られている。データサイエンスとAIに特化した英国立研究機関であるチューリング研究所（Turing Institute）は6月に、2020年後半に開催されたいくつかのワークショップでの議論をまとめた報告書を発表した。新型コロナウイルス（SARS-CoV-2）との戦いにおいて、AIツールはまったくといっていいほど事態を改善しなかったというのが満場一致の結論だ。

臨床利用には不向き

2020年に開発された多数の予測ツールの有効性を検証した2つの主要な研究も、同じ結論に至っている。1つは、ワイナンツ助教授が筆頭著者となった英国医学ジャーナル（British Medical Journal）に掲載されたレビュー論文で、新たなツールの発表や既存ツールの検証がおこなわれるたびにアップデートされている。ワイナンツ助教授らは、患者の診断や病状がどこまで悪化するかの予測を目的とした232のアルゴリズムを精査したが、臨床利用に耐え得るものはひとつもなかった。有望で今後も検証する価値があると判断されたツールでさえ、たった2つしかなかった。

「衝撃的でした」とワイナンツ助教授は言う。「当初から懸念は抱いていましたが、恐れていた以上でした」

ワイナンツ助教授の研究結果は、ケンブリッジ大学で機械学習を研究する博士課程大学院生のデレク・ドリッグスらによる、別のレビュー論文にも裏付けられている。ネイチャー・マシン・インテリジェンス（Nature Machine Intelligence）に掲載されたドリッグスらの研究は、胸部X線や胸部CTといった医療画像から新型コロナウイルス感染症を診断し、患者のリスクを予測することを目的とした深層学習モデルに着目した。発表された415のツールを評価し、ワイナンツ助教授らと同様に、臨床利用に適したものは皆無であると結論づけた。

「今回のパンデミックは、AIと医学にとって大きな試練でした」と話すドリッグス自身も、パンデミックのさなかに医師を助ける機械学習ツールの開発に取り組んでいる。「もっと長い時間をかければ世論を味方につけられたのかもしれませんが、試練を乗り越えられたとは思えません」。

どちらのレビュー論文でも、研究者たちがAIツールの訓練と検証において、同じ基本的な間違いを繰り返したことが示された。データに関する前提にしばしば誤りがあり、訓練されたモデルは、開発者が主張するほどうまく機能していなかった。

ワイナンツ助教授とドリッグスは、AIが医学に役立つ可能性はあると今も考えている。だが、設計方法を誤れば、誤診や患者のリスクの過小評価が起こり、有害になりかねないとは懸念している。「機械学習モデル …