KADOKAWA Technology Review
×
AIツールがパンデミックで「役立たず」に終わった理由
AP
知性を宿す機械 Insider Online限定
Hundreds of AI tools have been built to catch covid. None of them helped.

AIツールがパンデミックで「役立たず」に終わった理由

今回のパンデミックでは、現場の医師を支援することを目指したAIツールが数多く作られた。しかし、役に立つツールがどれ一つとしてなかっただけでなく、中には誤診やリスクの過小評価によって有害になり得るツールすらあった。 by Will Douglas Heaven2021.08.04

2020年3月、当時まだ情報の乏しかった新型コロナウイルス感染症(COVID-19)が欧州を襲い、多くの病院が医療崩壊に陥った。「医師たちは患者をどう治療すればいいか、見当もつきませんでした」と、オランダのマーストリヒト大学で予測ツールを研究する疫学者のローレ・ワイナンツ助教授は言う。

しかし、その4カ月前からパンデミックと戦ってきた中国のデータはあった。このデータをもとに機械学習アルゴリズムの訓練をすれば、医師たちが目の前の症例を理解し、医学的判断を下し、命を救うのに役立つかもしれない。「人工知能(AI)の有用性を証明する、またとないチャンスだと思い、大きな期待を抱いていました」と、ワイナンツ助教授は話す。

結局、AIが新型コロナウイルス感染症の治療に貢献することはなかった。だがそれは、そうした取り組みがなされなかったからではない。世界各地の研究チームが協力を申し出た。なかでもAIコミュニティは、即座にソフトウェア開発に乗り出した。こうしたソフトウェアは、患者の診断やトリアージを迅速化することで、少なくとも理屈の上では、最前線の医師たちが切実に求めている支援を提供できるはずだった。

こうして相当数の予測ツールが開発された。だが、本当に役立ったものはひとつもなく、有害になり得るものすらあった。

こうした否定的な結論が、ここ数カ月で発表された複数の論文で得られている。データサイエンスとAIに特化した英国立研究機関であるチューリング研究所(Turing Institute)は6月に、2020年後半に開催されたいくつかのワークショップでの議論をまとめた報告書を発表した。新型コロナウイルス(SARS-CoV-2)との戦いにおいて、AIツールはまったくといっていいほど事態を改善しなかったというのが満場一致の結論だ。

臨床利用には不向き

2020年に開発された多数の予測ツールの有効性を検証した2つの主要な研究も、同じ結論に至っている。1つは、ワイナンツ助教授が筆頭著者となった英国医学ジャーナル(British Medical Journal)に掲載されたレビュー論文で、新たなツールの発表や既存ツールの検証がおこなわれるたびにアップデートされている。ワイナンツ助教授らは、患者の診断や病状がどこまで悪化するかの予測を目的とした232のアルゴリズムを精査したが、臨床利用に耐え得るものはひとつもなかった。有望で今後も検証する価値があると判断されたツールでさえ、たった2つしかなかった。

「衝撃的でした」とワイナンツ助教授は言う。「当初から懸念は抱いていましたが、恐れていた以上でした」

ワイナンツ助教授の研究結果は、ケンブリッジ大学で機械学習を研究する博士課程大学院生のデレク・ドリッグスらによる、別のレビュー論文にも裏付けられている。ネイチャー・マシン・インテリジェンス(Nature Machine Intelligence)に掲載されたドリッグスらの研究は、胸部X線や胸部CTといった医療画像から新型コロナウイルス感染症を診断し、患者のリスクを予測することを目的とした深層学習モデルに着目した。発表された415のツールを評価し、ワイナンツ助教授らと同様に、臨床利用に適したものは皆無であると結論づけた。

「今回のパンデミックは、AIと医学にとって大きな試練でした」と話すドリッグス自身も、パンデミックのさなかに医師を助ける機械学習ツールの開発に取り組んでいる。「もっと長い時間をかければ世論を味方につけられたのかもしれませんが、試練を乗り越えられたとは思えません」。

どちらのレビュー論文でも、研究者たちがAIツールの訓練と検証において、同じ基本的な間違いを繰り返したことが示された。データに関する前提にしばしば誤りがあり、訓練されたモデルは、開発者が主張するほどうまく機能していなかった。

ワイナンツ助教授とドリッグスは、AIが医学に役立つ可能性はあると今も考えている。だが、設計方法を誤れば、誤診や患者のリスクの過小評価が起こり、有害になりかねないとは懸念している。「機械学習モデル …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35 」の日本版が候補者を募集している。特定の分野や業界だけでなく、世界全体の重要な課題を解決するイノベーターを発信していく。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.4/Summer 2021
MITテクノロジーレビュー[日本版] Vol.4/Summer 202110 Breakthrough Technologies

新型コロナウイルス・ワクチンの開発で脚光を浴びた「メッセンジャーRNA」技術から、人間並みの文章を自在に生成できる人工知能(AI)技術「GPT-3」、電気自動車(EV)普及の鍵を握る「次世代バッテリー」まで。MITテクノロジーレビューが選んだ「世界を変える10大テクノロジー」。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る