KADOKAWA Technology Review
×
始めるならこの春から!年間サブスク20%オフのお得な【春割】実施中
この判断は人間に任せていいか?を予測するAIシステム、MIT
Mark Schiefelbein/AP
AI is learning when it should and shouldn’t defer to a human

この判断は人間に任せていいか?を予測するAIシステム、MIT

人間とAIのどちらの判断が正しいのか?を予測するAIシステムをMITが開発した。両者が協力することで、より正確かつすばやい意思決定が可能になるという。 by Karen Hao2020.09.01

人間と人工知能(AI)システムが連携すれば、それぞれが単独で行動するよりも優れた業績が上げられる。そんな研究結果が発表された。多くの場合、医療診断システムが下す診断は人間の医師がチェックするし、ソーシャルメディアのコンテンツ・モデレーション(不適切なコンテンツの監視、削除)システムは人間による審査の前にできるだけのフィルタリングをする。だが、AIと人間の引継ぎを最適化するように設計されたアルゴリズムはほとんどない。そうしたアルゴリズムがあれば、AIシステムは人間が実際に最適な判断を下せる場合のみ、人間に対応を委ねることになるはずだ。

マサチューセッツ工科大学(MIT)コンピューター科学・人工知能研究所(CSAIL)は、協力する人間の長所や短所に基づいて引き継ぎを最適化するAIシステムを開発した。このシステムは、2つの独立した機械学習モデルを使用している。1つは、患者の診断やソーシャルメディアの投稿の削除など、実際の意思決定をするモデルである。もう1つは、AIと人間のどちらが最適な意思決定ができるかを予測するモデルである。

研究チームが「リジェクター(拒絶者)」と呼ぶ後者のモデルは、実際に人間が下した意思決定の実績に基づいて、予測モデルを継続的に改善していく。また、人間の時間的制約や、AIシステムにはアクセスできない患者の個人情報に医師がアクセスできる場合など、実績以外の要因も考慮に入れることができる。

研究チームは、画像認識やヘイトスピーチの検出などのさまざまなシナリオに基づいて、人間とAIのハイブリッド・アプローチを検証した。AIシステムは専門家の振る舞いに適応し、専門家の判断が適切な場合にはそれに従った。それにより、人間とAIのコンビは、以前の人間とAIによるハイブリッド・アプローチよりも、より正確かつすばやい意思決定を下すことができた。

実験はまだ比較的単純なものだが、研究チームはそのようなアプローチが、最終的には医療分野などでの複雑な判断に適用できると考えている。例えば、医師が適切な抗生物質を処方できるようサポートするAIシステムについて考えてみよう。広域抗生物質は非常に効果的だが、使いすぎると抗生物質耐性ができてしまう可能性がある。一方、狭域抗生物質はそのような問題はないが、効果がある可能性が高い場合にしか利用できない。AIシステムはこうしたメリットとデメリットを考慮した上で、薬の処方に関して異なる先入観を持つさまざまな医師に対応することを学び、広域抗生物質の過剰処方や過小処方を是正できるはずだ。

人気の記事ランキング
  1. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
  2. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
  3. What is vibe coding, exactly? バイブコーディングとは何か? AIに「委ねる」プログラミング新手法
  4. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製
カーレン・ハオ [Karen Hao]米国版 寄稿者
受賞歴のあるフリー・ジャーナリスト。人工知能が社会に与える影響について取材している。ウォール・ストリート・ジャーナル紙の海外特派員として中国のテクノロジー業界を担当。2022年4月まではMITテクノロジーレビューのAI担当上級編集者を務めた。
▼Promotion
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る