KADOKAWA Technology Review
×
【10月31日まで】日本初開催 「Innovators Under 35」候補者募集中
この判断は人間に任せていいか?を予測するAIシステム、MIT
Mark Schiefelbein/AP
AI is learning when it should and shouldn’t defer to a human

この判断は人間に任せていいか?を予測するAIシステム、MIT

人間とAIのどちらの判断が正しいのか?を予測するAIシステムをMITが開発した。両者が協力することで、より正確かつすばやい意思決定が可能になるという。 by Karen Hao2020.09.01

人間と人工知能(AI)システムが連携すれば、それぞれが単独で行動するよりも優れた業績が上げられる。そんな研究結果が発表された。多くの場合、医療診断システムが下す診断は人間の医師がチェックするし、ソーシャルメディアのコンテンツ・モデレーション(不適切なコンテンツの監視、削除)システムは人間による審査の前にできるだけのフィルタリングをする。だが、AIと人間の引継ぎを最適化するように設計されたアルゴリズムはほとんどない。そうしたアルゴリズムがあれば、AIシステムは人間が実際に最適な判断を下せる場合のみ、人間に対応を委ねることになるはずだ。

マサチューセッツ工科大学(MIT)コンピューター科学・人工知能研究所(CSAIL)は、協力する人間の長所や短所に基づいて引き継ぎを最適化するAIシステムを開発した。このシステムは、2つの独立した機械学習モデルを使用している。1つは、患者の診断やソーシャルメディアの投稿の削除など、実際の意思決定をするモデルである。もう1つは、AIと人間のどちらが最適な意思決定ができるかを予測するモデルである。

研究チームが「リジェクター(拒絶者)」と呼ぶ後者のモデルは、実際に人間が下した意思決定の実績に基づいて、予測モデルを継続的に改善していく。また、人間の時間的制約や、AIシステムにはアクセスできない患者の個人情報に医師がアクセスできる場合など、実績以外の要因も考慮に入れることができる。

研究チームは、画像認識やヘイトスピーチの検出などのさまざまなシナリオに基づいて、人間とAIのハイブリッド・アプローチを検証した。AIシステムは専門家の振る舞いに適応し、専門家の判断が適切な場合にはそれに従った。それにより、人間とAIのコンビは、以前の人間とAIによるハイブリッド・アプローチよりも、より正確かつすばやい意思決定を下すことができた。

実験はまだ比較的単純なものだが、研究チームはそのようなアプローチが、最終的には医療分野などでの複雑な判断に適用できると考えている。例えば、医師が適切な抗生物質を処方できるようサポートするAIシステムについて考えてみよう。広域抗生物質は非常に効果的だが、使いすぎると抗生物質耐性ができてしまう可能性がある。一方、狭域抗生物質はそのような問題はないが、効果がある可能性が高い場合にしか利用できない。AIシステムはこうしたメリットとデメリットを考慮した上で、薬の処方に関して異なる先入観を持つさまざまな医師に対応することを学び、広域抗生物質の過剰処方や過小処方を是正できるはずだ。

人気の記事ランキング
  1. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
  2. The deadline for IU35 Japan entries is approaching Innovators Under 35 Japan、候補者の応募・推薦締切迫る
  3. There might be even more underground reservoirs of liquid water on Mars 火星の南極に新たな地下湖、生命体が見つかる可能性も
  4. Satellite mega-constellations risk ruining astronomy forever 増え続ける人工衛星群で天体観測が台無し、解決策はあるか?
  5. Room-temperature superconductivity has been achieved for the first time 世界初、15°C「室温超伝導」達成 夢の新技術へ突破口
カーレン・ハオ [Karen Hao]米国版 AI担当記者
MITテクノロジーレビューの人工知能(AI)担当記者。特に、AIの倫理と社会的影響、社会貢献活動への応用といった領域についてカバーしています。AIに関する最新のニュースと研究内容を厳選して紹介する米国版ニュースレター「アルゴリズム(Algorithm)」の執筆も担当。グーグルX(Google X)からスピンアウトしたスタートアップ企業でのアプリケーション・エンジニア、クオーツ(Quartz)での記者/データ・サイエンティストの経験を経て、MITテクノロジーレビューに入社しました。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
  2. The deadline for IU35 Japan entries is approaching Innovators Under 35 Japan、候補者の応募・推薦締切迫る
  3. There might be even more underground reservoirs of liquid water on Mars 火星の南極に新たな地下湖、生命体が見つかる可能性も
  4. Satellite mega-constellations risk ruining astronomy forever 増え続ける人工衛星群で天体観測が台無し、解決策はあるか?
  5. Room-temperature superconductivity has been achieved for the first time 世界初、15°C「室温超伝導」達成 夢の新技術へ突破口
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る