KADOKAWA Technology Review
×
ひと月あたり1000円で購読できる春のキャンペーン実施中!
この判断は人間に任せていいか?を予測するAIシステム、MIT
Mark Schiefelbein/AP
AI is learning when it should and shouldn’t defer to a human

この判断は人間に任せていいか?を予測するAIシステム、MIT

人間とAIのどちらの判断が正しいのか?を予測するAIシステムをMITが開発した。両者が協力することで、より正確かつすばやい意思決定が可能になるという。 by Karen Hao2020.09.01

人間と人工知能(AI)システムが連携すれば、それぞれが単独で行動するよりも優れた業績が上げられる。そんな研究結果が発表された。多くの場合、医療診断システムが下す診断は人間の医師がチェックするし、ソーシャルメディアのコンテンツ・モデレーション(不適切なコンテンツの監視、削除)システムは人間による審査の前にできるだけのフィルタリングをする。だが、AIと人間の引継ぎを最適化するように設計されたアルゴリズムはほとんどない。そうしたアルゴリズムがあれば、AIシステムは人間が実際に最適な判断を下せる場合のみ、人間に対応を委ねることになるはずだ。

マサチューセッツ工科大学(MIT)コンピューター科学・人工知能研究所(CSAIL)は、協力する人間の長所や短所に基づいて引き継ぎを最適化するAIシステムを開発した。このシステムは、2つの独立した機械学習モデルを使用している。1つは、患者の診断やソーシャルメディアの投稿の削除など、実際の意思決定をするモデルである。もう1つは、AIと人間のどちらが最適な意思決定ができるかを予測するモデルである。

研究チームが「リジェクター(拒絶者)」と呼ぶ後者のモデルは、実際に人間が下した意思決定の実績に基づいて、予測モデルを継続的に改善していく。また、人間の時間的制約や、AIシステムにはアクセスできない患者の個人情報に医師がアクセスできる場合など、実績以外の要因も考慮に入れることができる。

研究チームは、画像認識やヘイトスピーチの検出などのさまざまなシナリオに基づいて、人間とAIのハイブリッド・アプローチを検証した。AIシステムは専門家の振る舞いに適応し、専門家の判断が適切な場合にはそれに従った。それにより、人間とAIのコンビは、以前の人間とAIによるハイブリッド・アプローチよりも、より正確かつすばやい意思決定を下すことができた。

実験はまだ比較的単純なものだが、研究チームはそのようなアプローチが、最終的には医療分野などでの複雑な判断に適用できると考えている。例えば、医師が適切な抗生物質を処方できるようサポートするAIシステムについて考えてみよう。広域抗生物質は非常に効果的だが、使いすぎると抗生物質耐性ができてしまう可能性がある。一方、狭域抗生物質はそのような問題はないが、効果がある可能性が高い場合にしか利用できない。AIシステムはこうしたメリットとデメリットを考慮した上で、薬の処方に関して異なる先入観を持つさまざまな医師に対応することを学び、広域抗生物質の過剰処方や過小処方を是正できるはずだ。

人気の記事ランキング
  1. The way whales communicate is closer to human language than we realized クジラの言語構造、想像以上に人間の言語に近かった
  2. Why EV charging needs more than Tesla EVシフト、充電部門閉鎖で明らかになった「テスラ頼み」の危うさ
  3. Three takeaways about the current state of batteries エネルギー革命の主役に躍り出た蓄電池、押さえておきたいデータ3つ
  4. Almost every Chinese keyboard app has a security flaw that reveals what users type 人気の中国語キーボード・アプリ、ほぼすべてに脆弱性が存在
カーレン・ハオ [Karen Hao]米国版 AI担当記者
MITテクノロジーレビューの人工知能(AI)担当記者。特に、AIの倫理と社会的影響、社会貢献活動への応用といった領域についてカバーしています。AIに関する最新のニュースと研究内容を厳選して紹介する米国版ニュースレター「アルゴリズム(Algorithm)」の執筆も担当。グーグルX(Google X)からスピンアウトしたスタートアップ企業でのアプリケーション・エンジニア、クオーツ(Quartz)での記者/データ・サイエンティストの経験を経て、MITテクノロジーレビューに入社しました。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. The way whales communicate is closer to human language than we realized クジラの言語構造、想像以上に人間の言語に近かった
  2. Why EV charging needs more than Tesla EVシフト、充電部門閉鎖で明らかになった「テスラ頼み」の危うさ
  3. Three takeaways about the current state of batteries エネルギー革命の主役に躍り出た蓄電池、押さえておきたいデータ3つ
  4. Almost every Chinese keyboard app has a security flaw that reveals what users type 人気の中国語キーボード・アプリ、ほぼすべてに脆弱性が存在
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る