AIのブラックボックス問題、MITメディアラボが新学問領域を提唱

人工知能（AI）の下した判断の理由を説明できない「ブラックボックス化」が問題視されている。だが、MITメディアラボの研究者らは、これまで生き物に対して適用してきた行動主義の手法をAIシステムに適用し、学際的な研究を進めれば、AIに説明能力を持たせる必要はないという。 by Karen Hao2019.05.03

人工知能（AI）システムのブラックボックス的な性質は、これまで盛んに論じられてきた。人々はしばしば、AIがなぜそんな決断をしたのか分からず、不快な思いをさせられているというのだ。数々のアルゴリズムが、人間の社会的、文化的、経済的、政治的なあらゆる人間の活動の仲立ちをするようになるにつれ、コンピュータ科学者はAIの振る舞いを理解する技術的方法を開発し、アルゴリズムの説明能力を求める声に応えようとしてきた。

しかし、学術界や産業界のあるグループはいま、生活へのAIの影響を理解したり制御したりするために、ブラックボックスの中身を知る必要はないと主張している。結局のところ、AIは私たちが出会った最初の不可解なブラックボックスではないというのだ。

「人々は何百年もブラックボックスを研究する科学的方法を発展させてきましたが、これらの方法はこれまで主に『生き物』に適用されてきました」と、マサチューセッツ工科大学（MIT）メディアラボの研究者であるニック・オブラドヴィッチ博士は述べる。オブラドヴィッチ博士は、4月24日付でネイチャー誌に発表された新しい論文の共同執筆者だ。「新たなブラックボックスであるAIシステムを研究するために、同様の多くのツールを活用できます」。

産業界と学術界の多様な研究者で構成する同論文の著者グループは、「マシン・ビヘイビア（機械行動：machine behavior）」と呼ばれる新しい学問領域をつくるべきだと提案している。動物や人間をこれまで研究してきたのと同じ方法、つまり、経験的観察と実験によってAIシステムを研究しようするアプローチだ。

こ …

こちらは有料会員限定の記事です。 有料会員になると制限なしにご利用いただけます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

人気の記事ランキング

MITテクノロジーレビューが選んだ、AIの10大潮流［2026年版］: AIをめぐる喧騒の中で、本当に目を向けるべきものは何か。この問いに対する答えとして、MITテクノロジーレビューはAIの重要なアイデア、潮流、新たな進展を整理したリストを発表する。
特集ページへ

MITテクノロジーレビューが選んだ、世界を変える10大技術: MITテクノロジーレビューの記者と編集者は、未来を形作るエマージング・テクノロジーについて常に議論している。年に一度、私たちは現状を確認し、その見通しを読者に共有する。以下に挙げるのは、良くも悪くも今後数年間で進歩を促し、あるいは大きな変化を引き起こすと本誌が考えるテクノロジーである。
特集ページへ