フラッシュ2023年3月21日

• 知性を宿す機械

  画像識別AIの誤識別リスクを低減する技術を開発＝NIIなど

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  国立情報学研究所（NII）と九州大学の共同研究チームは、画像識別人工知能（AI）の誤識別に対するリスクを効果的・効率的に低減する技術を開発した。同技術の自動運転AI向け実験では、自動車企業などを交えて定めた安全性ベンチマークで評価を実施。多数の安全要求を満たしたうえで狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認した。

  深層ニューラル・ネットワーク（DNN: Deep Neural Network）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響する。そのため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下を発生させる問題がある。

  研究チームは今回、様々な誤識別を分類し、タイプごとに要因となるパラメーター群を探索することで、この問題を解決するDNN修正技術を開発した。最初に、「歩行者をバイク搭乗者と間違える」、「電車をバスと間違える」といったそれぞれの誤識別タイプに対し、その要因となっているパラメーター群を絞り込む。次に、その誤りを修正するためのパラメーター変更のパターンを探索。最後に、異なる誤識別のタイプそれぞれに対して効果的な修正候補を見いだした上で、それぞれの誤識別のリスクの大きさを踏まえてそれらの修正候補を統合することで、リスクの効果的・効率的な低減を実現する。

  今後は、開発した修正技術をフレームワークとして統合するとともに、自動運転のあり方に関するビジョンやポリシー、走行データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいくという。

  （中條）

  • 4