KADOKAWA Technology Review
×
【5/28 昼 無料オンライン開催】
AI×ヘルステックの未来
「AI倫理」をビジネスに変えるスタートアップが続々、監査を支援
Getty
知性を宿す機械 無料会員限定
Worried about your firm’s AI ethics? These startups are here to help.

「AI倫理」をビジネスに変えるスタートアップが続々、監査を支援

AI倫理への関心の高まりを受けて、AIモデルの監査を支援するスタートアップ企業が続々立ち上がっている。モデルのバイアスを検査したり、リスクを洗い出したりして「責任あるAI」の実現を支援する。 by Karen Hao2021.01.26

パリティ(Parity)の創設者でもあるラマン・チョードリーCEOは以前コンサルティング会社アクセンチュアで、「責任あるAI(Responsible AI)」の責任者として、AIモデルの理解に苦労しているクライアントを対象に「翻訳」をしていた。AIモデルが想定どおりに機能しているか確認することは難しく、企業のデータ・サイエンティストや弁護士、経営陣のそれぞれが異なる言語で会話しているような状況で、混乱していたからだ。チョードリーCEOのチームは、すべての関係者が同じ認識を共有するための仲介役を務めていた。この作業は、1つのAIモデルを監査するだけでも何カ月もかかることがあるほど非効率的なものだった。

チョードリーCEOがアクセンチュアを離れ、2020年後半に自身で立ち上げたパリティは、AIモデルの監査プロセスを数週間に短縮するツールセットをクライアントに提供している。このツールセットはまずクライアントが、バイアス(偏り)の有無を調べるのか、法令遵守の確認をするのかなど、AIモデルをどのように監査したいのかを決定するために支援し、その後、問題に取り組むための推奨事項を提示する。

パリティのように、AIモデルを開発、監視、修正する方法を企業などの組織に提供するスタートアップは増加している。そうしたスタートアップは、バイアス軽減のためのツールから説明可能性を備えたプラットフォームまで、さまざまな製品やサービスを提供している。当初、彼らのクライアントのほとんどは、厳しい規制がある金融やヘルスケアなどに関わる業界の企業だった。しかし、バイアスやプライバシーの問題、そして透明性の問題に関する調査やメディアの注目度が高まったことで、流れが変わってきた。最近のクライアントの多くは、単にAIが誤った解釈をした時の責任を負わされることを心配をしており、規制が出来る前に「遅れを取らない」よう準備しておきたいと考えているクライアントもいる。

チョードリーCEOは、「とても多くの企業が初めてこの問題に直面しています」と述べる。「ほとんどの企業が実際に助けを求めているのです」。

リスクからインパクトへ

新しいクライアントと仕事をする時、チョードリーCEOは「責任」という言葉を使うことを避けている。責任という言葉はあまりにも掴みづらく定義が曖昧で、誤解を招く余地が大きすぎるからだ。その代わりに、チョードリーCEOはより身近な企業用語である「リスク」という概念を提示する。多くの企業ではリスクとコンプライアンスを扱う部門があり、リスク軽減のためのプロセスが確立されているからだ。

AIのリスク軽減も同じことだ。企業は、まず自社のさまざまな懸念事項を検討することから始める必要がある。その中には、法令に違反する可能性である法的リスク、従業員を失う可能性である組織的リスク、PRに支障をきたす可能性であ …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021Innovation Issue

AI/ロボット工学、コンピューター/電子機器、輸送、ソフトウェア、インターネット分野で活躍する13人の日本発のイノベーターを紹介。併せて、グローバルで活躍する35人のイノベーターの紹介と、注目のイノベーション分野の動向解説も掲載しました。
日本と世界のイノベーションの最新情報がまとめて読める1冊です。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る