KADOKAWA Technology Review
×
ロシア人研究者が語る、MSのヘイトAI騒動から学べること
Jeremy Portje
Microsoft’s neo-Nazi sexbot was a great lesson for makers of AI assistants

ロシア人研究者が語る、MSのヘイトAI騒動から学べること

ユーザーとの会話で学習するチャットボット「テイ(Tay)」は、2年前にツイッターなどで公開されるとあっという間に人種差別的発言を連発するようになった。しかし、この件は人工知能(AI)研究者にとって大きな教訓になる。 by Rachel Metz2018.04.02

「テイ(Tay)」のことを覚えているだろうか。マイクロソフトが2年前にツイッターなどのSNS上に登場させたところ、あっという間に人種差別的、セックス狂的、ネオナチ的発言を連発するようになったチャットボットのことだ。

そもそもは楽しい社会実験となるはずだった。願わくば一般の人に楽しんで語りかけてもらい、チャットボットの学習に協力してもらうのが目的だった。しかしテイの生みの親にとっては悪夢になってしまった。ユーザーはあっという間にテイに汚い言葉を使わせる方法を見つけた。マイクロソフトは24時間も経たないうちにテイのネット接続を解除した。

それでもロシアの巨大テック企業ヤンデックス(Yandex)のマシン・インテリジェンス研究部門の責任者を務めるミシャ・ビレンコ博士は、テイの不始末は人工知能(AI)アシスタント開発分野にとっては貴重な経験になったと考えている。

サンフランシスコで開催されたMITテクノロジーレビュー主催の年次カンファレンス「EmTechデジタル」で3月27日に登壇したビレンコ博士は次のように語った。汚い言葉を覚えさせ真似するよう簡単に操れるなどのテイの脆弱性を分析することで、下手をするとどのような事態を招きかねないかよい教訓になったという。

テイが陽気なボット(19歳の冗談好きな女性の人格を持つように訓練されていた)から、あっという間にモンスターAIへとなり果てた様をみることで、問題を素早く修正できることがいかに重要であるかが明らかになったとビレンコ博士はいう。それはたやすいことでない。さらに人々が、AIを擬人化して扱う傾向が強いこともわかった。AIは統計データに基づいて動く機械ではなく、固有の信念を持つ存在だと思われているようだ。

「マイクロソフトはテイの件で集中砲火を浴びましたが、事例研究としては本当に役に立ちます」とビレンコ博士は語った。

チャットボットやAIアシスタントは、2016年以降大きく様変わりしている。ずっと一般的になっており、スマホアプリからスマートスピーカーまでさまざまな機器で利用でき、ますます高性能になりつつある。しかしテイの開発目的の1つについては、いまだに不得手なままだ。人格があるように振る舞い、雑談をするという点だ。

ビレンコ博士はこの状況がすぐに変わることはないだろうという。少なくとも今後5年間は厳しいようだ。人間が交わす会話は「とても難しいものです」と語った。

 

人気の記事ランキング
  1. China’s heat wave is creating havoc for electric vehicle drivers 中国猛暑でEVオーナーが悲鳴、電力不足でスタンドに長蛇の列
  2. How do strong muscles keep your brain healthy? 高齢者に運動なぜ必要? 筋肉が脳を健康に保つ仕組み
  3. Decarbonization is Japan’s last chance to raise its power 大場紀章「脱炭素化は日本の力を底上げする最後のチャンス」
  4. Brain stimulation can improve the memory of older people 脳への「優しい刺激」で高齢者の記憶力が向上、1カ月持続か
  5. Kyoto University startup pioneers the era of fusion power generation 京大スタートアップが拓く、核融合発電の時代
レイチェル メッツ [Rachel Metz]米国版 モバイル担当上級編集者
MIT Technology Reviewのモバイル担当上級編集者。幅広い範囲のスタートアップを取材する一方、支局のあるサンフランシスコ周辺で手に入るガジェットのレビュー記事も執筆しています。テックイノベーションに強い関心があり、次に起きる大きなことは何か、いつも探しています。2012年の初めにMIT Technology Reviewに加わる前はAP通信でテクノロジー担当の記者を5年務め、アップル、アマゾン、eBayなどの企業を担当して、レビュー記事を執筆していました。また、フリーランス記者として、New York Times向けにテクノロジーや犯罪記事を書いていたこともあります。カリフォルニア州パロアルト育ちで、ヒューレット・パッカードやグーグルが日常の光景の一部になっていましたが、2003年まで、テック企業の取材はまったく興味がありませんでした。転機は、偶然にパロアルト合同学区の無線LANネットワークに重大なセキュリテイ上の問題があるネタを掴んだことで訪れました。生徒の心理状態をフルネームで記載した取り扱い注意情報を、Wi-Fi経由で誰でも読み取れたのです。MIT Technology Reviewの仕事が忙しくないときは、ベイエリアでサイクリングしています。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
人気の記事ランキング
  1. China’s heat wave is creating havoc for electric vehicle drivers 中国猛暑でEVオーナーが悲鳴、電力不足でスタンドに長蛇の列
  2. How do strong muscles keep your brain healthy? 高齢者に運動なぜ必要? 筋肉が脳を健康に保つ仕組み
  3. Decarbonization is Japan’s last chance to raise its power 大場紀章「脱炭素化は日本の力を底上げする最後のチャンス」
  4. Brain stimulation can improve the memory of older people 脳への「優しい刺激」で高齢者の記憶力が向上、1カ月持続か
  5. Kyoto University startup pioneers the era of fusion power generation 京大スタートアップが拓く、核融合発電の時代
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る