KADOKAWA Technology Review
×
ロシア人研究者が語る、MSのヘイトAI騒動から学べること
Microsoft’s neo-Nazi sexbot was a great lesson for makers of AI assistants

ロシア人研究者が語る、MSのヘイトAI騒動から学べること

ユーザーとの会話で学習するチャットボット「テイ(Tay)」は、2年前にツイッターなどで公開されるとあっという間に人種差別的発言を連発するようになった。しかし、この件は人工知能(AI)研究者にとって大きな教訓になる。 by Rachel Metz2018.04.02

「テイ(Tay)」のことを覚えているだろうか。マイクロソフトが2年前にツイッターなどのSNS上に登場させたところ、あっという間に人種差別的、セックス狂的、ネオナチ的発言を連発するようになったチャットボットのことだ。

そもそもは楽しい社会実験となるはずだった。願わくば一般の人に楽しんで語りかけてもらい、チャットボットの学習に協力してもらうのが目的だった。しかしテイの生みの親にとっては悪夢になってしまった。ユーザーはあっという間にテイに汚い言葉を使わせる方法を見つけた。マイクロソフトは24時間も経たないうちにテイのネット接続を解除した。

それでもロシアの巨大テック企業ヤンデックス(Yandex)のマシン・インテリジェンス研究部門の責任者を務めるミシャ・ビレンコ博士は、テイの不始末は人工知能(AI)アシスタント開発分野にとっては貴重な経験になったと考えている。

サンフランシスコで開催されたMITテクノロジーレビュー主催の年次カンファレンス「EmTechデジタル」で3月27日に登壇したビレンコ博士は次のように語った。汚い言葉を覚えさせ真似するよう簡単に操れるなどのテイの脆弱性を分析することで、下手をするとどのような事態を招きかねないかよい教訓になったという。

テイが陽気なボット(19歳の冗談好きな女性の人格を持つように訓練されていた)から、あっという間にモンスターAIへとなり果てた様をみることで、問題を素早く修正できることがいかに重要であるかが明らかになったとビレンコ博士はいう。それはたやすいことでない。さらに人々が、AIを擬人化して扱う傾向が強いこともわかった。AIは統計データに基づいて動く機械ではなく、固有の信念を持つ存在だと思われているようだ。

「マイクロソフトはテイの件で集中砲火を浴びましたが、事例研究としては本当に役に立ちます」とビレンコ博士は語った。

チャットボットやAIアシスタントは、2016年以降大きく様変わりしている。ずっと一般的になっており、スマホアプリからスマートスピーカーまでさまざまな機器で利用でき、ますます高性能になりつつある。しかしテイの開発目的の1つについては、いまだに不得手なままだ。人格があるように振る舞い、雑談をするという点だ。

ビレンコ博士はこの状況がすぐに変わることはないだろうという。少なくとも今後5年間は厳しいようだ。人間が交わす会話は「とても難しいものです」と語った。

 

人気の記事ランキング
  1. The guy who made a tool to track women in porn videos is sorry 顔認識でポルノ出演女性を特定、残念なプログラマーのひと騒動
  2. AI’s white guy problem isn’t going away AI業界の「白人男性偏重」がなくならない根本的な理由
  3. Google’s AI can now translate your speech while keeping your voice 「あなたの声」のまま変換、グーグルの新しい翻訳システム
  4. Prisoner’s Dilemma shows how exploitation is a basic property of human society なぜ搾取は起きるのか?東大研究者が「囚人のジレンマ」で解明
レイチェル メッツ [Rachel Metz]米国版 モバイル担当上級編集者
MIT Technology Reviewのモバイル担当上級編集者。幅広い範囲のスタートアップを取材する一方、支局のあるサンフランシスコ周辺で手に入るガジェットのレビュー記事も執筆しています。テックイノベーションに強い関心があり、次に起きる大きなことは何か、いつも探しています。2012年の初めにMIT Technology Reviewに加わる前はAP通信でテクノロジー担当の記者を5年務め、アップル、アマゾン、eBayなどの企業を担当して、レビュー記事を執筆していました。また、フリーランス記者として、New York Times向けにテクノロジーや犯罪記事を書いていたこともあります。カリフォルニア州パロアルト育ちで、ヒューレット・パッカードやグーグルが日常の光景の一部になっていましたが、2003年まで、テック企業の取材はまったく興味がありませんでした。転機は、偶然にパロアルト合同学区の無線LANネットワークに重大なセキュリテイ上の問題があるネタを掴んだことで訪れました。生徒の心理状態をフルネームで記載した取り扱い注意情報を、Wi-Fi経由で誰でも読み取れたのです。MIT Technology Reviewの仕事が忙しくないときは、ベイエリアでサイクリングしています。
人気の記事ランキング
  1. The guy who made a tool to track women in porn videos is sorry 顔認識でポルノ出演女性を特定、残念なプログラマーのひと騒動
  2. AI’s white guy problem isn’t going away AI業界の「白人男性偏重」がなくならない根本的な理由
  3. Google’s AI can now translate your speech while keeping your voice 「あなたの声」のまま変換、グーグルの新しい翻訳システム
  4. Prisoner’s Dilemma shows how exploitation is a basic property of human society なぜ搾取は起きるのか?東大研究者が「囚人のジレンマ」で解明
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る