KADOKAWA Technology Review
×
ロシア人研究者が語る、MSのヘイトAI騒動から学べること
Jeremy Portje
Microsoft’s neo-Nazi sexbot was a great lesson for makers of AI assistants

ロシア人研究者が語る、MSのヘイトAI騒動から学べること

ユーザーとの会話で学習するチャットボット「テイ(Tay)」は、2年前にツイッターなどで公開されるとあっという間に人種差別的発言を連発するようになった。しかし、この件は人工知能(AI)研究者にとって大きな教訓になる。 by Rachel Metz2018.04.02

「テイ(Tay)」のことを覚えているだろうか。マイクロソフトが2年前にツイッターなどのSNS上に登場させたところ、あっという間に人種差別的、セックス狂的、ネオナチ的発言を連発するようになったチャットボットのことだ。

そもそもは楽しい社会実験となるはずだった。願わくば一般の人に楽しんで語りかけてもらい、チャットボットの学習に協力してもらうのが目的だった。しかしテイの生みの親にとっては悪夢になってしまった。ユーザーはあっという間にテイに汚い言葉を使わせる方法を見つけた。マイクロソフトは24時間も経たないうちにテイのネット接続を解除した。

それでもロシアの巨大テック企業ヤンデックス(Yandex)のマシン・インテリジェンス研究部門の責任者を務めるミシャ・ビレンコ博士は、テイの不始末は人工知能(AI)アシスタント開発分野にとっては貴重な経験になったと考えている。

サンフランシスコで開催されたMITテクノロジーレビュー主催の年次カンファレンス「EmTechデジタル」で3月27日に登壇したビレンコ博士は次のように語った。汚い言葉を覚えさせ真似するよう簡単に操れるなどのテイの脆弱性を分析することで、下手をするとどのような事態を招きかねないかよい教訓になったという。

テイが陽気なボット(19歳の冗談好きな女性の人格を持つように訓練されていた)から、あっという間にモンスターAIへとなり果てた様をみることで、問題を素早く修正できることがいかに重要であるかが明らかになったとビレンコ博士はいう。それはたやすいことでない。さらに人々が、AIを擬人化して扱う傾向が強いこともわかった。AIは統計データに基づいて動く機械ではなく、固有の信念を持つ存在だと思われているようだ。

「マイクロソフトはテイの件で集中砲火を浴びましたが、事例研究としては本当に役に立ちます」とビレンコ博士は語った。

チャットボットやAIアシスタントは、2016年以降大きく様変わりしている。ずっと一般的になっており、スマホアプリからスマートスピーカーまでさまざまな機器で利用でき、ますます高性能になりつつある。しかしテイの開発目的の1つについては、いまだに不得手なままだ。人格があるように振る舞い、雑談をするという点だ。

ビレンコ博士はこの状況がすぐに変わることはないだろうという。少なくとも今後5年間は厳しいようだ。人間が交わす会話は「とても難しいものです」と語った。

 

人気の記事ランキング
  1. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は?専門家が解説
  2. The first black hole ever discovered is more massive than we thought 白鳥座X-1ブラックホール、従来推定よりはるかに巨大だった
  3. Covid-19 immunity likely lasts for years 新型コロナ、免疫は長期間持続か=米新研究
  4. So you got the vaccine. Can you still infect people? Pfizer is trying to find out. ワクチンを打っても マスクを外せない理由
  5. There’s a tantalizing sign of a habitable-zone planet in Alpha Centauri ケンタウルス座アルファ星のハビタブルゾーンに惑星が存在か
レイチェル メッツ [Rachel Metz]米国版 モバイル担当上級編集者
MIT Technology Reviewのモバイル担当上級編集者。幅広い範囲のスタートアップを取材する一方、支局のあるサンフランシスコ周辺で手に入るガジェットのレビュー記事も執筆しています。テックイノベーションに強い関心があり、次に起きる大きなことは何か、いつも探しています。2012年の初めにMIT Technology Reviewに加わる前はAP通信でテクノロジー担当の記者を5年務め、アップル、アマゾン、eBayなどの企業を担当して、レビュー記事を執筆していました。また、フリーランス記者として、New York Times向けにテクノロジーや犯罪記事を書いていたこともあります。カリフォルニア州パロアルト育ちで、ヒューレット・パッカードやグーグルが日常の光景の一部になっていましたが、2003年まで、テック企業の取材はまったく興味がありませんでした。転機は、偶然にパロアルト合同学区の無線LANネットワークに重大なセキュリテイ上の問題があるネタを掴んだことで訪れました。生徒の心理状態をフルネームで記載した取り扱い注意情報を、Wi-Fi経由で誰でも読み取れたのです。MIT Technology Reviewの仕事が忙しくないときは、ベイエリアでサイクリングしています。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は?専門家が解説
  2. The first black hole ever discovered is more massive than we thought 白鳥座X-1ブラックホール、従来推定よりはるかに巨大だった
  3. Covid-19 immunity likely lasts for years 新型コロナ、免疫は長期間持続か=米新研究
  4. So you got the vaccine. Can you still infect people? Pfizer is trying to find out. ワクチンを打っても マスクを外せない理由
  5. There’s a tantalizing sign of a habitable-zone planet in Alpha Centauri ケンタウルス座アルファ星のハビタブルゾーンに惑星が存在か
MITテクノロジーレビュー[日本版] Vol.2/Winter 2020
MITテクノロジーレビュー[日本版] Vol.2/Winter 2020SDGs Issue

今、世界中の企業や機関の技術者・研究者たちが各地で抱える社会課題を解決し、持続可能な世界の実現へ向けて取り組んでいる「SDGs(持続可能な開発目標)」。
気候変動や貧困といった地球規模の課題の解決策としての先端テクノロジーに焦点を当て、解決に挑む人々の活動や、日本企業がSDGsを経営にどう取り入れ、取り組むべきか、日本が国際社会から期待される役割について、専門家の提言を紹介します。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る