KADOKAWA Technology Review
×
Big Questions Around Facebook’s Suicide-Prevention Tools

フェイスブック、自殺のライブ中継の防止機能を追加

Facebookライブに自殺防止機能が追加されたが、すぐに「死にたい」と口にする人がいるため、機械学習で判別するのは難しいとされる。疑問視する専門家もいるが、限定的な効果を期待する専門家もいる。 by Rachel Metz2017.03.03

Facebook Live will offer help if a viewer reports that a broadcaster seems to show suicidal or self-harming behavior.
フェイスブック・ライブは、ライブ映像の発信者が自殺または自傷行為をしそうだと視聴者が通報すると、救いの手を差しのべる

フェイスブック・ライブ(ライブ映像をSNSのフォロワーに発信できる機能)の一般公開から約1年、何人かが自分の映像をシェアしながら自殺した。1月に児童養護施設のトイレで首を吊ったフロリダ州の14歳の少女もそのひとりだ。

フェイスブックはこのような悲劇を避けるため、3月1日に自殺のライブ中継を防止する機能を公開した。たとえば、フェイスブック・ライブで発信している友だちが自傷や自殺しそうな場合に視聴者が通報すると、ライブ映像を発信中のユーザーにメッセージが表示され、電話相談や友だちと話す機能が提供された。フェイスブックは同様なツールをすでに提供中で、自分の友だちが投稿した近況が心配な場合、通報できる。

だが、この種の介入は役に立つのだろうか? フロリダ州立大学のテクノロジー・精神病理学研究所を運営するジョー・フランクリン助教授は、こうした機能は正しい方向ではあるが、特に有効だと示す重大な科学的証拠はないという。

「悪いことだとは思いませんし、研究すべきだと思いますが、すぐに疑問が湧いてきます。私にはこれが効果的とは思いません」(フランクリン助教授)

自殺の予防を研究するノースカロライナ州立大学のウィラ・カステベンス准教授は、若者はソーシャルメディアで交流することに慣れているので、若者には、この種の介入が肯定的に捉えられるのではないかと期待している。

「いざというとき、差しのべた救いの手が山を動かし奇跡を起こすことがあります。問題は、まだ救いの手にすがりたいと感じられる状況にその人がいるかどうかでしょう」(カステベンス准教授)。

フェイスブックは3月1日、パターン認識により投稿に自殺の意図が含まれるかどうか判定する実験をしていることも公表した。フラグ付きの投稿をフェイスブックのコミュニティー運営チームが確認し、投稿者に手を差し伸べるかどうかを判断する。

フランクリン助教授は、機械学習で医療記録をデータマイニングし、その人の自殺企図のリスクを判定する方法を研究している。フランクリン助教授は、ツールは規模の拡大が非常に簡単なので、将来はフェイスブックのような方法で自殺を発見できるようになると考えている。機械による判定は人間の通報よりも正確だと考えられるが、フランクリン助教授の研究によれば「自殺」や「死にたい」のような表現は口語的によく使われるため、その人が本当に自殺したいと思っていることをアルゴリズムでうまく見分けるのは難しいとわかっている。

それでも、「自殺を考えている人を見つけ出そうとする点では、大きな前進です」とフランクリン助教授はいう。

人気の記事ランキング
  1. Why it’s so hard for China’s chip industry to become self-sufficient 中国テック事情:チップ国産化推進で、打倒「味の素」の動き
  2. How thermal batteries are heating up energy storage レンガにエネルギーを蓄える「熱電池」に熱視線が注がれる理由
  3. Researchers taught robots to run. Now they’re teaching them to walk 走るから歩くへ、強化学習AIで地道に進化する人型ロボット
レイチェル メッツ [Rachel Metz]米国版 モバイル担当上級編集者
MIT Technology Reviewのモバイル担当上級編集者。幅広い範囲のスタートアップを取材する一方、支局のあるサンフランシスコ周辺で手に入るガジェットのレビュー記事も執筆しています。テックイノベーションに強い関心があり、次に起きる大きなことは何か、いつも探しています。2012年の初めにMIT Technology Reviewに加わる前はAP通信でテクノロジー担当の記者を5年務め、アップル、アマゾン、eBayなどの企業を担当して、レビュー記事を執筆していました。また、フリーランス記者として、New York Times向けにテクノロジーや犯罪記事を書いていたこともあります。カリフォルニア州パロアルト育ちで、ヒューレット・パッカードやグーグルが日常の光景の一部になっていましたが、2003年まで、テック企業の取材はまったく興味がありませんでした。転機は、偶然にパロアルト合同学区の無線LANネットワークに重大なセキュリテイ上の問題があるネタを掴んだことで訪れました。生徒の心理状態をフルネームで記載した取り扱い注意情報を、Wi-Fi経由で誰でも読み取れたのです。MIT Technology Reviewの仕事が忙しくないときは、ベイエリアでサイクリングしています。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. Why it’s so hard for China’s chip industry to become self-sufficient 中国テック事情:チップ国産化推進で、打倒「味の素」の動き
  2. How thermal batteries are heating up energy storage レンガにエネルギーを蓄える「熱電池」に熱視線が注がれる理由
  3. Researchers taught robots to run. Now they’re teaching them to walk 走るから歩くへ、強化学習AIで地道に進化する人型ロボット
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る