AIポリスの出動で
ネトゲストーカーは
撲滅できるか？

ゲームの世界では、遊び心のあるいたずらと本気の嫌がらせとを区別することは難しい。たいていの場合、ゲーム仲間の悪口を言い合うのは一種の友情の現れだが、見知らぬ人との間ではトラブルになることもある。いたずらと嫌がらせを区別できる能力が、歓迎的な雰囲気のコミュニティを育みたいビデオゲームメーカーにとっては重要なのだ。

スピリットAI（Spirit AI）は、不正行為を検出、介入するシステム「アライ（Ally）」を使って、開発者がゲームプレイヤーをサポートし、いじめ行為を阻止しようと考えている。アライは、プレイヤー同士の発言や態度といったやりとりをゲームやソーシャルプラットフォーム内での行動を通じて監視する。たとえば、あるプレイヤーが別のアバター（ユーザーの分身となるキャラクター）をつきまとったり、報告ツールを悪用したりといった、言葉以外での嫌がらせや挑発行為も検出できる。

アライの開発者の1人であるスピリットAIのルクサンドラ・ダリエスク プロダクト・マネージャーは、「個々のキーワードの一覧に頼るのではなく、自然言語分類と組み合わせて対話のパターンを調べています」と説明する。「嫌がらせ行為はとても微妙な問題なのです」。

アライは嫌がらせの可能性がある態度を検知すると、嫌がらせした疑いがあるプレイヤーと相手とが以前やりとりしたことがあるか確認する。 既存のモデレーション・ソフトウェアと異なるのは、ゲームの運営元に警告を送るだけでなく、コンピューターで制御された仮想キャラクターをゲーム内に送り込み、嫌がら …

人気の記事ランキング

1. Why Chinese manufacturers are going viral on TikTok 「ほぼエルメス」を工場直送 中国の下請け企業が ティックトックで反旗
2. A long-abandoned US nuclear technology is making a comeback in China 中国でトリウム原子炉が稼働、見直される過去のアイデア
3. Here’s why we need to start thinking of AI as “normal” AIは「普通」の技術、プリンストン大のつまらない提言の背景
4. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声