人々はAIと本当は何を話しているか？ 企業レポートが映さない実像

アンソロピック（Anthropic）やオープンAI（OpenAI）といった人工知能（AI）企業は、Claude（クロード）やChatGPT（チャットGPT）といった製品の利用状況に関するレポートを定期的に公開している。だが、AI研究者によれば、それらの企業が公開するのは自社に都合のよいデータに限られている。

「レポートの内容を裏付ける独立した情報源が存在しません」と語るのは、スタンフォード大学「信頼できるAI研究所（Stanford Trustworthy AI Research Lab：STAIR  Lab）」で計算機科学の博士課程に在籍するアンカ・ロイエルだ。

ロイエルは、このギャップを埋めることを目的とした新たな研究プロジェクト「AIオブザーバトリー（AI Observatory）」の共同リーダーを務めている。このプロジェクトは、ユーザーの同意のもとで収集された7つの既存データセットから、ClaudeやGemini（ジェミニ）といった主要モデルとの実際のAI会話を集約・分析した公開プラットフォームだ。その目的は、研究者や政策立案者が生成AIの利用実態を評価するための独立した情報源を提供することにある。現在は非常に限られたデータをもとにAIのメリットとリスクに関する重大な意思決定がなされているとロイエルは指摘する。

AIオブザーバトリーの調査によると、AIの利用状況はモデルによって大きく異なり、時間の経過とともに変化していることが明らかになった。この調査では、主要AI企業のレポートが捉えているよりもはるかに多くのセンシティブな行動が確認された。AI企業のレポートは個人利用よりも業務利用に重点を置いていると研究チームは述べている。

「Anthropic Economic Index（アンソロピック・エコノミック・インデックス）」は、AI利用データの情報源として最もよく知られ、広く引用されているものの1つだが、盲点も存在する。その名称が示すとおり、Claude AIの業務・生産性関連の利用に焦点を当てており、それ以外の用途に関する会話はフィルタリングされている。

AIオブザーバトリーの研究者がアンソロピックの手法を自分たちのデータセットに適用したところ、会話全体の約半数にあたる48%がフィルタリングされていたことが判明した。業務と無関係なそれらの会話では、健康や人間関係に関するトピック（アンソロピックの分析では31.2%だったのに対し44.2%）、成人向けまたは違法なトピック（2.1%に対し7.9%）、ハラスメントやヘイト（5.66%に対し27.5%）、性的コンテンツ（2.4%に対し16.7%）が含まれる割合が高かった（オープンAIが2025年に公表したChatGPTに関するレポートも同様に、消費者利用のうち業務関連は30%にとどまると報告している）。

アンソロピックは、Claudeがサポートや友人的な …

人気の記事ランキング

1. Young organs may not be a fountain of youth for recipients 若い心臓は体に合わせて老いる——プーチンには残念な研究結果
2. Promotion How AI could reshape Japan’s white-collar workforce 【10/6開催】AIで浮いた人材、次の一手は地方に——冨山和彦氏ら登壇
3. An AI “mind-reading” tool can reconstruct what you’re looking at from a brain scan AIの「読心術」ツールが脳スキャンから見ているものを再構成する
4. When can we say AI made a scientific discovery? AIを「発見の主体」に据えるAI企業、科学の営みとのずれ
5. She died at the San Diego border. A surveillance camera was in plain sight カメラは何を見ていたのか？ 世界有数のAI監視地帯で 移民が亡くなっている