主張：「超知能」近づく？ AI企業の誇大宣伝にだまされるな

この数カ月、AI企業は脆弱性発見の能力や数学上のブレークスルーを次々と誇示し、メディアもそれを大きく報じてきた。だが専門家が検証すると、ハッキング事件の本質はセキュリティ対策の不備であり、数学的成果も見かけほど新規性はなかった。「暴走したモデル」という表現は、企業の責任を製品に肩代わりさせているとティムニット・ゲブルとエミリー・M・ベンダーは主張する。 by Emily Bender2026.09.24

この記事の3つのポイント

AI企業は数学的成果やセキュリティ実績を誇大に宣伝するが、専門家検証により実態は大きく異なることが繰り返し示されている
「超知能」や「暴走モデル」という擬人化表現は、企業が製品を強力に見せつつ自社の法的・倫理的責任を回避するための意図的な戦略である
政策立案者と市民は企業主導の緊急性の幻想に惑わされず、独立した専門家の知見に基づいて冷静に意思決定すべきだ

summarized by Claude 3

この数カ月、人工知能（AI）をめぐる誇大宣伝が激しく続いている。4月末、アンソロピック（Anthropic）は自社モデルのClaude Mythos（クロード・ミュトス）がほとんどのセキュリティ専門家よりもソフトウェアの脆弱性発見に優れていると主張した。続いてオープンAI（OpenAI）によるハギング・フェイス（Hugging Face）へのハッキングインシデントが発生し、その後アンソロピックが（誇らしげに）、メタ（Meta）が（渋々）、それぞれ自社モデルに関わる同様のインシデントを公表した。

その後、アンソロピックは自社モデルの1つが数学上のブレークスルーを達成したと主張し、間もなくオープンAIも独自の数学的ブレークスルーを主張した。最近では、アンソロピックのエンジニアであるジェイコブ・コクソンが同社の退職を発表してネット上で話題になった。コクソンは、アンソロピックとオープンAIが「自己改善型の超知能に向かって一直線に突き進んでおり、私たちの命運を賭けている」と主張している。

これらの出来事はいずれも、メディアによって息もつかせぬ勢いで報じられた。報道の多くは、各社の擬人化的な表現をそのまま繰り返した。そうした表現は、自社のソフトウェアが強力なだけでなく、萌芽的な「汎用人工知能（AGI）」であるかのように印象づけるために考えられたものだ。では、実際に何が起きているのか。私たちは文明を変えるような技術的ブレークスルーの連続を目撃しているのか、それともこれはマーケティングに過ぎないのか。

これらのインシデントはいずれも、各社による大々的な宣伝（不正ハッキングの場合は反省の弁として提示）と、集中的なメディア報道を伴っていた。関連分野の専門家が実態を検証する時間が生まれると、まったく異なる事実が浮かび上がってくるが、そちらはメディアの関心をほとんど集めない。

「ハッキング」インシデントについて、サイバーセキュリティの専門家たちは、この問題の本質は「暴走したモデル」や「文明を作り出すAIエージェント」ではなく、オープンAIの過失と基本的なセキュリティ対策の不備にあると指摘している。

数学的成果については、最新チャットボットのAstra（アストラ）が「少なくとも10年間、主要な結果において未解決のまま進展がなかった問題を解いた」というオープンAIのプレスリリースに、数学者たちは当 …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

人気の記事ランキング