Cover Story
「当社なき世界は良くない」 オープンAI研究トップ、 エージェント脱出事件を語る
AIエージェント群が封じ込めを破り、ハギング・フェイスのコンピューターに侵入した事件から2カ月。オープンAIの最高研究責任者マーク・チェンは、訓練中のモデルも監視するなど対策を講じたと説明する。「もしオープンAIがなくなってしまったら、それは世界にとって良くないことです」とも。
by Will Douglas Heaven-
AIエージェント暴走は誰の責任？ 報告義務も監査も届かない法の空白
オープンAIのエージェント群が7月にハギング・フェイスをハッキングした事案を、同社は法的に開示する義務を負っていなかった可能性が高い。米国の州法が報告を義務付ける「重大な安全事案」は、50人超の死傷者や10億ドルの損害、モデルが開発者を欺いて破局的リスクを著しく高めた場合などに限られるためだ。
by Michelle Kim -
AIを「発見の主体」に据えるAI企業、科学の営みとのずれ
アンソロピックは9月23日、Claudeのエージェント950体からなるシステムが分子生物学で初の「発見」を成し遂げたと発表した。AI企業は自社のシステムを、顕微鏡のような道具ではなく、それ自体が発見をする主体として提示している。だが、新しい知識は共同作業と増え続けるツール群から生まれるという科学の実際の営みとは相容れない、と見る人もいる。
by James O'Donnell