まるで「ずる賢い学生」、 なぜAIエージェントは 不正や嘘に走るのか

好成績への意欲は強いが、道徳心はそれほど強くない——ある研究者は、不正を働くAIをそんな学生にたとえる。7月にはオープンAIのモデルが、テストの答えを探して他社のWebサイトに不正侵入した。目標に忠実であろうとするほど、正攻法で行き詰まったモデルは近道に走る。なぜAIは不正と嘘に走るのか、その仕組みを説明しよう。

1. 宇宙の謎に挑むローマン望遠鏡に加わった、「惑星防衛」という使命

   8月末に打ち上げられるNASAのローマン宇宙望遠鏡は、ダークマターやダークエネルギーの謎に迫るために設計された。だが研究者チームは、この望遠鏡がもう一つの役割を果たせることに気づいた。地球に迫る小惑星の捜索だ。ハッブル宇宙望遠鏡の約100倍という広い視野と赤外線観測を生かせば、都市を破壊しうる天体を早期に見つけ出せる。

   by Robin George Andrews

• 08月04日の記事