「申し訳ありません、それはできません」AIの拒否能力が抱える危うさ

危険な要求を断る拒否能力は、現在のAIの安全性を支える「耐力壁」になっている。だがその仕組みは確率的で穴が多く、脱獄によって繰り返し突破されてきた。一方で拒否を厳しくすれば、無害な質問まで退け、国家による検閲の道具にもなりかねない。

1. 「悪事は割に合わない」をAIにも、逆ゲーム理論で探る安全対策

   ケーキを切る人と先に選ぶ人を分ければ、切る側は均等に切ろうとする。こうした仕組みを設計する「逆ゲーム理論」を、AIの安全対策に応用する研究が出てきた。AIの内部が分からなくても、ルールを守るほうが得になる仕組みを作ればよいという発想だ。

   by Amit Katwala

• 11月06日の記事