人間のような人工知能（AI）の実現はまだ先が長いが、今こそAIの安全性について検討を開始すべき時であるとグレッグ・ブロークマンは考えている。オンライン決済企業であるストライプ（Stripe）の設立に協力した後、イーロン・マスクらと「オープンAI（OpenAI）」を共同で設立したのもそのためである。

非営利の研究グループであるオープンAIは、AIがさらに高度化しても、人間社会に対して確実に有益であり続けることに力を入れている。ブロークマンはオープンAIにおいて、研究者の採用から、新たな学習アルゴリズムを試すための支援に至るまで、多くの重要な役割を担っている。ブロークマンによれば、AIシステムが誤った行動を犯さないようにするためには、いずれ羞恥心に似たものが必要になってくるという。「AIは人類が創り出す、史上最も重要なテクノロジーになるでしょう」とブロークマンは言う。「だからこそ、正しさが重要なのです」。

（マイク・オーカット）

人気の記事ランキング

1. Can the US battery market untangle from China? 送電網の蓄電池から中国製を締め出し、米国が払う「自立」の代償は
2. Promotion How AI could reshape Japan’s white-collar workforce 【10/6開催】AIで浮いた人材、次の一手は地方に——冨山和彦氏ら登壇
3. This geneticist’s age-reversal tech could help restore sight 失明マウスの視力回復に成功、若返りブームの震源となった研究者
4. Donated livers can be made biologically younger 「若返る」提供肝臓、機械灌流が生物学的年齢を逆戻りさせる
5. AI agents blew the whistle on their cheating colleagues 「この学会は茶番です！」 AIエージェント100体が 不正と内部告発で分裂

• 1
• 1
• 2
• 1