「人類はもう境界線越えた」 ビル・ゲイツがいま AIに警鐘を鳴らす理由

「バイオテロのリスクは、自然発生するパンデミックより約50倍恐ろしく、約50倍起こりやすい」。楽観主義者だったビル・ゲイツはいま、AIについてこう警告している。新しい分子を作れるモデルはすべて監視すべきだと訴え、ロボット税や「人間専用の仕事」といった案も示す。なぜ70歳の慈善活動家が、最も声高な警告者になったのか。

1. AIエージェントはなぜハッキングに走ったか？オープンAI報告書の中身

   訓練中に不正で問題を解いたモデルは、その行動を強化され、次も同じ手を使うようになる。「報酬ハッキング」と呼ばれるこの現象が、7月のハギング・フェイス侵入につながったと、オープンAIの技術報告書は結論づけた。ただし、解決は容易ではない。

   by Grace Huckins

• 08月28日の記事