ここ数週間、大手AI企業の一部のリーダーたちは、自らが開発している技術そのものが危険であると警告している。アンソロピック（Anthropic）のダリオ・アモデイCEOは、人工知能（AI）には深刻なリスクがあるとし、進歩を減速させるべきだと主張した。オープンAI（OpenAI）のサム・アルトマンCEOはXで応じ、「私もダリオに同意します。フロンティアの歩みを調整する必要があります」と述べた。

これらの投稿は、AI研究者のジェイコブ・コクソンが、アンソロピックでの役職を退くと発表してから数日後になされたものだ。コクソンは、アンソロピックも、以前勤務していたオープンAIも、責任ある行動を取っていないと非難していた。「AIを開発している人々は、それが2020年代のうちに人類全員を殺しうると本気で信じています」と彼はXに投稿した。アンソロピックの別の従業員であるエヴァン・ハビンガーも、これに公然と同意した。「私たちは本当に、AIが全人類を殺しうると本気で信じています！」と彼はXで応じた。「個人的には、今後10年以内にその確率は10％を超えると思います」。

彼らが恐れているAIによる人類終焉のシナリオの1つは、何らかの形でAIが生物兵器の設計、作成、放出を助けてしまうというものだ。その理由を詳しく見ていこう。

生物兵器とは、人の遺伝子に応じて標的を絞る致死性の高いウイルスかもしれない。あるいは、農作物を壊滅させて食料不安を引き起こす真菌かもしれない。もしかすると、無味無臭で、ある地域の水道水にひそかに混入させられる毒素かもしれない。

懸念されているのは、AIツールがこうした物質の生成を助けるために使われうるという点だ。2022年、コラボレーションズ・ファーマシューティカルズ（Collaborations Pharmaceuticals）の研究者たちは、ヒトの疾患に対する潜在的な治療薬を見つけるために開発したAI「分子生成器」を使うと、驚くほど簡単にそれが可能であることを発見した。同モデルは6時間足らずで、化学兵器剤として使用できる可能性のある分子を4万個生成した。その中には、既知の神経剤よりもさらに毒性が高くなるよう設計されたものもあった。「過度に警鐘を鳴らすつもりはありませんが、これは『AIを活用した創薬』コミュニティの同僚たちにとって、目を覚ますきっかけとなるはずです」と著者らは当時記していた。

スタンフォード大学で医学・生命倫理学の教授を務めるデービッド・マグナスにとっても、それは目を覚ますきっかけとなった。彼は1990年代後半から、医学や生命工学の悪用に関連するリスクを評価してきた人物だ。「あれは私にとって非常に恐ろしいものでした」と彼は言う。「もちろん、それ以降、状況は一気に爆発的に拡大しています」。

今日、AIボットはあらゆる科学分野にまたがる質問に答えられる。ドイツ・ハンブルク大学のバイオセキュリティ研究者であるドゥニャ・サブラによると、誰でも「地球上にかつて存在したほぼすべての科学者」の知識と経験を学習した大規模言語モデルを利用できるという。こうしたモデルは、実験の実施方法について指示や動画による訓練を提供することさえできる。

これに、遺伝子編集や合成生物学のツールをはるかに利用しやすくしたバイオテクノロジーの進歩（「DIYバイオ」ムーブメントによって、すでに多くの人が自宅にラボを構えられるようになっている）を組み合わせると、非常に危険な状況が生まれる可能性がある。「強い意志を持った人物であれば、いずれ成功する可能性が高いでしょう」とサブラは言う。

安全策はすでに講じられている。新しいゲノムを構築したい人は通常、不審な依頼をスクリーニングする企業からDNA断片を注文しなければならない。責任ある研究者は、潜在的にリスクのある研究を「レッドチーミング」と呼ばれる分析にかける。これは、独立した科学者がその研究が悪用されうる方法を探すというものだ。また「ブルーチーミング」と呼ばれる、他の研究者が潜在的な緩和策を考案するプロセスも経る。さらに、AI企業は、悪用されうる科学情報を提供しないよう、自社のツールを調整してきた。しかし、こうした対策のいずれも完全ではない。

先週発表されたレポートの中で、アンソロピックは、チクングニアウイルスの感染力を高める方法や、人間にとってより危険な鳥インフルエンザの株を作り出す方法、さらには「毒素ペプチドのアトラス」を構築する方法などを探るために、自社モデルを使おうとした人物がいたことを認めた。

「私たちは絶え間ないいたちごっこを続けています」とマグナスは言う。「より優れた監視・スクリーニングツールを構築しなければなりませんが、AIはそれをかいくぐる方法を見つけ出すのが非常に得意なのです」。AIの利用を制限する方法を見つけるためにも、おそらくAI自体を活用する必要が出てくるだろう、と彼は言う。

ここで付け加えておくべきは、すべての科学者がリスクの水準について同じ見解を持っているわけではないということだ。最近のメディア向け説明会で、インペリアル・カレッジ・ロンドン（Imperial College London）の一部の生物学者は、AIツールは生物兵器を完全に開発できるほど優れてはおらず、新たな病原体の試験には困難で時間のかかる人手による作業が必要だと主張した。現在設けられているガードレールで十分だと考える人もいる。

また、インペリアル・カレッジの感染症学教授であるウェンディ・バークレーは、現状において、パンデミックの最大のリスクは生物兵器ではなく、すでに流行している病原体にあると指摘した。例えば鳥インフルエンザウイルスH5N1は、すでに数百万羽の鳥を死に至らしめ、米国の乳牛の間にも広く拡大している。先月にはユタ州の農場で飼育されていたミンクからも検出された。

一方でサブラは、5年から10年先を見据えて考えることを好む。各国は医療制度を強化し、既知の毒素に対する解毒剤を準備し、医薬品を備蓄すべきだと彼女は言う。「私たちは備えておく必要があります」。

マサチューセッツ工科大学（MIT）の生物学者ケビン・エスベルトは、ある遺伝的特徴を集団全体に急速に広める技術と、その技術を制限する手法の両方を発明した人物だが、9月16日のX投稿でこうした懸念に同調し、ある大規模言語モデルが「自分が可能だと気づいていなかった、新たな形態の生物兵器を明らかにした」と述べた。

彼はさらにこう付け加えた。「お願いですから、神にかけて、子どもたちのため、人類の未来のため、あるいはあなたが神聖だと考える何かのために、ここは慎重すぎるくらい慎重にいきましょう」。

• 0

人気の記事ランキング

1. Meet a mouse whose brain cortex is made up of human cells 脳容積の半分がヒト細胞に、スタンフォード大が作った「異種皮質マウス」
2. Promotion How AI could reshape Japan’s white-collar workforce 【10/6開催】AIで浮いた人材、次の一手は地方に——冨山和彦氏ら登壇
3. Donated livers can be made biologically younger 「若返る」提供肝臓、機械灌流が生物学的年齢を逆戻りさせる
4. Trajectory of U35 Innovators: Makoto Saito 齋藤 諒：生物が持つ仕組みを人類の道具に変える遺伝子工学者
5. Can the US battery market untangle from China? 送電網の蓄電池から中国製を締め出し、米国が払う「自立」の代償は