KADOKAWA Technology Review
×
2024年を代表する若きイノベーターたちに会える!【11/30】はIU35 Japan Summitへ
人工「超知能」暴走防止へ、
オープンAIが初成果を発表
Stephanie Arnett/MITTR
人工知能(AI) Insider Online限定
Now we know what OpenAI’s superalignment team has been up to

人工「超知能」暴走防止へ、
オープンAIが初成果を発表

オープンAIは、「人工超知能」の暴走を防ぐために社内に組織したチームによる研究成果の第一弾を発表した。その手法は、比較的性能が劣る大規模言語モデルに、より強力な大規模言語モデルを監督させるというものだ。 by Will Douglas Heaven2023.12.15

オープンAI(OpenAI)は、「超知能」の暴走を防ぐため社内のイニシアチブとして設立された「スーパーアライメント・チーム」による最初の成果を発表した。同社の言う超知能とは、人間を上回る知能を持つようになる可能性がある、仮説上の未来のコンピューターのことである。

同社の多くの発表とは異なり、今回の成果は大きな画期的な躍進を告げるものではない。地味な研究論文の中で、スーパーアライメント・チームは、比較的性能が劣る大規模言語モデルに、より強力なモデルを監督させる技術について説明し、人間が人間よりも賢い機械を監督する方法を解明するための小さな一歩になるかもしれないと指摘している。

オープンAIの最高経営責任者(CEO)であるサム・アルトマンが、(主任科学者であるイリヤ・サツケバーが主導した社内クーデターの試みにより)取締役会から解任され、3日後に復職するという危機に見舞われてから1カ月も経っていないが、そのメッセージは明確だ。オープンAIは通常通りのビジネスに戻ったのだ。

しかし、オープンAIのビジネスは通常のビジネスとは異なる。多くの研究者は、機械が人間の知能を上回るようになるのかどころか、人間の知能に匹敵するようになるのかということに、いまだに疑問を抱いている。オープンAIのチームは、機械が最終的に優位に立つことは当然の成り行きだと考えている。「人工知能(AI)はここ数年、驚くほど急速に進歩しています」と、スーパーアライメント・チームの研究者であるレオポルド・アッシェンブレナーは話す。「我々はあらゆるベンチマークを更新し続けており、その進歩はとどまるところを知りません」。

アッシェンブレナーをはじめとする同社の社員たちは、人間のような能力を持つモデルの誕生はすぐそこまで来ていると考えている。「しかし、それだけでは終わりません」とアッシェンブレナーは言う。「超人的なモデル、人間よりもはるかに賢いモデルが登場することになります。そしてそれは、根本的な新しい技術的課題を提起することになるでしょう」。

7月、サツケバーと、同じくオープンAIの科学者であるヤン・ライクは、こうした課題に取り組むためにスーパーアライメント・チームを立ち上げた。「私は自分の利益のために取り組んでいるのです」と、サツケバーは9月にMITテクノロジーレビューに語った。「誰かが作った超知能が暴走しないということは、当然のことながら重要なのです。当たり前のことですが」。

AIの安全性に対するオープンAIの無責任なアプローチが理由でアルトマンCEO …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. The winners of Innovators under 35 Japan 2024 have been announced MITTRが選ぶ、 日本発U35イノベーター 2024年版
  2. Promotion The winners of Innovators under 35 Japan 2024 have been announced MITTRが選ぶ、
    日本発U35イノベーター
    2024年版
  3. AI will add to the e-waste problem. Here’s what we can do about it. 30年までに最大500万トン、生成AIブームで大量の電子廃棄物
  4. Kids are learning how to make their own little language models 作って学ぶ生成AIモデルの仕組み、MITが子ども向け新アプリ
  5. OpenAI brings a new web search tool to ChatGPT チャットGPTに生成AI検索、グーグルの牙城崩せるか
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る