KADOKAWA Technology Review
×
【1/31まで】年末年始限定!お得に購読できるキャンペーン実施中
メタの言語AI「ギャラクティカ」がたった3日で公開中止になった理由
Stephanie Arnett/MITTR; Getty, Envato, NASA
知性を宿す機械 無料会員限定
Why Meta’s latest large language model only survived three days online

メタの言語AI「ギャラクティカ」がたった3日で公開中止になった理由

メタは、科学者を支援する大規模言語モデル「ギャラクティカ(Galactica)」を11月15日に公開した。だが、同モデルが出力する、偏った、誤りのある内容を科学者に指摘され、3日後には公開を中止した。 by Will Douglas Heaven2022.11.28

メタ(Meta)は2022年11月15日、科学者の支援を目的とする新しい大規模言語モデル「ギャラクティカ(Galactica)」を発表した。だが、ギャラクティカはメタが期待したような大きな成果を上げることはなかった。3日間の激しい批判の末に、あっけなく公開中止になってしまったのだ。11月17日、メタはユーザーに試用を呼びかけていたデモの公開を取りやめた。

メタの失敗と傲慢さは、大規模言語モデルの抱える深刻な限界に対し、大手テック企業に盲点があることを改めて示している。バイアスを再現したり、虚偽を事実として主張したりする傾向をはじめとする、大規模言語モデルの欠点を明らかにしている研究は多い。

だが、メタをはじめとする大規模言語モデルを手がける企業は、そのことを真摯に受け止めてこなかった。

ギャラクティカは、科学論文、Webサイト、教科書、講義録、百科事典など4800万例で学習させた大規模な科学用言語モデルだ。メタは、研究者や学生の労力を削減するとして、このモデルを宣伝していた。メタによれば、ギャラクティカは「学術論文の要約、数学問題の解答、ウィキ記事の作成、科学コードの記述、分子やタンパク質のアノテーションなど、さまざまなことができる」そうだ。

しかし、このような輝かしい謳い文句のメッキはすぐに剥がれ落ちてしまった。他の言語モデルと同様に、ギャラクティカは事実とフィクションの区別がつかない単なるボットなのだ。公開後数時間のうちに、科学者たちはギャラクティカによる偏った、誤りのある生成結果をソーシャルメディアで共有していった。

https://twitter.com/Grady_Booch/status/1593033061423550464

ワシントン大学で検索テクノロジーを研究しているチラグ・シャー准教授は、「この新しい取り組みに呆れはしましたが、驚きはありませんでした」と言う。「こういうものがデモで公開されると、一見とてもすばらしく、不思議で、知的なものに感じられます。しかし、そのようなものは基本的に、騒ぎ立てられているようには上手くいかないことを、人々はまだ理解していないようです」。

デモを削除した理由についての声明を求められたメタは、MITテクノロジーレビューに対し、このツイートを示した。「ギャラクティカ・モデルのデモを試してくれた皆さん、ありがとうございました。これまでデモユーザーからいただいたフィードバックに感謝し、デモの公開を一旦停止といたしました。当社の言語モデルは、研究の詳細を知り、論文にある結果を再現したいと望む研究者が利用可能で …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
購読キャンペーン実施中
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
購読キャンペーン実施中
2023年のテクノロジー大予測

2023年のテクノロジーはどう動くのか? AIから量子コンピューター、宇宙開発、mRNAワクチンまで、重要トレンドをMITテクノロジーレビューが徹底予測。各分野の専門家や有力プレイヤーへの取材をもとに、技術・資金・政策などの多角的な視点で解説する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.9
MITテクノロジーレビュー[日本版] Vol.9量子時代のコンピューティング

グーグルやIBMなどの巨大テック企業からベンチャーまで、世界的な開発競争が加速する「量子コンピューター」を中心に、コンピューティングの動向を取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る