メタの言語AI「ギャラクティカ」がたった3日で公開中止になった理由

メタ（Meta）は2022年11月15日、科学者の支援を目的とする新しい大規模言語モデル「ギャラクティカ（Galactica）」を発表した。だが、ギャラクティカはメタが期待したような大きな成果を上げることはなかった。3日間の激しい批判の末に、あっけなく公開中止になってしまったのだ。11月17日、メタはユーザーに試用を呼びかけていたデモの公開を取りやめた。

メタの失敗と傲慢さは、大規模言語モデルの抱える深刻な限界に対し、大手テック企業に盲点があることを改めて示している。バイアスを再現したり、虚偽を事実として主張したりする傾向をはじめとする、大規模言語モデルの欠点を明らかにしている研究は多い。

だが、メタをはじめとする大規模言語モデルを手がける企業は、そのことを真摯に受け止めてこなかった。

ギャラクティカは、科学論文、Webサイト、教科書、講義録、百科事典など4800万例で学習させた大規模な科学用言語モデルだ。メタは、研究者や学生の労力を削減するとして、このモデルを宣伝していた。メタによれば、ギャラクティカは「学術論文の要約、数学問題の解答、ウィキ記事の作成、科学コードの記述、分子やタンパク質のアノテーションなど、さまざまなことができる」そうだ。

しかし、このような輝かしい謳い文句のメッキはすぐに剥がれ落ちてしまった。他の言語モデルと同様に、ギャラクティカは事実とフィクションの区別がつかない単なるボットなのだ。公開後数時間のうちに、科学者たちはギャラクティカによる偏った、誤りのある生成結果をソーシャルメディアで共有していった。

https://twitter.com/Grady_Booch/status/1593033061423550464

ワシントン大学で検索テクノロジーを研究しているチラグ・シャー准教授は、「この新しい取り組みに呆れはしましたが、驚きはありませんでした」と言う。「こういうものがデモで公開されると、一見とてもすばらしく、不思議で、知的なものに感じられます。しかし、そのようなものは基本的に、騒ぎ立てられているようには上手くいかないことを、人々はまだ理解していないようです」。

デモを削除した理由についての声明を求められたメタは、MITテクノロジーレビューに対し、このツイートを示した。「ギャラクティカ・モデルのデモを試してくれた皆さん、ありがとうございました。これまでデモユーザーからいただいたフィードバックに感謝し、デモの公開を一旦停止といたしました。当社の言語モデルは、研究の詳細を知り、論文にある結果を再現したいと望む研究者が利用可能で …