新しい生成AI（ジェネレーティブAI）モデルがリリースされると、チャットボットであれ、画像ジェネレーターであれ、その基礎となるモデルの能力が注目される。それに比べて、モデルのリリース方法やリリース対象者などの詳細、たとえばオープンソースであるかどうかや、商用利用にライセンスが必要かどうかといった点は、はるかに注目度が落ちる。しかし、このような決定は非常に重要だ。

たとえば、オープン性を高めると、モデルを監査されたり評価されたりする機会が増えるが、悪用される機会も増える。システムをより閉鎖的にすると、権力は集中するかもしれないが、悪用される可能性は制限されるだろう。

2019年当時、オープンAI（OpenAI）の研究者で公共政策部長を務めていたアイリーン・ソライマンは、チャットGPT（ChatGPT）の前身であるGPT-2のリリースに向けて、オープン性を高めつつ害悪を最低限に抑えるために、特定の保護措置のバランスを考慮した新しいアプローチを主導。新モデルを段階的にリリースすることで、テストとガードレール組み込みの時間をより多く確保できるようにした。現在、オープンAI、マイクロソフト、メタはそれぞれ、チャットGPT、新しいビング（Bing）検索、ラマ（LLaMA）にこのアプローチを採用している。

ソライマンはその後オープンAIを去り、現在はAIスタートアップ企業のハギング・フェイス（Hugging Face）でグローバル公共政策部長を務めている。ソライマンは、将来のAIモデルのリリース方法に関する標準化された明確なプロセスを構築する仕事を続けている。さらに、新しいAIシステムのデプロイ前にそのコミュニティの文化的価値を考慮に入れる方法の開発など、他の側面でもAIの安全に関する取り組みを継続している。

結局のところ、ソライマンを駆り立てているのは、開発者だけでなく、「生成AIシステムと直接つながっていないが、人工知能（AI）の影響を受ける可能性のある人」にも、生成AIが適切に動作するようにしたいという願いだという。つまりは、誰にとってもということだ。

（アイリーン・グオ）

人気の記事ランキング

1. This startup is about to conduct the biggest real-world test of aluminum as a zero-carbon fuel アルミ缶をクリーン燃料に、 米スタートアップが作った 「新エンジン」を訪ねた
2. Promotion MITTR Emerging Technology Nite #35 Soraの問題点とは？ AI時代の知財を考える11/12緊急イベント
3. What a massive thermal battery means for energy storage 1000℃のレンガで熱貯蔵、世界最大の蓄熱電池が稼働
4. I tried OpenAI’s new Atlas browser but I still don’t know what it’s for 誰のためのブラウザー？ オープンAI「Atlas」が残念な理由
5. An AI adoption riddle AIの試験運用は失敗続き、それでもなぜ投資をやめないのか？

• 0