KADOKAWA Technology Review
×
ひと月あたり1000円で購読できる春のキャンペーン実施中!
人工知能(AI)
Vichhika Tep
35歳未満のイノベーター35人 2023人工知能(AI)
この1年間でAIは驚異的な進歩を遂げた。ここに紹介するイノベーターたちはAIを用いてあらゆる分野を再定義し、AIが安全に使用できることを保証しようと取り組んでいる。

Irene Solaiman アイリーン・ソライマン (28)

所属: ハギング・フェイス(Hugging Face)

生成AIが誰にとっても安全かつ適切に動作するように、AIモデルのリリース方法についての標準化された明確なプロセスを構築している。

新しい生成AI(ジェネレーティブAI)モデルがリリースされると、チャットボットであれ、画像ジェネレーターであれ、その基礎となるモデルの能力が注目される。それに比べて、モデルのリリース方法やリリース対象者などの詳細、たとえばオープンソースであるかどうかや、商用利用にライセンスが必要かどうかといった点は、はるかに注目度が落ちる。しかし、このような決定は非常に重要だ。

たとえば、オープン性を高めると、モデルを監査されたり評価されたりする機会が増えるが、悪用される機会も増える。システムをより閉鎖的にすると、権力は集中するかもしれないが、悪用される可能性は制限されるだろう。

2019年当時、オープンAI(OpenAI)の研究者で公共政策部長を務めていたアイリーン・ソライマンは、チャットGPT(ChatGPT)の前身であるGPT-2のリリースに向けて、オープン性を高めつつ害悪を最低限に抑えるために、特定の保護措置のバランスを考慮した新しいアプローチを主導。新モデルを段階的にリリースすることで、テストとガードレール組み込みの時間をより多く確保できるようにした。現在、オープンAI、マイクロソフト、メタはそれぞれ、チャットGPT、新しいビング(Bing)検索、ラマ(LLaMA)にこのアプローチを採用している。

ソライマンはその後オープンAIを去り、現在はAIスタートアップ企業のハギング・フェイス(Hugging Face)でグローバル公共政策部長を務めている。ソライマンは、将来のAIモデルのリリース方法に関する標準化された明確なプロセスを構築する仕事を続けている。さらに、新しいAIシステムのデプロイ前にそのコミュニティの文化的価値を考慮に入れる方法の開発など、他の側面でもAIの安全に関する取り組みを継続している。

結局のところ、ソライマンを駆り立てているのは、開発者だけでなく、「生成AIシステムと直接つながっていないが、人工知能(AI)の影響を受ける可能性のある人」にも、生成AIが適切に動作するようにしたいという願いだという。つまりは、誰にとってもということだ。

(アイリーン・グオ)

人気の記事ランキング
  1. The way whales communicate is closer to human language than we realized クジラの言語構造、想像以上に人間の言語に近かった
  2. Why EV charging needs more than Tesla EVシフト、充電部門閉鎖で明らかになった「テスラ頼み」の危うさ
  3. Three takeaways about the current state of batteries エネルギー革命の主役に躍り出た蓄電池、押さえておきたいデータ3つ
  4. Almost every Chinese keyboard app has a security flaw that reveals what users type 人気の中国語キーボード・アプリ、ほぼすべてに脆弱性が存在
人気の記事ランキング
  1. The way whales communicate is closer to human language than we realized クジラの言語構造、想像以上に人間の言語に近かった
  2. Why EV charging needs more than Tesla EVシフト、充電部門閉鎖で明らかになった「テスラ頼み」の危うさ
  3. Three takeaways about the current state of batteries エネルギー革命の主役に躍り出た蓄電池、押さえておきたいデータ3つ
  4. Almost every Chinese keyboard app has a security flaw that reveals what users type 人気の中国語キーボード・アプリ、ほぼすべてに脆弱性が存在
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る