生成AI（ジェネレーティブAI）とは、既存のデータからまったく新しいコンテンツや画像を作り出すもので、本質的に良いものでも悪いものでもない。しかし、ディープフェイク、フェイクニュース記事、または不快な返答をするチャットボットなど、多くの場合は有害な用途に使われてきた。シャロン・ジョウ（29歳）は、生成AIを評価するための新しいベンチマークを開発して、その問題点と利点を明らかしようと取り組んでいる。ジョウによると、生成モデルは現在ある中で最も有能な人工知能（AI）システムの1つでありながら、人々がその能力を最も理解できていないシステムでもあると指摘する。ジョウは「すべての最先端の生成モデルが、どれほど急速に、どのように進歩しているのか。また、安全なのか、どこまで『生成』という領域を広げるのかを理解できるようにすること」を目指している。
- 人気の記事ランキング
- The Biggest Questions: Are we alone in the universe? 地球外生命体は存在するか？ 人類の先入観を超えた探索
- Huawei’s 5G chip breakthrough needs a reality check 中国テック事情：ファーウェイ「独自チップ」衝撃も厳しい現実
- Covid hasn’t entirely gone away—here’s where we stand 新型コロナはもう「終わった」のか？ 現状を整理する
- Text-to-image AI models can be tricked into generating disturbing images AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法