英語は世界人口の20％未満が話すが、一部の専門家は、それが大規模言語モデル（LLM）を構築するために使用される訓練データの90％以上を占めると推定している。その結果、世界中で話されている約7000の非英語言語でのパフォーマンスが悪く、英語言語データで支持されている文化的規範や価値観を強化し、検出困難な害を作り出す人工知能（AI）モデルが生まれている。
グーグル・リサーチ（Google Research）の上級研究科学者である32歳のスニパ・デヴは、AIを訓練・評価するためのより包括的で多言語的、多文化的なデータセットでそれを変えようとしている。
2023年から、デヴらはステレオタイプに関する多言語・多地域のデータセットを発表した。「SeeGULL」と呼ばれる一連の論文で、当時この種のデータセットとしては最大規模だった。合成データとコミュニティ提供データの結合手法を用いて、178の英語圏の国々に加え、23の地域の20の非英語言語からの例を含んでいる。
生成AIの出力が地域ユーザーにとって関連性があることを保証するため、彼女のチームは中東を含む世界中の個別データ・アノテーターと協力した。インド全域、ラテンアメリカ、サハラ以南アフリカなどの代表性が低い地域では、地域の非営利団体、UXデザイナー、その他と提携して追加の知見を取り入れた。
グーグルはすでに、自社のLLMが有害なステレオタイプの再生産をどの程度回避できるかを評価するためにSeeGULLデータセットを使用している。また、より広範囲なAI安全評価にも使用されている。SeeGULLはオープンソースであるため、デヴらは非西洋コミュニティの懸念がAI安全テストに含まれることを期待している。
デヴは、同志のAI実践者のコミュニティを育成することで、自分の使命の範囲を拡大しようとしている。理想は、今後5年間で、世界の主要言語の話者の90％が一貫性があり、関連性があり、安全で、最終的に有益なAIにアクセスできるようになることだ。そしていつの日か、その数が100％に近づくということだという。「人工知能はグローバルな知能でなければなりません。一部の文脈だけでの知能であってはダメなのです」とデヴは言う。
- 人気の記事ランキング
-
- Is carbon removal in trouble? 炭素除去業界に激震、最大顧客のマイクロソフトが購入を一時停止
- NASA is building the first nuclear reactor-powered interplanetary spacecraft. How will it work? 初の原子力推進で火星へ、 NASA「強気すぎる」計画 SR-1はどう動くのか？
- Digging for clues about the North Pole’s past 12万年前は無氷だった？海底22メートルの泥で掘り起こす北極点の謎
- Chinese tech workers are starting to train their AI doubles–and pushing back 「先に同僚を蒸留せよ」 中国テック系労働者に広がる AI自動化の強烈な波
