知性を宿す機械
ロボットや人工知能、機械学習、さらに自律型の乗り物やドローン、量子コンピューティングについて。
- These creepy fake humans herald a new age in AI
AIのための「フェイク人間」が大量生産される時代がやってきた - 機械学習システムの訓練用にデータを大量に入手することは、プライバシー保護の観点から困難になっているうえ、現実のデータには偏りが存在する可能性がある。そこで、AIシステム訓練用のフェイクデータセットを現実のデータに基づいて作成し、AIシステムベンダーに提供する企業が現れている。
- These creepy fake humans herald a new age in AI
- 自宅療養中の異変を検出、
ジェットエンジン監視AIが
新型コロナ患者を見守り - ボディセンサーを使用したウェアラブルAIを用いて、自宅療養中の新型コロナウイルス感染症患者を遠隔監視する試みが米国で増加している。患者の容体が急変する兆候をAIで検出して臨床医にアラートを出すことで、手遅れになるのを防ぐのが狙いだ。
- 自宅療養中の異変を検出、
- AIはまだ、ヘイトスピーチを見分けるのが苦手＝米最新研究
- 人工知能による自然言語処理テクノロジーは発展を続けている。だが、AIにヘイトスピーチを検出させる新たな研究結果からは、多くの課題が浮き彫りになった。
- LLMの課題検証、
AI研究者が世界最大規模の
オープンソースPJ立ち上げ - 人間の会話を模倣する優れた能力で注目を集めている大規模言語モデル（LLM）には大きな課題があるが、商業主義の巨大テック企業はそれに向き合おうとしていない、そこで、同モデルの課題を検証するための世界規模のオープンソース・プロジェクトがこの４月に始動した。
- LLMの課題検証、
- 安全なAIに必要なのは 『不信感』の設計
- 私たちが自動化されたシステムを過度に信頼しすぎると、危険な状況に陥る場合がある。コンピューター科学に重要な貢献をした女性研究者を称えるACMの賞を受賞したアヤナ・ハワード博士が語った。
知性を宿す機械の記事一覧
- Language models like GPT-3 could herald a new type of search engine
グーグル「次世代検索エンジン」案、研究チームが考案 - グーグルの研究チームが、検索エンジンの根本的な改修案を発表した。20年以上にわたって使われてきた『索引付け・回収・順位決定』という仕組みの代わりに、インターネット上の膨大な文書で訓練した大規模言語モデルを使って、ユーザーの問い合わせに自然な言葉で回答するようにしようというものだ。
- Language models like GPT-3 could herald a new type of search engine
- AI consumes a lot of energy. Hackers could make it consume more.
最新AI技術にDoS攻撃のリスク、大量の電力消費の可能性 - メリーランド・サイバーセキュリティー・センターの研究チームは、最新世代のニューラル・ネットワークへの入力データに少量のノイズを加えることで、必要以上の計算資源を占有させ、AIの「思考」を妨害する攻撃の可能性について発表した。
- AI consumes a lot of energy. Hackers could make it consume more.
- How to stop AI from recognizing your face in selfies
AI顔認識ツールからあなたの「自撮り」写真を守る方法 - 顔認識システムは人々がWebに投稿する写真を大量に収集して、AIモデルの訓練に使用している。個人的な写真が使用されるのを好ましく思わない研究者らは、人間の目にはわからないわずかな変更を画像に加えて、顔認識システムの訓練を阻止するツールを開発している。
- How to stop AI from recognizing your face in selfies
- Geoffrey Hinton has a hunch about what's next for AI
深層学習の父が出した、
「次のAI」の最新の答え - 人工知能（AI）の分野にブレークスルーをもたらした「深層学習」のパイオニアであるジェフリー・ヒントンが、深層学習の課題を克服することを狙った、新たな手法である「GLOM」を発表した。現在の段階では仮説にすぎないが、グーグルの研究施設で初期調査が始められている。
- Geoffrey Hinton has a hunch about what's next for AI
- Stop talking about AI ethics. It’s time to talk about power.
人工知能について、
倫理の次に語られるべきこと
——AIナウ創立者に聞く - 人々はこれまで人工知能（AI）について、あまりに狭く、エンジニアリング的・抽象的な観点から捉えてきた。現実世界に及ぼす影響を考えると、AIは決して中立ではなく、人工的でも知的でもないと、AIナウ研究所の共同創立者であるケイト・クロフォード博士は話す。
- Stop talking about AI ethics. It’s time to talk about power.
- Why GPT-3 is the best and worst of AI right now
GPT-3が「最高」で「最悪」なAIである理由 - オープンAIが開発した大規模言語モデル「GPT-3」が作成する文章は、不気味なほどのリアリティで人間の書く文章を模倣できる。だが、こうした成果は主に、ニューラル・ネットワークの規模と訓練に使うデータをとてつもなく大規模化したおかげであり、現在のAIが抱える無視できない問題点も明らかにしている。
- Why GPT-3 is the best and worst of AI right now
- This has just become a big week for AI regulation
ついに欧米で動き出した「AI規制」、相次ぐ発表で潮目は変わるか - 人工知能（AI）技術はこれまで、ほとんど規制されることなく、開発・展開されてきた。だが、風向きは変わりつつある。今週、欧州連合（EU）が新たなAI規則を明らかにしたほか、米国連邦取引委員会（FTC）が偏ったアルゴリズムを使用したり、販売したりしている企業に対して措置を講じる方針を発表したからだ。
- This has just become a big week for AI regulation
- The NYPD used a controversial facial recognition tool. Here’s what you need to know.
私物スマホで利用も NY市警と顔認識企業の深い関係明らかに - Web上で無許可で集めた顔写真を用いた顔認識システムを提供していることで物議を醸しているAI企業と、ニューヨーク市警が、極めて友好的な関係を築いていたことを示す電子メールが公開された。同市警は、試用期間が終わった後も同システムを使い続け、現場の捜査で利用しており、個人所有のデバイスからアクセスしている警察官もいた。
- The NYPD used a controversial facial recognition tool. Here’s what you need to know.
- Forget Boston Dynamics. This robot taught itself to walk
二足歩行ロボをゼロから訓練、強化学習で＝UCバークレー - カリフォルニア大学バークレー校の研究チームは、強化学習の手法を使って、ロボットに二足歩行をゼロから習得させようとしている。人間サイズのロボットに歩行を自己学習させることで、さまざまな地形に対応する能力や、転んだり損傷を負ったりした際に回復する能力を獲得させられるかもしれない。
- Forget Boston Dynamics. This robot taught itself to walk
- “We'll never have true AI without first understanding the brain”
脳への理解なくして
真の人工「知能」は作れない
ジェフ・ホーキンス - 「パームの父」として知られる神経科学者でテック起業家のジェフ・ホーキンスは、現在の人工知能（AI）に疑問を持っている。40年近くにわたって神経科学とAIの2つの世界を行き来してきたホーキンスは、知能の仕組みを解明したといい、世界中のAI研究者に議論を呼びかけている。
- “We'll never have true AI without first understanding the brain”
- Andrew Ng: Forget about building an AI-first business. Start with a mission.
ビッグから「グッド」へ発想転換を、第一人者が語るAI導入のコツ - 企業はどうすれば機械学習を利用して業務を変革し、重要な問題を解決できるようになるか。AI界のパイオニアであり、新たなベンチャー会社を率いるアンドリュー・エンが語った。
- Andrew Ng: Forget about building an AI-first business. Start with a mission.
- Error-riddled datasets are warping our sense of how good AI really is
AIモデル評価用データセットに多数の誤り、実は優秀ではなかった？ - MITの研究者が、人工知能（AI）の機械学習モデルの評価に使われている有名なデータセットの中に、誤ってラベル付けされたデータが多数含まれていることを発見した。最も優れていると見なされていたAIモデルが、実はそうではなかったという事態が発生するかもしれない。
- Error-riddled datasets are warping our sense of how good AI really is
- How to poison the data that Big Tech uses to surveil you
巨大テック企業の「データ油井」を汚染させる方法 - 今日、人々がデジタル・プラットフォーム上で実行していることはすべてデータとして収集・分析され、テック企業が収益を得るために利用されている。私たちは個人では無力だが、集団で行動を起こすことで、この力関係を是正できるかもしれない。
- How to poison the data that Big Tech uses to surveil you
- An AI is training counselors to deal with teens in crisis
AIボットが演じる16歳で「心を開く」訓練、カウンセラー教育に - LGBTQの若者らに向けたホットライン「トレバー・プロジェクト」は、ボランティアのカウンセラーの教育に、ノースカロライナ州出身の16歳の「ライリー」という架空の人格を備えたAIチャットボットを使用している。ただし、教育の効率を上げることだけが目標ではない。
- An AI is training counselors to deal with teens in crisis
- AI armed with multiple senses could gain more flexible intelligence
2021重大技術：「マルチモーダル」でAIはもっと柔軟かつ堅牢になる - 人間の知能はさまざまな知覚と言語能力の組み合わせから生まれる。こうしたマルチモーダルな手法を用いれば、新しい状況や問題により容易に対処できる堅牢なAIを作り出せる可能性がある。
- AI armed with multiple senses could gain more flexible intelligence
- What is an “algorithm”? It depends whom you ask
主張：「アルゴリズム」を責任逃れの隠れ蓑にしてはならない - アルゴリズムに基づく意思決定が重要な場面で使われる機会が増えるにつれて、その社会的影響が問題視されるようになってきた。「アルゴリズム」と聞くと一般的に、客観的なデータに基づいて、人間には振る舞いを予測できないほど複雑な処理を実行していると思われがちであるが、実際にそうとは限らない。
- What is an “algorithm”? It depends whom you ask
- Auditors are testing hiring algorithms for bias, but find there's no easy fix
採用ツールのバイアス問題、
AI監査人は解決できるか - AIアルゴリズムを用いて人材採用を効率化ツールが米国企業で普及してきた。ツールベンダーの中には「バイアス批判」に応え、アルゴリズムに対する監査を依頼している企業もあるが、監査人はある種のバイアスを見逃す可能性があるうえ、そのツールが職務に最適な候補者を選ぶことを保証するわけでもない。
- Auditors are testing hiring algorithms for bias, but find there's no easy fix
- Fractals can help AI learn to see more clearly—or at least fairly
フラクタルでAIを訓練、産総研などがデータセットに代わる新提案 - 産業技術総合研究所の片岡博士らの研究チームは、フラクタル図を使ってニューラルネットを訓練することで、現実の写真の大規模データセットを用いる場合と同様な結果を得られることを示した。手作業で訓練データを作成する労力と時間が省けるだけでなく、偏りを含まないデータセットを作るのに役立つ可能性がある。
- Fractals can help AI learn to see more clearly—or at least fairly
- AI could make healthcare fairer—by helping us believe what patients tell us
逆転の発想、診断法の欠陥を機械学習で実証した新研究 - 機械学習は既存の不平等を永続させる傾向があると指摘されているが、カリフォルニア大学バークレー校の研究者たちは「逆転の発想」により、機械学習により既存の医学的知識の欠陥が明らかになる場合があることを示した。
- AI could make healthcare fairer—by helping us believe what patients tell us
- An AI saw a cropped photo of AOC. It autocompleted her wearing a bikini.
女性を水着姿にするAIの偏見問題、ラベル付けだけが原因ではない - 人工知能（AI）のバイアスに対する批判の多くはラベル付けへの批判だった。だが、画像生成アルゴリズムにはインターネットに存在する性差別・人種差別的な視点が反映されている。
- An AI saw a cropped photo of AOC. It autocompleted her wearing a bikini.
- These virtual robot arms get smarter by training each other
オープンAI、互いに訓練することで賢くなるバーチャルロボを開発 - オープンAIは、一方のAIを使って他方のAIを訓練することより、多様なタスクに対応できるようAIを学習させる手法を開発した。オープンAIが目標とする、人間が改めて訓練しなくても様々なタスクをこなせる汎用的なAIを構築する際に重要な要素となる可能性がある。
- These virtual robot arms get smarter by training each other
- The Biden administration’s AI plans: what we might expect
バイデン新政権で米国のAI政策はどう変わるか？ - 米国のバイデン新大統領は、AIとどのように向き合うのか確かなことは何も発表していない。だが、大統領が指名した重要ポストの顔ぶれから、ある程度は予想できる。
- The Biden administration’s AI plans: what we might expect
- Worried about your firm’s AI ethics? These startups are here to help.
「AI倫理」をビジネスに変えるスタートアップが続々、監査を支援 - AI倫理への関心の高まりを受けて、AIモデルの監査を支援するスタートアップ企業が続々立ち上がっている。モデルのバイアスを検査したり、リスクを洗い出したりして「責任あるAI」の実現を支援する。
- Worried about your firm’s AI ethics? These startups are here to help.
- Jumbled up sentences show that AIs still don't really understand language
AIはまだ文の意味を理解していない——NLPの欠陥が突きつける課題 - 米オーバーン大学の研究者らは、言語理解能力を測定するテストで高得点の自然言語システムが、文中の単語の順序の入れ替えに気づかないことを発見した。こうしたシステムは、文中のいくつかのキーワードを拾い上げてテストの課題を処理しているだけであり、人間のように文の意味を理解しているわけではない。
- Jumbled up sentences show that AIs still don't really understand language
- DeepMind’s protein-folding AI has solved a 50-year-old grand challenge of biology
ディープマインド、生物学における50年越しの難問をAIで解決 - ディープマインドが開発した新たなアルゴリズムは、タンパク質の構造を原子サイズで正確に予測できる。この画期的な進歩は生物学における50年越しの難問を解決し、新薬の開発や疾病の解明に取り組む科学者らにとっても大きな進展をもたらすだろう。
- DeepMind’s protein-folding AI has solved a 50-year-old grand challenge of biology
- Five ways to make AI a greater force for good in 2021
2021年、「よりよいAI」を目指すための5つの提言 - 予想外のパンデミックが世界を襲った2020年は、人工知能（AI）が社会に与えるさまざまな悪影響が明らかになった。一方で、好ましい動きもある。2021年に期待する5つの動きを紹介しよう。
- Five ways to make AI a greater force for good in 2021
- What Buddhism can do for AI ethics
主張：今こそAI倫理に仏教の思想を取り入れよう - 社会におけるAIの影響力が強まるにつれて、AIを開発・運用する際の倫理的なガイドラインを策定する必要性が高まっている。これまでにいくつかのAI倫理ガイドラインが発表されているが、そのほとんどは、西欧の価値基準に基づいたものだ。
- What Buddhism can do for AI ethics
- The year deepfakes went mainstream
ディープフェイクに新潮流、2021年に流行しそうな事例6つ - 人工知能（AI）が作成するよるねつ造映像「ディープフェイク」は当初、ポルノ映像における顔のすり替えが主要な用途と言っても過言ではなかったが、2020年には、文化の主流に影響を与えるような用例も見られるようになってきた。
- The year deepfakes went mainstream
- AI needs to face up to its invisible worker problem
AI研究者はそろそろ
「見えない労働者」問題に
向き合うべきだ - 最近の人工知能（AI）の華々しい成果の背後には、米国の最低賃金にも満たない賃金で、機械学習モデルに入力するデータのラベル付けなどの作業を請け負うギグワーカーたちの存在がある。こうした「見えない労働者」の現状について、ウェストバージニア大学のサイフ・サベージ博士に話を聞いた。
- AI needs to face up to its invisible worker problem
- How role-playing a dragon can teach an AI to manipulate and persuade
他者を言葉で動かす方法を学習、目的達成手段として言語を使うAI - ジョージア工科大学の研究者のチームは、自然言語処理と強化学習を組み合わせることにより、目的を達成するために言葉を使って他者に何かをさせるAIシステムを開発した。言語に満ちた私たちの世界がどのように成り立っているかを、より深く理解することにつながるかもしれない。
- How role-playing a dragon can teach an AI to manipulate and persuade
- How our data encodes systematic racism
主張：AIはどのようにして
人種差別を固定化するのか - 人工知能（AI）アルゴリズムがバイアスを持つのは、アルゴリズムの訓練に使われる現実世界のデータセットに「白人至上主義」などの偏りが含まれているからだ。技術者や研究者は、使用するデータセットとアルゴリズムが反映する有害なイデオロギーに対し、責任を持たなければならない。
- How our data encodes systematic racism
- Tiny four-bit computers are now all you need to train AI
4ビットで深層学習、
IBMが「小さなAI」考案 - 最近の人工知能（AI）の研究で主流となっている大規模モデルの訓練では、膨大な計算機リソースや電力が必要となる。IBMは、AIモデルのパフォーマンスを大きく落とすことなく、4ビットでAIを訓練できる方法を発表した。
- Tiny four-bit computers are now all you need to train AI
- We read the paper that forced Timnit Gebru out of Google. Here's what it says
独自入手：グーグルが
著名AI研究者を解雇した
「問題論文」の中身 - グーグルのAI倫理チームの共同リーダーであったティムニット・ゲブルが解雇（グーグルは辞職と説明）されたことは関係者に衝撃を与えた。原因となった論文は、グーグルのビジネスの中核を支える大規模な言語モデルのリスクを指摘するものだった。
- We read the paper that forced Timnit Gebru out of Google. Here's what it says
- A leading AI ethics researcher says she’s been fired from Google
AIコミュニティに衝撃、グーグルが著名AI倫理研究者を解雇 - グーグルの倫理的AI部門の共同リーダーを務めていたティムニット・ゲブルは12月2日に、同社から解雇通知を受けたと発表した。ゲブルは、グーグルの取り組みに対して批判的な研究論文を発表し、「同社のマネージャーの意に沿わない」メールを送ったことで報復を受けたと主張している。
- A leading AI ethics researcher says she’s been fired from Google
- How the pandemic readied Alibaba’s AI for the world’s biggest shopping day
売上7.9兆円のアリババ「独身の日」を新型コロナはどう変えたか？ - 新型コロナウイルス感染症のパンデミックはネットショッピングの行動にも大きな変化をもたらした。中国の電子商取引大手企業は、これまでのAIモデルでは予測不可能となった消費者の不規則な行動に対応するため、AIモデルの再構築を試みている。
- How the pandemic readied Alibaba’s AI for the world’s biggest shopping day
- This could lead to the next big breakthrough in common sense AI
「常識あるAI」へ新手法、
言語＋視覚でBERTしのぐ - テキストだけで訓練された人工知能（AI）には限界がある。ノースカロライナ大学チャペルヒル校の研究チームは、自然言語処理とコンピュータ－・ビジョンを組み合わせる新手法により、常識あるAIを実現しようとしている。
- This could lead to the next big breakthrough in common sense AI
- The key to smarter robot collaborators may be more simplicity
協調型ロボットに「心の理論」は不要か？単純化で優れた結果に - ロボットを現実世界で使えるようにするための研究ではこれまで、相手の考えをモデル化して動きを予測することに重点が置かれてきた。しかし、相手の動きを単純化して把握することで、自動運転車のシミュレーション試験などでより優れた結果を出せる手法をスタンフォード大学の研究者らが考案した。
- The key to smarter robot collaborators may be more simplicity
- An AI helps you summarize the latest in AI
長い論文を238分の1に要約、アレンAI研の論文検索エンジン - アレン人工知能研究所は、同社の科学文献検索エンジンである「セマンティック・スカラー」に、論文の内容を一文に要約する機能を導入した。自然言語処理における直近のブレイクスルーを用いることで、各論文を平均で238分の1の分量に短縮できる。
- An AI helps you summarize the latest in AI
- The way we train AI is fundamentally flawed
グーグルが発見した、機械学習が現実世界で使い物にならない理由 - 研究室ではうまく機能する人工知能（AI）システムが、現実世界でうまく機能しないことはしばしばある。主な原因としてこれまで、AIを訓練・テストする際に使うデータと現実のデータの不一致が指摘されていたが、グーグルの研究チームは別の原因を突き止めた。
- The way we train AI is fundamentally flawed
- AI godfather Geoff Hinton: "Deep learning is going to be able to do everything"
深層学習で知能は再現できる
ジェフリー・ヒントンに聞く - 「深層学習の父」と呼ばれるジェフリー・ヒントン教授は、30年前以上前から他人とは異なる考え方を貫き通してきた。ヒントン教授が考えるAIの未来は現在も揺るがない。
- AI godfather Geoff Hinton: "Deep learning is going to be able to do everything"
- How to make a chatbot that isn't racist or sexist
AIチャットボットを
差別主義者にしない方法 - オープンAIの「GPT-3」をはじめとする最近の言語モデルは、非常にうまく人間の言語を模倣する。だが、ネット上で収集した膨大な量の会話データセットを使って訓練されているため、偏見や差別を含む発言を排除することが困難だ。解決策はあるか。
- How to make a chatbot that isn't racist or sexist
- To see what makes AI hard to use, ask it to write a pop song
AIはどこまで人と協働できるか、AIソング・コンテストの試み - 近い将来における人工知能（AI）の有用性は、人間とAIがそれぞれの強みを生かしながら協働することによって得られると考えられている。しかし、少なくとも現時点では、人間とAIのコラボレーションが容易でないことは、「AIソング・コンテスト」の審査員や受賞者の声を聞けば明らかだ。
- To see what makes AI hard to use, ask it to write a pop song
- The true dangers of AI are closer than we think
心配すべきは未来ではない
ディープマインド研究者、
AIの「脅威」を語る - 人工知能（AI）がやがて超知能に発達して人間を脅かす。グーグルのAI子会社ディープマインドで倫理問題に取り組む科学者は、そんな未来を心配するよりも現実の課題を直視すべきだという。
- The true dangers of AI are closer than we think
- Pfizer covid-19 vaccine is highly effective, but don't expect to get it soon.
ファイザーの新型コロナワクチン「9割に効果」、供給には課題 - 製薬会社のファイザーは11月9日、接種した人の約90％に有効な新型コロナウイルス・ワクチン候補を開発したと発表した。同社は今月中にワクチンの販売許可を申請するが、年内に供給できるワクチンは2000万人分としており、当分は社会的距離やマスク着用などの対策を続ける必要がありそうだ。
- Pfizer covid-19 vaccine is highly effective, but don't expect to get it soon.
- The creators of South Park have a new weekly deepfake satire show
偽トランプが司会のディープフェイク新番組がスタート - ディープフェイク技術をフル活用して作られた風刺番組が米国で始まった。ホストを務めるのは、トランプ大統領そっくりの顔をしたニュース・リポーターだ。
- The creators of South Park have a new weekly deepfake satire show