知性を宿す機械
ロボットや人工知能、機械学習、さらに自律型の乗り物やドローン、量子コンピューティングについて。
- The NYPD used a controversial facial recognition tool. Here’s what you need to know.
私物スマホで利用も NY市警と顔認識企業の深い関係明らかに - Web上で無許可で集めた顔写真を用いた顔認識システムを提供していることで物議を醸しているAI企業と、ニューヨーク市警が、極めて友好的な関係を築いていたことを示す電子メールが公開された。同市警は、試用期間が終わった後も同システムを使い続け、現場の捜査で利用しており、個人所有のデバイスからアクセスしている警察官もいた。
- The NYPD used a controversial facial recognition tool. Here’s what you need to know.
- 二足歩行ロボをゼロから訓練、強化学習で=UCバークレー
- カリフォルニア大学バークレー校の研究チームは、強化学習の手法を使って、ロボットに二足歩行をゼロから習得させようとしている。人間サイズのロボットに歩行を自己学習させることで、さまざまな地形に対応する能力や、転んだり損傷を負ったりした際に回復する能力を獲得させられるかもしれない。
- 脳への理解なくして
真の人工「知能」は作れない
ジェフ・ホーキンス - 「パームの父」として知られる神経科学者でテック起業家のジェフ・ホーキンスは、現在の人工知能(AI)に疑問を持っている。40年近くにわたって神経科学とAIの2つの世界を行き来してきたホーキンスは、知能の仕組みを解明したといい、世界中のAI研究者に議論を呼びかけている。
- 脳への理解なくして
- ビッグから「グッド」へ発想転換を、第一人者が語るAI導入のコツ
- 企業はどうすれば機械学習を利用して業務を変革し、重要な問題を解決できるようになるか。AI界のパイオニアであり、新たなベンチャー会社を率いるアンドリュー・エンが語った。
- AIモデル評価用データセットに多数の誤り、実は優秀ではなかった?
- MITの研究者が、人工知能(AI)の機械学習モデルの評価に使われている有名なデータセットの中に、誤ってラベル付けされたデータが多数含まれていることを発見した。最も優れていると見なされていたAIモデルが、実はそうではなかったという事態が発生するかもしれない。
知性を宿す機械の最新ニュース
- How to poison the data that Big Tech uses to surveil you
巨大テック企業の「データ油井」を汚染させる方法 - 今日、人々がデジタル・プラットフォーム上で実行していることはすべてデータとして収集・分析され、テック企業が収益を得るために利用されている。私たちは個人では無力だが、集団で行動を起こすことで、この力関係を是正できるかもしれない。
- How to poison the data that Big Tech uses to surveil you
- An AI is training counselors to deal with teens in crisis
AIボットが演じる16歳で「心を開く」訓練、カウンセラー教育に - LGBTQの若者らに向けたホットライン「トレバー・プロジェクト」は、ボランティアのカウンセラーの教育に、ノースカロライナ州出身の16歳の「ライリー」という架空の人格を備えたAIチャットボットを使用している。ただし、教育の効率を上げることだけが目標ではない。
- An AI is training counselors to deal with teens in crisis
- AI armed with multiple senses could gain more flexible intelligence
2021重大技術:「マルチモーダル」でAIはもっと柔軟かつ堅牢になる - 人間の知能はさまざまな知覚と言語能力の組み合わせから生まれる。こうしたマルチモーダルな手法を用いれば、新しい状況や問題により容易に対処できる堅牢なAIを作り出せる可能性がある。
- AI armed with multiple senses could gain more flexible intelligence
- What is an “algorithm”? It depends whom you ask
主張:「アルゴリズム」を責任逃れの隠れ蓑にしてはならない - アルゴリズムに基づく意思決定が重要な場面で使われる機会が増えるにつれて、その社会的影響が問題視されるようになってきた。「アルゴリズム」と聞くと一般的に、客観的なデータに基づいて、人間には振る舞いを予測できないほど複雑な処理を実行していると思われがちであるが、実際にそうとは限らない。
- What is an “algorithm”? It depends whom you ask
- Auditors are testing hiring algorithms for bias, but find there's no easy fix
採用ツールのバイアス問題、
AI監査人は解決できるか - AIアルゴリズムを用いて人材採用を効率化ツールが米国企業で普及してきた。ツールベンダーの中には「バイアス批判」に応え、アルゴリズムに対する監査を依頼している企業もあるが、監査人はある種のバイアスを見逃す可能性があるうえ、そのツールが職務に最適な候補者を選ぶことを保証するわけでもない。
- Auditors are testing hiring algorithms for bias, but find there's no easy fix
- Fractals can help AI learn to see more clearly—or at least fairly
フラクタルでAIを訓練、産総研などがデータセットに代わる新提案 - 産業技術総合研究所の片岡博士らの研究チームは、フラクタル図を使ってニューラルネットを訓練することで、現実の写真の大規模データセットを用いる場合と同様な結果を得られることを示した。手作業で訓練データを作成する労力と時間が省けるだけでなく、偏りを含まないデータセットを作るのに役立つ可能性がある。
- Fractals can help AI learn to see more clearly—or at least fairly
- AI could make healthcare fairer—by helping us believe what patients tell us
逆転の発想、診断法の欠陥を機械学習で実証した新研究 - 機械学習は既存の不平等を永続させる傾向があると指摘されているが、カリフォルニア大学バークレー校の研究者たちは「逆転の発想」により、機械学習により既存の医学的知識の欠陥が明らかになる場合があることを示した。
- AI could make healthcare fairer—by helping us believe what patients tell us
- An AI saw a cropped photo of AOC. It autocompleted her wearing a bikini.
女性を水着姿にするAIの偏見問題、ラベル付けだけが原因ではない - 人工知能(AI)のバイアスに対する批判の多くはラベル付けへの批判だった。だが、画像生成アルゴリズムにはインターネットに存在する性差別・人種差別的な視点が反映されている。
- An AI saw a cropped photo of AOC. It autocompleted her wearing a bikini.
- These virtual robot arms get smarter by training each other
オープンAI、互いに訓練することで賢くなるバーチャルロボを開発 - オープンAIは、一方のAIを使って他方のAIを訓練することより、多様なタスクに対応できるようAIを学習させる手法を開発した。オープンAIが目標とする、人間が改めて訓練しなくても様々なタスクをこなせる汎用的なAIを構築する際に重要な要素となる可能性がある。
- These virtual robot arms get smarter by training each other
- The Biden administration’s AI plans: what we might expect
バイデン新政権で米国のAI政策はどう変わるか? - 米国のバイデン新大統領は、AIとどのように向き合うのか確かなことは何も発表していない。だが、大統領が指名した重要ポストの顔ぶれから、ある程度は予想できる。
- The Biden administration’s AI plans: what we might expect
- Worried about your firm’s AI ethics? These startups are here to help.
「AI倫理」をビジネスに変えるスタートアップが続々、監査を支援 - AI倫理への関心の高まりを受けて、AIモデルの監査を支援するスタートアップ企業が続々立ち上がっている。モデルのバイアスを検査したり、リスクを洗い出したりして「責任あるAI」の実現を支援する。
- Worried about your firm’s AI ethics? These startups are here to help.
- Jumbled up sentences show that AIs still don't really understand language
AIはまだ文の意味を理解していない——NLPの欠陥が突きつける課題 - 米オーバーン大学の研究者らは、言語理解能力を測定するテストで高得点の自然言語システムが、文中の単語の順序の入れ替えに気づかないことを発見した。こうしたシステムは、文中のいくつかのキーワードを拾い上げてテストの課題を処理しているだけであり、人間のように文の意味を理解しているわけではない。
- Jumbled up sentences show that AIs still don't really understand language
- DeepMind’s protein-folding AI has solved a 50-year-old grand challenge of biology
ディープマインド、生物学における50年越しの難問をAIで解決 - ディープマインドが開発した新たなアルゴリズムは、タンパク質の構造を原子サイズで正確に予測できる。この画期的な進歩は生物学における50年越しの難問を解決し、新薬の開発や疾病の解明に取り組む科学者らにとっても大きな進展をもたらすだろう。
- DeepMind’s protein-folding AI has solved a 50-year-old grand challenge of biology
- Five ways to make AI a greater force for good in 2021
2021年、「よりよいAI」を目指すための5つの提言 - 予想外のパンデミックが世界を襲った2020年は、人工知能(AI)が社会に与えるさまざまな悪影響が明らかになった。一方で、好ましい動きもある。2021年に期待する5つの動きを紹介しよう。
- Five ways to make AI a greater force for good in 2021
- What Buddhism can do for AI ethics
主張:今こそAI倫理に仏教の思想を取り入れよう - 社会におけるAIの影響力が強まるにつれて、AIを開発・運用する際の倫理的なガイドラインを策定する必要性が高まっている。これまでにいくつかのAI倫理ガイドラインが発表されているが、そのほとんどは、西欧の価値基準に基づいたものだ。
- What Buddhism can do for AI ethics
- The year deepfakes went mainstream
ディープフェイクに新潮流、2021年に流行しそうな事例6つ - 人工知能(AI)が作成するよるねつ造映像「ディープフェイク」は当初、ポルノ映像における顔のすり替えが主要な用途と言っても過言ではなかったが、2020年には、文化の主流に影響を与えるような用例も見られるようになってきた。
- The year deepfakes went mainstream
- AI needs to face up to its invisible worker problem
AI研究者はそろそろ
「見えない労働者」問題に
向き合うべきだ - 最近の人工知能(AI)の華々しい成果の背後には、米国の最低賃金にも満たない賃金で、機械学習モデルに入力するデータのラベル付けなどの作業を請け負うギグワーカーたちの存在がある。こうした「見えない労働者」の現状について、ウェストバージニア大学のサイフ・サベージ博士に話を聞いた。
- AI needs to face up to its invisible worker problem
- How role-playing a dragon can teach an AI to manipulate and persuade
他者を言葉で動かす方法を学習、目的達成手段として言語を使うAI - ジョージア工科大学の研究者のチームは、自然言語処理と強化学習を組み合わせることにより、目的を達成するために言葉を使って他者に何かをさせるAIシステムを開発した。言語に満ちた私たちの世界がどのように成り立っているかを、より深く理解することにつながるかもしれない。
- How role-playing a dragon can teach an AI to manipulate and persuade
- How our data encodes systematic racism
主張:AIはどのようにして
人種差別を固定化するのか - 人工知能(AI)アルゴリズムがバイアスを持つのは、アルゴリズムの訓練に使われる現実世界のデータセットに「白人至上主義」などの偏りが含まれているからだ。技術者や研究者は、使用するデータセットとアルゴリズムが反映する有害なイデオロギーに対し、責任を持たなければならない。
- How our data encodes systematic racism
- Tiny four-bit computers are now all you need to train AI
4ビットで深層学習、
IBMが「小さなAI」考案 - 最近の人工知能(AI)の研究で主流となっている大規模モデルの訓練では、膨大な計算機リソースや電力が必要となる。IBMは、AIモデルのパフォーマンスを大きく落とすことなく、4ビットでAIを訓練できる方法を発表した。
- Tiny four-bit computers are now all you need to train AI
- We read the paper that forced Timnit Gebru out of Google. Here's what it says
独自入手:グーグルが
著名AI研究者を解雇した
「問題論文」の中身 - グーグルのAI倫理チームの共同リーダーであったティムニット・ゲブルが解雇(グーグルは辞職と説明)されたことは関係者に衝撃を与えた。原因となった論文は、グーグルのビジネスの中核を支える大規模な言語モデルのリスクを指摘するものだった。
- We read the paper that forced Timnit Gebru out of Google. Here's what it says
- A leading AI ethics researcher says she’s been fired from Google
AIコミュニティに衝撃、グーグルが著名AI倫理研究者を解雇 - グーグルの倫理的AI部門の共同リーダーを務めていたティムニット・ゲブルは12月2日に、同社から解雇通知を受けたと発表した。ゲブルは、グーグルの取り組みに対して批判的な研究論文を発表し、「同社のマネージャーの意に沿わない」メールを送ったことで報復を受けたと主張している。
- A leading AI ethics researcher says she’s been fired from Google
- How the pandemic readied Alibaba’s AI for the world’s biggest shopping day
売上7.9兆円のアリババ「独身の日」を新型コロナはどう変えたか? - 新型コロナウイルス感染症のパンデミックはネットショッピングの行動にも大きな変化をもたらした。中国の電子商取引大手企業は、これまでのAIモデルでは予測不可能となった消費者の不規則な行動に対応するため、AIモデルの再構築を試みている。
- How the pandemic readied Alibaba’s AI for the world’s biggest shopping day
- This could lead to the next big breakthrough in common sense AI
「常識あるAI」へ新手法、
言語+視覚でBERTしのぐ - テキストだけで訓練された人工知能(AI)には限界がある。ノースカロライナ大学チャペルヒル校の研究チームは、自然言語処理とコンピュータ-・ビジョンを組み合わせる新手法により、常識あるAIを実現しようとしている。
- This could lead to the next big breakthrough in common sense AI
- The key to smarter robot collaborators may be more simplicity
協調型ロボットに「心の理論」は不要か?単純化で優れた結果に - ロボットを現実世界で使えるようにするための研究ではこれまで、相手の考えをモデル化して動きを予測することに重点が置かれてきた。しかし、相手の動きを単純化して把握することで、自動運転車のシミュレーション試験などでより優れた結果を出せる手法をスタンフォード大学の研究者らが考案した。
- The key to smarter robot collaborators may be more simplicity
- An AI helps you summarize the latest in AI
長い論文を238分の1に要約、アレンAI研の論文検索エンジン - アレン人工知能研究所は、同社の科学文献検索エンジンである「セマンティック・スカラー」に、論文の内容を一文に要約する機能を導入した。自然言語処理における直近のブレイクスルーを用いることで、各論文を平均で238分の1の分量に短縮できる。
- An AI helps you summarize the latest in AI
- The way we train AI is fundamentally flawed
グーグルが発見した、機械学習が現実世界で使い物にならない理由 - 研究室ではうまく機能する人工知能(AI)システムが、現実世界でうまく機能しないことはしばしばある。主な原因としてこれまで、AIを訓練・テストする際に使うデータと現実のデータの不一致が指摘されていたが、グーグルの研究チームは別の原因を突き止めた。
- The way we train AI is fundamentally flawed
- AI godfather Geoff Hinton: "Deep learning is going to be able to do everything"
深層学習で知能は再現できる
ジェフリー・ヒントンに聞く - 「深層学習の父」と呼ばれるジェフリー・ヒントン教授は、30年前以上前から他人とは異なる考え方を貫き通してきた。ヒントン教授が考えるAIの未来は現在も揺るがない。
- AI godfather Geoff Hinton: "Deep learning is going to be able to do everything"
- How to make a chatbot that isn't racist or sexist
AIチャットボットを
差別主義者にしない方法 - オープンAIの「GPT-3」をはじめとする最近の言語モデルは、非常にうまく人間の言語を模倣する。だが、ネット上で収集した膨大な量の会話データセットを使って訓練されているため、偏見や差別を含む発言を排除することが困難だ。解決策はあるか。
- How to make a chatbot that isn't racist or sexist
- To see what makes AI hard to use, ask it to write a pop song
AIはどこまで人と協働できるか、AIソング・コンテストの試み - 近い将来における人工知能(AI)の有用性は、人間とAIがそれぞれの強みを生かしながら協働することによって得られると考えられている。しかし、少なくとも現時点では、人間とAIのコラボレーションが容易でないことは、「AIソング・コンテスト」の審査員や受賞者の声を聞けば明らかだ。
- To see what makes AI hard to use, ask it to write a pop song
- The true dangers of AI are closer than we think
心配すべきは未来ではない
ディープマインド研究者、
AIの「脅威」を語る - 人工知能(AI)がやがて超知能に発達して人間を脅かす。グーグルのAI子会社ディープマインドで倫理問題に取り組む科学者は、そんな未来を心配するよりも現実の課題を直視すべきだという。
- The true dangers of AI are closer than we think
- Pfizer covid-19 vaccine is highly effective, but don't expect to get it soon.
ファイザーの新型コロナワクチン「9割に効果」、供給には課題 - 製薬会社のファイザーは11月9日、接種した人の約90%に有効な新型コロナウイルス・ワクチン候補を開発したと発表した。同社は今月中にワクチンの販売許可を申請するが、年内に供給できるワクチンは2000万人分としており、当分は社会的距離やマスク着用などの対策を続ける必要がありそうだ。
- Pfizer covid-19 vaccine is highly effective, but don't expect to get it soon.
- The creators of South Park have a new weekly deepfake satire show
偽トランプが司会のディープフェイク新番組がスタート - ディープフェイク技術をフル活用して作られた風刺番組が米国で始まった。ホストを務めるのは、トランプ大統領そっくりの顔をしたニュース・リポーターだ。
- The creators of South Park have a new weekly deepfake satire show
- A deepfake bot is being used to “undress” underage girls
テレグラムに「ディープヌード」コミュニティ、10万人が被害 - 女性の画像からヌード画像を作成する人工知能アプリケーション「ディープヌード」は2019年に公開されてすぐに姿を消したが、テレグラムのコミュニティでは似たようなサービスが拡散されている。10万人を超える被害者の大半は被害に気づいていない状況だ。
- A deepfake bot is being used to “undress” underage girls
- Facebook’s new polyglot AI can translate between 100 languages
フェイスブック、100言語間で翻訳できる言語モデルを公開 - ファイスブックは、英語を中間言語とせずにさまざまな組み合わせの言語間で直接翻訳が可能な言語モデルを開発した。オープンソースとして公開されている。
- Facebook’s new polyglot AI can translate between 100 languages
- AI that scans a construction site can spot when things are falling behind
工事の遅れをGoPro画像から分析、建設現場向けAIが英国で活躍中 - 英国とイスラエルを拠点にするスタートアップ企業が、建設現場における遅れや誤りを自動的に警告する画像認識ソフトウェアを開発した。英国の大手建設会社がいくつかの大型住宅建設に利用中だ。
- AI that scans a construction site can spot when things are falling behind
- A radical new technique lets AI learn with practically no data
AI学習の常識覆す新手法、
ワンショット「未満」学習 - AI学習モデルは、認識の正確さを向上させようとすると、訓練に使うデータの数が膨大になることが課題となっている。ウォータールー大学の研究チームは、訓練に使うデータの数を上回る数の物体を識別するようにモデルを訓練できる「LOショット学習」を考案した。
- A radical new technique lets AI learn with practically no data
- Live facial recognition is tracking kids suspected of being criminals
アルゼンチン政府が未成年容疑者を公開DBに登録、顔認識で追跡も - 国際人権NGOの調査により、アルゼンチン政府の犯罪容疑者データベースに未成年者が登録されており、リアルタイム顔認識システムと連携して追跡に使われていることがわかった。顔認識システムは一般に子どもの顔の認識性能が悪く、子どもたちは常に誤認逮捕の危険に晒されている。
- Live facial recognition is tracking kids suspected of being criminals
- How an AI tool for fighting hospital deaths actually worked in the real world
AI導入で院内死が激減、
成功を導いた「現場力」 - デューク大学ヘルスシステムの緊急診療科は、深層学習モデルのAIツールを導入することで、敗血症に起因する死亡件数を劇的に減少させた。ツールの成功は、技術的な取り組みはもとより、職場における力関係や政治的側面の調整をはじめとする現場での地道な活動の賜物と言える。
- How an AI tool for fighting hospital deaths actually worked in the real world
- A GPT-3 bot posted comments on Reddit for a week and no one noticed
「GPT-3」ボットが人気掲示板に大量書き込み、1週間見破られず - 3000万人が集う人気掲示板にハイペースで投稿していたユーザーが人工知能(AI)ボットだと判明した。自殺願望者の悩み相談にも適切なアドバイスを与えていた。
- A GPT-3 bot posted comments on Reddit for a week and no one noticed
- Participation-washing could be the next dangerous fad in machine learning
主張:機械学習の「参加型」アプローチはAI倫理の特効薬ではない - 機械学習システムの設計・構築における不平等を解消する機運が高まっている。だが、背景にある収奪的な構造を無視したままでは問題は解決できない。
- Participation-washing could be the next dangerous fad in machine learning
- A VR film/game with AI characters can be different every time you watch/play
観てもプレイしてもいい、強化学習でキャラが動く新感覚のVR映画 - 9月に開催されたベネチア国際映画祭で、AIが制御するキャラクターが登場するVR(実質現実)短編映画が紹介された。映画製作に強化学習を使用した初の事例として、映画製作の未来を垣間見せるものになるかもしれない。
- A VR film/game with AI characters can be different every time you watch/play
- AI planners in Minecraft could help machines design better cities
AIが作る「マイクラの街」
現実の都市計画に応用も - AIを使ってマインクラフトの都市を生成するコンテストが毎年実施されている。将来、このコンテストで培われたAI手法が、実際の都市計画立案に使われる日が来るかもしれない。
- AI planners in Minecraft could help machines design better cities
- Deepfake Putin is here to warn Americans about their self-inflicted doom
偽プーチンと金正恩が出演するディープフェイク広告、放送中止に - 選挙の妨害ではなく民主主義を守るために、AIを使った人工的なビデオ広告が制作された。
- Deepfake Putin is here to warn Americans about their self-inflicted doom
- We’re not ready for AI, says the winner of a new $1m AI prize
「足りないのは、信頼」
100万ドルのAI賞受賞者
バージレイ教授が語ったこと - 米人工知能学会(AAAI)の「スクワールAIアワード」の初代受賞者として、MITのレジーナ・バージレイ教授が選ばれた。2014年に乳がんを患ってから、がんの検知と新薬開発のための機械学習アルゴリズムを専門に取り組んでいる同教授に、AIへの期待と課題について聞いた。
- We’re not ready for AI, says the winner of a new $1m AI prize