KADOKAWA Technology Review
×
【今週水曜26日開催】1800人が参加した「生成AI」第3弾。イベント申込受付中!
グーグルのAI倫理規程、軍事利用と距離を置くことはできるのか?
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (The Noun Project)
Don’t be AI-vil: Google says its algorithms will do no harm

グーグルのAI倫理規程、軍事利用と距離を置くことはできるのか?

グーグルは、同社の人工知能(AI)技術が軍に使用されることに反対して多数の社員が退職したことを受けて、同社の技術の軍用化に関する新たな倫理規定を発表した。しかし、多くのIT企業にとって防衛産業は巨大な市場であり、軍との関係を一概に断ち切ることはできないだろう。 by Will Knight2018.06.11

グーグルが自律兵器の開発を禁止する人工知能(AI)の倫理規定を作った。ただこの原則には、もうけになる防衛産業の恩恵をグーグルもいずれは受けられるよう、十分な余地が残されている。

グーグルでは以前、同社のAI技術が「アルゴリズム戦争クロスファンクショナル・チーム(AWCFT:Algorithmic Warfare Cross-Functional Team)」と呼ばれる米国防総省のイニシアチブに使われたことに対して、社内で大きな抗議行動が起こった。今回の発表は、その抗議行動を受けてのものだ。内部では「プロジェクト・メイブン(Project Maven) 」として知られるこのプロジェクトの目標の1つは、ドローンによる攻撃の精度を向上させることである。

先月、このスキャンダルをめぐって多数のグーグル社員が退職し、さらに多くの社員が公開抗議文に署名した。

この騒動は、テクノロジーが将来、いかに戦争の自動化に使われるかについて多くの人が抱いている恐れを反映している。しかしながら、状況はそう単純ではない。

AIは、兵器システムをより安全でエラーを起こしにくいものにするのに役立つかもしれない。加えて、防衛産業全体にわたって数多くのAIが日常用途に使われている。グーグルはクラウドAI技術にとっての巨大な潜在市場を否定したくはないのだ。

グーグルのサンダー・ピチャイ最高経営責任者(CEO)は、6月7日のブログ記事で今回の新規定を発表した。記事の中でピチャイCEOは、グーグルのAI使用の手引きとなる7つの原則を提示している。社会に利益をもたらすこと、偏見的アルゴリズムを避けること、プライバシーを尊重すること、安全性をテストすること、一般市民に対する説明責任を果たすこと、科学的な厳密さを維持すること、これらの原則に従って利用できるようにすること、である。

ピチャイCEOはまた、グーグルは危害を加える一切のものの開発のためにAI技術を使うことを認めないと言明することにも骨折っている。それは「実装が人に傷害を与えたり、直接的に助長したりすることを主な目的とする兵器やその他のテクノロジー」を含んでいる。

グーグルはさらに、国際的に認められた基本的人権に関する規範を破る監視用テクノロジーも、国際法に違反するいかなるテクノロジーの開発も避けるという。

AIは急速に発展しており、グーグルはAIプロジェクトに関わる他の問題にもぶち当たっている。たとえば同社のコンピューター・ビジョン・システムの1つが、アフリカ系の人々を誤ってゴリラとして分類した。グーグルは今年4月に「邪悪になるな(Don’t be evil)」というモットーを放棄したが、理想主義的な文化を今でも保持している。

軍によるAIの使用は今後ますます論争を引き起こす可能性がある。AI技術は新たな方法で導入されているし、企業は自社クラウドAI技術をできるだけ広範に売りつけようとしているからだ。

機械学習やAIが今後、諜報や防衛にとってますます重要となることは避けられない。 アマゾンやマイクロソフトなどの他の米ハイテク企業は、ペンタゴン(米国防総省)の数十億ドル規模のクラウド・コンピューティング・プロジェクトへ参画を虎視眈々と狙っている。

人気の記事ランキング
  1. What happened when 20 comedians got AI to write their routines AIは「笑い」を取れるか? プロがLLMにネタを書かせた結果
  2. Trajectory of U35 Innovators: Sadayuki Furuhashi 古橋貞之:世界中で使われるソフトウェアを作る日本人プログラマー
  3. Biotech companies are trying to make milk without cows 「牛を使わないミルク」ベンチャーに脚光、鳥インフル感染拡大で
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
人気の記事ランキング
  1. What happened when 20 comedians got AI to write their routines AIは「笑い」を取れるか? プロがLLMにネタを書かせた結果
  2. Trajectory of U35 Innovators: Sadayuki Furuhashi 古橋貞之:世界中で使われるソフトウェアを作る日本人プログラマー
  3. Biotech companies are trying to make milk without cows 「牛を使わないミルク」ベンチャーに脚光、鳥インフル感染拡大で
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る