Building ethical thinking into technology

エディターズ・レター：「倫理的思考」をテクノロジーに実装する方法

AIをはじめとするテクノロジーが社会の基盤となる中、社会的責任を果たす重要性が増している。テクノロジー開発において、倫理的思考をいかしにして組み込めばよいのだろうか。「倫理」特集に寄せる、米国版編集長からのエディターズ・レター。 by Mat Honan2023.12.21

今年の「35歳未満のイノベーター」を紹介するエッセイで、アンドリュー・エンは、人工知能（AI）は電気と同様にあらゆるものに組み込まれる汎用テクノロジーだと主張している。確かにそのとおりだ。そしてそれはもう、すでに現実のものとなっている。

AIは急速に、他のさまざまなツールを強化する基本ツールとなり、幅広いアプリケーションやデバイスの技術的基盤となりつつある。WebアプリではAIが親切にパエリアのレシピを提案してくれ、アミノ酸配列からタンパク質の構造を予測することもできる。AIは絵を描き、車を運転し、さらには自己を複製し続け、送電網を乗っ取って無限の処理能力を獲得し、地球上の生命をすべて一掃する可能性さえある。

この最後の例は、今年初めに開催されたイベント「エムテック・デジタル（EmTech Digital）」でAIのパイオニア、ジェフリー・ヒントンが提起した悪夢のようなシナリオだ。しかし、これはアンドリュー・エンが指摘するもう一つの重要なポイント、そしてこのテーマにも関連している。エンはイノベーターたちに、自らの仕事に責任を持つよう促している。「AIが社会全体で価値あるイノベーションを推進する力として注目される中、社会的責任がかつてなく重要になっている」と述べているのだ。

本誌の「35歳未満のイノベーター」特集で讃えられている若いイノベーターたちは、さまざまな形で、私たちがテクノロジー開発に倫理的思考をどのように組み込むかを示している。例えば、「イノベーター・オブ・ザ・イヤー」に選ばれたシャロン・リーにも当てはまる。彼女は、AIアプリケーションが訓練されていない事象に直面した際、行動を控えるようにすることで、それらをより安全なものにしようとしている。これは、AIが予期せぬ展開を引き起こして甚大な被害をもたらすことを防ぐ、一助となる可能性がある。

今回の「倫理」特集は、倫理の問題と、それがテクノロジーを通じてどのように対処され、理解され、仲介されるかというテーマを中心に構成した。

例えば、比較的裕福な欧米人が、融資プラットフォームが経営トップに高額な報酬を支払っていることを理由に、発展途上国の小規模な起業家への融資をやめるべきだったのかどうか、という問題がある。「何を与えるか」について、私たちはどの程度コントロールすべきなのか。これらは、マイクロファイナンスの非営利団体キヴァ（Kiva）に対する貸し手の反乱について、マーラ・カルダス・ネルソンが調査した厄介な問題の一部である。

本誌のジェシカ・ヘンゼロー記者は、治療を求める患者とその家族にとって最後の手段となり得る実験的治療へのアクセスに関する政策について深掘りする。どのような人々がこれらの未承認の治療法を利用すべきであり、その有効性と（より重要な）安全性についてどのような証明を必要とすべきかについて議論している。

さらに、アーサー・ホランド・ミッチェルは、コンピューター支援の戦争という生死に関わる問題に挑んでいる。致命的な意思決定をAIによる分析にどの程度依存すべきか。また、AIシステムを意思決定者ではなくアドバイザーとして扱うためにはどのように構築すればよいのかを探っている。

レベッカ・アッカーマンは、オープンソース運動の長い進化の歴史を振り返り、オープンソースが「無料」という概念をどのように再定義してきたかを考察する。オープンソースが私たち全員に利益をもたらし、実際に多くの人々が利益を享受している以上、その維持と発展についてどのように考えるべきか、誰が責任を持つべきなのかを問いかける。

さらに、よりメタなレベルでは、テクノロジーと倫理が交わる部分に焦点を当てているハーバード大学とマサチューセッツ工科大学（MIT）で人道主義牧師を務め、MITの宗教・精神・倫理的生活局で倫理的生活会議の議長でもあるグレゴリー・エプスタインは、テクノロジーにおける倫理と責任を促進する非営利団体オール・テック・イズ・ヒューマン（All Tech Is Human）について深く掘り下げている。この団体が巨大企業や億万長者からの資金提供を受けながらも、オープン性と透明性に特化したグループとしての使命をどのように維持するのか、秘密技術に関与するメンバーやリーダーとどのように共存するのかについて考察している。

ほかにも多くの内容が含まれている。これがあなたに新しい考えを提供し、未来について多くのアイデアを与えることを願っている。

人気の記事ランキング

マット・ホーナン [Mat Honan]米国版編集長: MITテクノロジーレビューのグローバル編集長。前職のバズフィード・ニュースでは責任編集者を務め、テクノロジー取材班を立ち上げた。同チームはジョージ・ポルク賞、リビングストン賞、ピューリッツァー賞を受賞している。バズフィード以前は、ワイアード誌のコラムニスト／上級ライターとして、20年以上にわたってテック業界を取材してきた。