KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
AIは意識を持つようになるか? 判断が難しい理由
Stephanie Arnett/MITTR
Why it'll be hard to tell if AI ever becomes conscious

AIは意識を持つようになるか? 判断が難しい理由

意識を持つ機械を作ることは、テクノロジストの夢の一つだ。例えば、最近の大規模言語モデルは人間のように会話ができるが、意識を持っているかどうかをどうしたら知ることができるだろうか。 by Melissa Heikkilä2023.10.31

この記事は米国版ニュースレターを一部再編集したものです。

人工知能(AI)分野の関係者の多くは、メカニカル・ターク(機械仕掛けのトルコ人)の話をよく知っているだろう。メカニカル・タークは1770年に開発されたチェスをプレイする機械で、超自然的な力を持っていると対局相手が思い込んでしまうほど強かった。実際には、この機械には人が入れる空間があり、中に隠れて操っていたのである。このいたずらは84年間にわたって続いた。実に3世代である。

歴史は、無生物に命を吹き込もうとした人々、そして不正行為やトリックを「魔法」として売り込もうとした人々の豊富な例に満ちている。だが、機械の中の意識の存在を信じたいという、実に人間的な願望が現実化したことはない。

AIシステムの中に意識を作り出すことは、多くのテクノロジストにとって夢である。大規模言語モデルは、人間による賢い機械探求の最新例だ。一部の人々は、大規模言語モデルとの会話の中で、意識の微かな兆しを見たと(けんか腰で)主張している。要するに、機械の意識は盛んに議論されている話題なのだ。多くの専門家は永遠にSFの世界の話であり続けるだろうと述べているが、もうすぐ実現すると主張する向きもある。

MITテクノロジーレビューに近日掲載予定の記事では、神経科学者のグレース・ハッキンスが、人間の意識の研究から私たちがAIについて学べること、AIの意識がもたらしうる倫理的問題を掘り下げている。

私たちは人間の意識を完全には理解してはいないが、神経科学者は脳の中に意識がどのように現れるのかについて、いくつかの手がかりを得ているとグレースは述べている。当然のことだが、AIシステムは脳を持たないため、生命の兆候を調べるために脳活動を測定する従来の手法を利用するのは不可能だ。だが神経科学者らは、AIシステムの中の意識がどのように表出するかについて、さまざまな理論を提示している。それを脳の「ソフトウェア」の機能として扱う者もいれば、より直接的に物理ハードウェアと関連付ける者もいる。

AIに意識があるかどうかを見分けるテストを開発する試みもある。フロリダ・アトランティック大学フューチャーマインド・センター所長のスーザン・シュナイダーと、プリンストン大学の物理学者エドウィン・ターナーが開発したテストは、テストをする前の訓練段階で、AIを意識に関する情報から隔離する必要がある。この手順は、大規模言語モデルのように、訓練中に得た意識に関する人間の意見を単にオウム返しするのを防ぐために重要だ。

訓練の後に、試験官はAIに対して意識がなければ答えられない質問をする。『フォーチュン・クッキー』のあらすじ(母と娘の体が入れ替わり、自分の肉体から意識が乖離してしまう)を理解できるか。夢を見るという概念を理解し、さらには自身が夢を見ると報告するか。生まれ変わりや、死後の世界を思い描くことができるか。

当然ながら、このテストは絶対確実なものではない。このテストは被験者が言語を扱える必要があるため、幼児や動物は明らかに意識を持つ存在だが、このテストに合格できないだろう。一方で、言語ベースのAIモデルは、訓練に使用される大量のインターネットデータで意識の概念に晒されることになるだろう。

では、私たちはAIシステムに意識があることを、実際にはどのように知ることになるのか。チューリング賞受賞者のヨシュア・ベンジオを含めた神経科学者、哲学者、AI研究者からなるチームは、さまざまな分野の多様な理論に基づく、AIの意識を検知するための実用的な方法を提案するホワイト・ペーパーをまとめた。彼らは、さまざまな条件に当てはまるかどうかをチェックするための成績表のようなものを提案している。たとえば、柔軟に目標達成を目指す、外部環境とインタラクションするなどといった条件に当てはまれば、(そうした理論が真実であるなら)AIに意識があることを示しているというわけだ。現在のAIシステムでそうした条件に当てはまるものは存在せず、今後もそれが実現するかは不明だ。

今の私たちに分かっているのは、次のようなことだ。大規模言語モデルは文章における次の言葉を予測する能力が極めて高い。また、物事を結びつけることに非常に長けており、時には私たちを驚かせるような形でそれを実行して見せるため、私たちはそうしたコンピューター・プログラムがなにか別のひらめきを備えているのではないかという幻想を抱きやすい。だが、AI言語モデルの内部の仕組みを私たちはほとんど知らない。そうしたシステムが厳密にはなぜ、どのようにして結論を出しているのか。そのことについての私たちの理解が進むまでは、そういったモデルが生み出す成果が単なる手の込んだ数学ではない、とは言い難いのである。

次世代電池の開発に貢献するAIツール

電気自動車が化石燃料自動車に置き換わるだけの潜在能力を発揮するには、次世代電池が必要だ。問題は、そのような次世代電池の開発に利用できる可能性を秘めた材料と、その組み合わせが無数に存在することだ。試行錯誤を繰り返すのは、非常に大きな労働力とコストが掛かる。

そこでAIの登場だ。スタートアップ企業であるエーイオノニクス(Aionics)は、研究者が電池のより良い化学的性質を素早く見つけられるようにするためにAIツールを活用している。このツールは機械学習を用いて広範囲にわたる材料の選択肢を選別し、組み合わせを提案する。生成AI(ジェネレーティブAI)も、研究者が新たな材料をより素早く設計するのに役立つ可能性がある。

AI関連のその他のニュース

巨大テック企業はAIに関する過剰な盛り上がりを収益化することに苦戦している。マイクロソフトにとって初の生成AI製品のひとつが損失を出したと報じられた。苦戦しているのはマイクロソフトだけではない。他の巨大テック企業も、訓練と運用に莫大なコストが掛かる生成AIへの巨額の投資から利益を出す手段をなかなか見つけられずにいる。(ウォール・ストリート・ジャーナル紙

AIはいかにして世界をステレオタイプへと単純化しているのか。レスト・オブ・ワールド(Rest of World)がさまざまな国や文化のAI生成画像3000枚を分析したところ、AIは非常にステレオタイプな形で世界を描写していることが明らかになった。そこに驚きはないが、この画像記事はAIシステムにいかに深くバイアスが浸透しているかをうまく示している。(レスト・オブ・ワールド

グーグルの内部関係者さえも、バード(Bard)チャットボットの有用性に疑問を呈している。自分だけではないことが分かって良かった。招待制の公式ディスコード(Discord)チャットから流出したメッセージで、グーグルのプロダクトマネージャーとデザイナーらは同社のAIチャットボットである「バード(Bard)」の有用性に関して疑問を呈し、バードが物事をでっち上げているとの考えを述べている。グーグルの内部関係者らは、バードはクリエイティブ用途、ブレインストーミング、あるいはコーディングに利用するのがベストだが、それでもかなりの監督が必要だと考えているようだ。(ブルームバーグ

米国は中国に対するAIテクノロジーの遮断強化を検討している。中国がAIの覇権を手にする可能性を懸念する米国は、AIを稼働させるために必要なコンピューター・チップへの中国のアクセスを制限してきた。米国は現在、その制限を強化し、物理的部品だけでなく、汎用目的型AIの広範な分野への中国のアクセスを制限することを検討している。(アトランティック

億万長者が支援するAIアドバイザーネットワークは、いかにして米国政府を支配するに至ったのか
2022年に創設されたほぼ無名の非営利団体「公共サービスのためのホライズン研究所(Horizon Institute for Public Service)」は、主要な上院のオフィス、機関、シンクタンクで働く人々の給与の資金源となっている。この団体は、AIがもたらす存亡の危機を米国政府の最重要課題にするよう働きかけている。これは同ネットワークと繋がりのあるAI企業に利益をもたらす可能性がある。(ポリティコ

グーグルが顧客に生成AI訴訟の裁判費用を提供。マイクロソフトとゲッティイメージズ(Getty Images)に次いでグーグルは、顧客が同社の生成AIモデルによる成果物または利用した訓練データに関する訴訟に巻き込まれた場合、裁判費用を支払うと発表した。これは巨大テック企業の賢い動きだ。著作権やAIに関する法的明確性がよりはっきりしたものになるまで巨大テック企業のAIツール導入を見送っている組織を説得できる可能性が高まるからだ。(グーグル

人気の記事ランキング
  1. The problem with plug-in hybrids? Their drivers. プラグイン・ハイブリッド、想定以上の環境負荷のなぜ
  2. Promotion MITTR Emerging Technology Nite #28 「自動運転2.0  生成AIで実現する次世代自律車両」開催のご案内
  3. How to reopen a nuclear power plant 廃炉から復活へ、米国で異例の原発再稼働に道筋
  4. How three filmmakers created Sora’s latest jaw-dropping videos 生成AI「Sora」で作られた驚きの動画、制作者に聞く舞台裏
メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者
MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ(POLITICO)』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」(欧州メディア部門)に選出された。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. The problem with plug-in hybrids? Their drivers. プラグイン・ハイブリッド、想定以上の環境負荷のなぜ
  2. Promotion MITTR Emerging Technology Nite #28 「自動運転2.0  生成AIで実現する次世代自律車両」開催のご案内
  3. How to reopen a nuclear power plant 廃炉から復活へ、米国で異例の原発再稼働に道筋
  4. How three filmmakers created Sora’s latest jaw-dropping videos 生成AI「Sora」で作られた驚きの動画、制作者に聞く舞台裏
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る