KADOKAWA Technology Review
×
【5/24まで】ひと月あたり1000円で購読できる春のキャンペーン実施中!
思考盗聴も現実になる? 脳データ収集の倫理的問題点
Duke University
Tech that aims to read your mind and probe your memories is already here

思考盗聴も現実になる? 脳データ収集の倫理的問題点

脳の活動状態を示すデータを取得できる消費者向けの機器が登場し、活用が始まりつつある。だが、脳活動を示すデータから、思考を推測されるなど、危険な事態を招く可能性はないのだろうか。 by Jessica Hamzelou2023.04.28

この記事は米国版ニュースレターを一部再編集したものです。

ノースカロライナ州ダーラムにあるデューク大学の法倫理学者で未来学者のニタ・ファラハニー教授に電話取材し、興味深い話を聞いた。ファラハニー教授はこれまでキャリアの大半を費やし、新しいテクノロジー、特に私たちの脳を理解したり改変したりしようとするテクノロジーがもたらす影響について研究してきた。

近年、神経テクノロジーは研究室から出て、実世界で利用されるようになっている。学校は、子どもたちの脳の活動を監視し、注意を向けているタイミングを教えてくれるいくつかの機器を使っている。警察はまた別のデバイスを、ある者が犯罪を犯しているかどうか判断するのに役立てている。また、雇用主も、労働者を居眠りさせず、生産性を維持する目的で、このテクノロジーを使用している。

これらのテクノロジーは、私たちの心に関してまったく新しい洞察を与えてくれるという、すばらしい可能性を秘めている。しかし、私たちの脳のデータは貴重であり、悪意ある者の手に渡れば危険を招く可能性があると、ファラハニー教授は新著『The Battle for Your Brain(脳をめぐる戦い)』(未邦訳)で主張している。懸念されるいくつかのことについて、本人から話を聞いた。

なお、以下のインタビューは、発言の趣旨を明確にし、長さを調整するため、編集されている。

——あなたの本は、私たちの脳のデータを収集して調べるテクノロジーが、良くも悪くもどのように使用される可能性があるか説明しています。脳のデータから何が分かるのでしょうか?

私が脳のデータについて話す時は、EEG(Electroencephalogram:脳波記録法)や、fNIRS(Functional Near-Infrared Spectroscopy:機能的近赤外分光法)、fMRI(Functional Magnetic Resonance Imaging:機能的磁気共鳴画像法)、EMG(Electromyography:筋電図検査法)などを使用したもののことを言っています。人間の脳から、生物学的機能や電気生理学的機能などの情報を収集する手段です。これらの装置は脳全体のデータを収集するものが多く、ソフトウェアを使ってそこから特定の信号を取り出すことができます。

脳のデータは思考ではありません。しかし、そのデータを使って、ある人の心の中で何が起きているのか推測できます。脳の状態には、解読できるものがあります。疲れている、注意を払っている、気が散っている、集中している、退屈している、興味を持っている、嬉しい、悲しいなどです。脳の持ち主がどのように考えたり感じたりしているか、空腹かどうか、民主党と共和党のどちらを支持しているのかといったことが見抜けるかもしれません。

また、ある人が示す反応を見ることで、脳を探って情報を集め、その人の記憶の中にあるものや、思考パターンの解明を試みることもできます。数字の羅列を見せて暗証番号を突き止めようとしたり、議員候補者の顔写真を見せて、良好な反応と否定的な反応のどちらが多いか調べべることもできるでしょう。心理的なバイアスに限らず、犯罪現場やパスワードについて知っていることなど、ある人が持つ実際の知識も調べることができます。

——これまでほとんどの人は、病院で検査でも受けない限り、自分の脳のデータを知ることはありませんでした。私たちの健康に関するデータは保護されています。消費者向け製品によって収集された脳のデータは保護されるのでしょうか?

私たちは今、転換点にいると感じています。今年、そして今後2年で、(多くの)消費者向け機器が発売されようとしています。人工知能(AI)が大きく進歩したおかげで、脳の活動の解読が可能になりました。また、電極が小型化したので、(メーカーは)イヤホンやヘッドホンに組み込めるようになりました。大手テック企業からの大きな投資もありました。間もなく、脳のデータはあらゆる場所で見られるものになると、私は考えています。

現在、あなたの脳のデータを把握できるのはあなた自身だけです。そして、それを分析できるのも、あなた自身が心の中に持っているソフトウェアだけです。しかし、ひとたび頭に測定機器を装着すれば、機器のメーカー、またはプラットフォームを提供する企業と、自分自身の脳のデータをすぐに共有することになります。また、機器を提供した政府や雇用主とも、脳のデータを共有することになる可能性があります。

——それは常に悪いことなのでしょうか?

自分の脳のデータを得られるようになるということは、個人にとっては良い意味で変革です。脳はこれまでずっと、私たちの体の中で触れることのできない、近づきがたい領域でした。それが突然、個人の手が届くものになるのです。自分自身との関係も変わることになるでしょう。

科学者や研究者がそのデータを活用できれば、脳機能障害の理解に役立ち、神経疾患や精神疾患の新たな治療法の開発につながる可能性があります。

データを収集、作成することには、問題はありません。問題になるのは、個人や集団に不利益となるようなやり方でデータを使用する場合です。そして、そのような事態はすぐにでも起こりえます。このことも問題です。

たとえば、脳のデータにアクセスできる権威主義政府が、それを使って、政府を支持しようとしない人々を特定しようとするかもしれません。これは、すぐにでも起こり得る、深刻なデータの乱用です。また、神経に異常がある人々を特定し、差別したり隔離したりしようとするかもしれません。職場では、個人を神経監視の対象にして人間性を失わせるために、脳のデータが利用される可能性があります。このようなことがすべて、同時に現実となってしまうのです。

——消費者向け製品の中には、たとえば脳の活動を測定して心が落ち着くように誘導すると謳うヘッドバンドやイヤホンなど、一部の科学者からギミックとして否定されてきたものもあります。

まったくそのとおりです。健康状態の改善や、健康管理に革命を起こすことを目指して埋込み型の機器を開発しようとしている筋金入りの脳コンピューター・インターフェイス(BCI)開発者たちは、「本当の情報はあまり拾えていない」と言うでしょう。信号は、たとえば筋肉の引きつりや髪の毛などが発生させるノイズによって歪められます。ですが、だからといって信号がないわけではありません。意味のあるものを拾えるのです。それを軽視するのは危険だと思います。人々は、この分野で何が起きているのか、いかに急速に進歩しているかを知らないのです。

——あなたは本の中で、このようなテクノロジーをすでに雇用主が利用しているという事実と、どのように利用しているのかという例をいくつか挙げています。たとえば、一部の機器は、トラック運転手の覚醒状態や注意力を監視するために使われています。

私は、そんなにひどい使い方とは思いません。個人の心のプライバシーを守ることによる利益と、社会的利益のバランスを取り、道路上の他の人の安全と運転手の安全も守ることができるのですから。

また、従業員に(自分の脳の活動の監視を可能にする)ニューロフィードバックがリアルタイムで得られるツールを提供し、自分自身のストレスや注意力のレベルを把握してもらうという動きも広がり始めています。内省や改善のためのツールとして、個人に渡すのであれば、問題ないと思います。

問題になるのは、雇用主がツールを使うことを強制し、雇用、解雇、昇進の判断をするためのデータを集める場合です。雇用主はそのデータを、生産性スコアのようなものに変えます。そうなると、本当に陰険で、問題のある事態になると思います。信頼関係が損なわれ、職場が非人間的な場所になりかねません。

——企業や政府が私たちの脳のデータをどのように利用する可能性があるかということも、本の中で説明されています。特に、狙った夢を創り出すというアイデアに興味をそそられました。

映画『インセプション』みたいですよね!(ビール会社の)クアーズは夢の研究者と手を組み、ボランティアが見る夢に山や清流のイメージを創り出し、最終的にそれらのイメージとクアーズ・ビールを関連付けました。そうするためにクアーズは、ボランティアが目を覚まそうとしている時や眠りに入ろうとしている時に、環境音を流しました。私たちの脳が最も暗示にかかりやすいタイミングです。

クアーズの試みは、いろいろな意味で不快です。まさに、自分の心の防御が最も緩んでいる瞬間を探し出し、心の中に連想を生み出そうとする行為です。それは、禁止されるべき種類の操作と、とてもよく似ていると感じます。

クアーズはこの試みに同意するボランティアを募集しました。しかし、これが人々の同意なしに行われる可能性はあるでしょうか? たとえば、アップルは脳波センサーを埋め込んだ睡眠用アイ・マスクの特許を持っています。また、LGは睡眠用の脳波センサー付きイヤホンを発表しています。このような機器が持つセンサーのどれかが、最も暗示にかかりやすいタイミングを選んで近くの携帯電話や家庭用機器に接続し、あなたの思考を操作するために環境音を流すことを想像してみてください。気味が悪いと思いませんか?

——ええ、思います。どうすればそれを防げますか?

私は多くの企業と積極的に話をして、本当にしっかりとしたプライバシー・ポリシーを整備する必要があると伝えています。機器を試す人が、それによって起こるかもしれないことを心配せずに済むようにするべきだというのが、私の考えです。

——それらの企業は、その考えを受け入れてくれましたか?

私が話をしたほとんどのニューロテック企業は問題を認識しており、解決策を持って前向きに取り組み、説明責任を果たそうとしています。その誠実な姿勢に、私はとても勇気づけられました。しかし、一部の大手テック企業には、少し不安を感じています。彼らは最近、大規模なレイオフ(一時解雇)を断行していますが、真っ先に首を切られる人たちの中に、倫理担当者も入っているのです。

小規模なニューロ企業が大手テック企業に買収されていることを考えると、それらの小さな企業が収集した脳データが、そのまま収集時のプライバシー・ポリシーに基づいて管理され続けるという確信は、あまり持てません。データの商品化こそ、それら大企業のビジネス・モデルです。脳のデータを企業の自己統治に任せたくはありません。

——他に何かできることは?

認知の自由に対する権利が認められるように、私たちが直ちに動き出すことを願っています。既存の人権法の中に原理上存在する、新しい種類の権利です。

私は認知の自由を、心のプライバシー、思考の自由、自己決定という3つの基本原則で構成される、包括的な概念と考えています。自己決定の原則は、自分の脳の情報を取得する権利、自分の脳について知る権利、自分の脳を変化させる権利を包含しています。

それは、デジタル時代に必要な自由のあり方を認識し、一般的な自由の概念をアップデートすることです。

——自由の概念をアップデートできる可能性はどの程度ありますか?

実際、可能性はかなりあると思っています。国連自由権規約人権委員会は、一般からのコメントや意見を通して、認知的自由の権利を認めることができます。国連では、政治的な手順を踏む必要はないのです。

——でも、導入が間に合いますか?

間に合うことを願っています。だから私は今、この本を書いたのです。時間はそれほどありません。最悪のことが起こるのを待っていたら、手遅れになります。

しかし、ニューロテクノロジーが進む方向を、人類に力を与えることができる方向に変えることができます。

MITテクノロジーレビューの関連記事

米軍は何年も前から心を読む機器の開発に取り組んできた。その目的は、脳や神経系に損傷を負う人々を支援できるテクノロジーを創り出すことだけではない。2019年にポール・タリスが報じたように、兵士が思考するだけでドローンなどの装置に指示を出せるようにすることも目的の1つである。

テック分野で財を成した何人かの億万長者が、人間の脳をコンピューターと接続するプロジェクトを立ち上げている。その目的は、私たちの心を読むことや、コミュニケーションの手段とすること、または脳の力を強化することなどだ。2017年に本誌のアントニオ・レガラード編集者が起業家のブライアン・ジョンソンと話をし、人間の知能を強化するため神経系の人工装具を作る計画について聞いている(その後、ジョンソンは自分の体をできるだけ若く保つ方法の探求に乗り出した)。

ヘッドバンドや帽子から脳に電気的な刺激を与えることはできるが、一般的に非侵襲的な機器と考えられている。しかし、それらのデバイスが私たちの心の中を探り、心の働きを変える可能性があることを考えると、以前書いたように、それらの機器が本当に非侵襲的なのか考え直す必要があるかもしれない。

イーロン・マスクの会社であるニューラリンク(Neuralink)は、「生物学的な知能と人工知能をより密接に結びつけることができる全脳インターフェースを作る」という究極の目標を掲げてきた。ニューラリンクや競合他社がどれほどの進展を遂げてきたか、本誌のアントニオ・レガラード編集者がコンピューティング特集で説明している。

てんかんの治療のため脳に電極を埋め込んでいる人物が警察官に暴行を加えた容疑で告訴された時、司法当局は装置が収集した脳のデータの確認を求めた。そのデータは、容疑を晴らすものだった。この人物は事件が発生した時に、発作を起こしていたと分かったのだ。しかし、この記事に書いたように、脳のデータは、他の誰かを有罪にする目的でも同じくらい簡単に利用される可能性がある。

医学・生物工学関連の注目ニュース

医者から受け取った書類を書いたのがAIだったとしたら、どう感じるだろうか?ある予備研究で、「チャットGPTを使って全体的に正確で、人間らしさを示すスコアが高い医療関係の書類の生成が可能である」ことが示された。(ランセット・デジタル・ヘルス

メレディス・ブルーサードは、受診した病院が自分の乳がんを診断するときにAIの助けを借りたことを知り、このテクノロジーが人間の医師にどれくらい対抗できるのか検討した。そして、イマイチであることが分かった。(ワイアード

テキサス州の連邦裁判所判事がある訴訟で、薬物中絶に使用される2種類の医薬品のうちの1つであるミフェプリストンの承認取り消しを米国食品医薬局(FDA)に指示するよう求められている。FDAに不利な判決が出れば、この組織の権威が低下し、「公衆衛生を守る上で最悪の事態を招く」可能性がある。(ワシントンポスト紙

米国環境保護庁(EPA)が、飲料水に入っている6種類の「永遠の化学物質」の濃度を制限する規制を提案している。パーフルオロアルキル化合物とポリフルオロアルキル化合物(両者をまとめてPFASと呼ぶ)は、1950年代から製品の製造に使用されてきた合成化学物質だ。分解速度が極めて遅く、世界中の環境と人や動物の血液中で発見されている。それらがどれほど有害なのかは、まだ分かっていない。(米国環境保護庁

あなたは自分の顎を壊してバットマンの顎のように作り直すために、何千ドルも払うだろうか? 新しい不穏な美容トレンドを象徴する手術だ。(GQ

人気の記事ランキング
  1. Why EV charging needs more than Tesla EVシフト、充電部門閉鎖で明らかになった「テスラ頼み」の危うさ
  2. AI models can outperform humans in tests to identify mental states AIが「心の理論」テストで人間超え、この結果は何を意味するか
  3. The way whales communicate is closer to human language than we realized クジラの言語構造、想像以上に人間の言語に近かった
  4. OpenAI and Google are launching supercharged AI assistants. Here’s how you can try them out. さよならAlexa、オープンAIとグーグルのAIアシスタントが超進化
ジェシカ・ヘンゼロー [Jessica Hamzelou]米国版 生物医学担当上級記者
生物医学と生物工学を担当する上級記者。MITテクノロジーレビュー入社以前は、ニューサイエンティスト(New Scientist)誌で健康・医療科学担当記者を務めた。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. Why EV charging needs more than Tesla EVシフト、充電部門閉鎖で明らかになった「テスラ頼み」の危うさ
  2. AI models can outperform humans in tests to identify mental states AIが「心の理論」テストで人間超え、この結果は何を意味するか
  3. The way whales communicate is closer to human language than we realized クジラの言語構造、想像以上に人間の言語に近かった
  4. OpenAI and Google are launching supercharged AI assistants. Here’s how you can try them out. さよならAlexa、オープンAIとグーグルのAIアシスタントが超進化
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る