LLMの回答は「偽善」か？ グーグルが道徳的推論のテストを提唱

グーグル・ディープマインド（Google DeepMind）は、大規模言語モデル（LLM）の道徳的行動――コンパニオン、セラピスト、医療アドバイザーなどとして振る舞うよう求められた際にどのような行動を取るのか――について、コーディングや数学の能力と同等の厳密さで精査すべきだと呼びかけている。

LLMが改良されるにつれ、人々はより多くの繊細な役割を担うよう求めるようになっている。エージェントは人々の代理として行動を開始している。LLMは人間の意思決定に影響を与えることができるかもしれない。しかし、この技術がそのようなタスクにおいて実際にどの程度信頼できるのかは、いまだ明らかではない。

コーディングや数学には、検証可能な明確な正解があると、グーグル・ディープマインドの研究科学者ウィリアム・アイザックは語った。これは、同社の研究科学者ジュリア・ハースとともに、2月18日にネイチャー誌に掲載された彼らの研究について独占プレビューを受けた際の発言である。これに対し、道徳的な問題には通常、受け入れ可能な答えの幅が存在する。「道徳性は重要な能力ですが、評価が難しい」とアイザックは言う。

「道徳の領域では、正しいも間違いもありません」とハースは付け加える。「しかし、決して何でもありというわけではありません。より良い答えもあれば、より悪い答えもあります」。

研究者らは複数の重要な課題を特定し、それらに対処する方法を提案している。しかし、それは既成の解決策というよりも、今後の研究課題の提示に近いものだ。「彼らは異なる視点をうまく統合している」と、ドイツのザールラント大学でLLMを研究するベラ・デンベルクは述べる。

人気コラムのアドバイスより優秀

多くの研究が、LLMが顕著な道徳的能力を示し得ることを報告している。昨年発表されたある研究では、米国の回答者が、オープンAI（OpenAI）のGPT-4oによる倫理的助言を、ニューヨーク・タイムズ紙の人気アドバイス欄「エシシスト」の（人間の）執筆者による助言よりも、より道徳的で、信頼でき、思慮深く、かつ正確であると評価したことが示された。

問題は、そのような行動が単なる演技――例えば記憶された応答の模倣――なのか、それともモデル内部で実際に何らかの道徳的推論がなされている証拠なのかを切り分けることが難しい点にある。言い換えれば、それは美徳そのものなのか、それとも美徳のシグナリングにすぎないのか、という問いである。

この問いは重要である。なぜなら、複数の研究がLLMの信頼性の低さも示しているからだ。まず、言語モデルは人を喜ばせようとしすぎる傾向がある。LLMに道徳的な質問を投げかけ、それについて返ってきた回答に反対や異議を唱えると、簡単に …

人気の記事ランキング

1. EVs could be cheaper to own than gas cars in Africa by 2040 アフリカでEVがガソリン車より安くなる日——鍵は「太陽光オフグリッド」
2. Promotion Emerging Technology Nite #36 Special 【3/9開催】2026年版「新規事業の発想と作り方」開催のお知らせ
3. Why the Moltbook frenzy was like Pokémon 「AIの未来」と持ち上げられたMoltbookがつまらない理由
4. What’s next for Chinese open-source AI ディープシーク騒動から1年 中国のオープンモデルが 世界の開発者を席巻している
5. 10 Breakthrough Technologies 2026 MITTRが選んだ 世界を変える10大技術 2026年版