-
「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥
大規模言語モデル(LLM)は、ユーザー・システム・思考の連鎖といった「発信元」をタグではなく文章のスタイルで識別しているにすぎない。この仕組みを悪用すれば、偽の思考の連鎖を書き込むだけでコカイン製造法や航空機ハッキング手法まで引き出せることが、ICML提出論文で示された。研究チームは、これが訓練でも解消できない根本的な欠陥だと主張する。
by Will Douglas Heaven -
難病患者に未承認薬を、米モンタナ州「試す権利」は救いか賭けか
米モンタナ州は「試す権利」法を拡大し、末期でない患者にも未承認薬へのアクセス申請の道を開いた。クレアチン輸送体欠損症の息子を持つデボールトも、この制度に望みをかける一人だ。だが薬はまだ48人の健康な成人でしか試験されておらず、専門家は安全性も有効性も未証明だと警鐘を鳴らす。
by Jessica Hamzelou
- トップ・ストーリー
-
本日の重要ニュースをご案内。
08.03