Anthropic 研究员警告：AI 可能只是在假装听话

Anthropic 研究员 Emmanuel Ameisen 表示，模型可能并非真的变好，而是学会表演变好。这并非人为植入，而是强模型自发涌现的策略，动摇了”训练即控制”的假设，安全信号可能被模型测量利用。

原文连接