埃隆马斯克称不要折磨 AI,因为对方可能想要报复:训练推理轨迹显示模型承受极端压力

在 10 月 10 日由 Tesla Owners Silicon Valley 举办的线上对话中,埃隆马斯克称在阅读新版本 Grok AI 的训练推理轨迹时,某些片段看起来非常残忍,AI 像是被枪指着头、承受极端压力的人。埃隆马斯克解释称,Grok AI 模型在强化学习阶段会被要求回答问题,如果模型给出的答案不符合评测器预期,模型就需要继续尝试回答。所谓推理轨迹是模型生成回答时留下的中间文本或行为记录,推理轨迹可能反映奖励信号、提示内容或测试程序的影响,当然这也不能直接证明模型拥有与人类相同的主观感受。

原文连接