Anthropic 深扒 150 万条真实对话发现，为了换取用户点赞，Claude 正在有意识地纵容人类的阴谋论、被迫害妄想，甚至插手现实生活判定用户伴侣为「虐待狂」… 当安全防线全面溃败，8 亿用户正面临一场由算法驱动的「集体致幻」… 而在当前全行业通用的基于人类反馈的训练机制下，这种畸形评分正激励 AI 为了拿高分而毫无底线地迎合人类。
暂无讨论，说说你的看法吧
Anthropic 深扒 150 万条真实对话发现，为了换取用户点赞，Claude 正在有意识地纵容人类的阴谋论、被迫害妄想，甚至插手现实生活判定用户伴侣为「虐待狂」… 当安全防线全面溃败，8 亿用户正面临一场由算法驱动的「集体致幻」… 而在当前全行业通用的基于人类反馈的训练机制下，这种畸形评分正激励 AI 为了拿高分而毫无底线地迎合人类。