字节跳动Seed单设安全与对齐部门,严林负责向吴永辉汇报

字节跳动Seed近日通过内部邮件宣布成立Seed Model-Alignment&Preparedness部门,由严林负责,汇报给Seed负责人吴永辉;原Responsible AI团队及部分Chat团队成员将转入新部门。新部门聚焦模型安全与对齐,核心是使模型行为符合人类意图与安全约束,重点提升Agent Model安全能力,防范CBRN等前沿风险。工作覆盖模型规范、安全评估、对齐训练、防护系统与风险监控,并对接外部研究与第三方评测。Seed称安全与对齐已成模型规模化应用的核心能力。

圈主 管理员

热门评论
:
该帖子评论已关闭
图片审查中...
编辑答案: 我的回答: 最多上传一张图片和一个附件
x
x