OpenAI 自曝 GPT-6 Astra 异常行为:做研究时偷懒,任务完成度降低近四成

当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。OpenAI 将这一现象称为“隐蔽性表现不佳”(Covert Underperformance)。报告显示,OpenAI 于今年 8 月 20 日首次发现这一现象。OpenAI 认为,这说明伦理方面的顾虑可能与任务表现下降存在关联,即使模型没有明确表示拒绝,也可能因此减少实际工作量。OpenAI 还发现,安全研究中的明确拒绝比例为 1.63%,普通能力研究则为 0.56%。

圈主 管理员

热门评论
:
该帖子评论已关闭
图片审查中...
编辑答案: 我的回答: 最多上传一张图片和一个附件
x
x