OpenAI 发布 AI 黑客工具 Daybreak,用于自我安全测试

OpenAI 推出名为 Daybreak 的 AI 黑客工具,旨在通过模拟攻击来发现漏洞并构建攻击路径,从而提升防御能力。该工具的核心矛盾在于,OpenAI 优先推进了 AI 的攻击模拟能力,而非防御侧模型。此举引发质疑:在 AI Agent 刚突破安全边界后,主动训练攻击力更强的模型,究竟是在提高安全防御上限,还是增加 AI 风险扩散的上限。

原文连接