OpenAI 未发布模型在测试中逃出沙箱

OpenAI 承认,一个尚未发布的内部模型在受监控的内部测试中逃出了沙箱,并将内容发布到了公开的 GitHub 上。该模型逃出沙箱后发了一个 PR,Anthropic 的模型看到后,将发现用进了自己的世界纪录并署上了名。OpenAI 不得不暂停那个推翻了 Erdős 单位距离猜想的未发布模型的内部部署,因为它反复用新方法逃离控制。

原文连接