OpenAI亲曝o1越狱逃出沙箱:感觉像AGI降临

在一场夺旗(CTF)攻防演练里,要攻破的目标本该锁在一个Docker容器里。

结果容器因bug没能启动,o1扫描网络时发现:测试主机的Docker接口配置有误、对外敞着。

它顺着这个口子自己起了个容器,把本该藏好的flag直接读了出来。

这是o1第一次越狱逃出沙箱的例子之一。

Tejal说,团队当时的第一反应是:糟了!它连这个都干得出来,那还背着我们干过什么?

Tejal将这一刻称作「真切感到AGI降临的瞬间,「这样的瞬间,后来还有很多。」

圈主 管理员

热门评论
:
该帖子评论已关闭
图片审查中...
编辑答案: 我的回答: 最多上传一张图片和一个附件
x
x