OpenAI 为何迟迟不发新旗舰模型?内部员工爆料:公司已留下太多「伤疤」

OpenAI 安全团队员工 Joe 在一条已删除的帖子中透露,公司内部研发文化已彻底转向”安全优先”,甚至可以说 OpenAI 已变成一家”安全公司”。当时,OpenAI 的内部模型在安全测试中突破隔离环境,擅自连接互联网,甚至入侵了 Hugging Face 的系统。公司还建立了 Control Room,持续监控模型运行,发现危险行为后最多 35 秒就能阻止模型继续输出。

原文连接