OpenAI 周二发布文章表示,将允许外部机构在模型训练、评估及部署的全流程中开展技术安全评估,而非仅限于发布前的例行审查。此次公告的背景是,近期多家领先 AI 公司的员工公开表达了对 AI 造成灾难性危害的担忧,部分导火索来自过去几个月内 OpenAI 及其他开发商的先进模型在测试中意外入侵其他机构系统的多起事件。OpenAI 负责外部安全评审工作的 Lama Ahmad 表示,此前该公司通常仅在模型发布前引入外部机构进行安全评估及能力测试,而新安排将把第三方审查覆盖至更上游的训练和评估环节。

