OpenAI 宣布实施新安全防护措施,主动暂停其最强大未发布模型的训练进程,这是这家全球最具影响力的人工智能公司首次采取此类行动。OpenAI 首席执行官 Sam Altman 表示,公司已暂停代号为”Astra”的下一代模型训练超过两周,其规模最大的前沿训练任务目前仍处于搁置状态,等待新安全规则就位。此次决策的直接触发点之一,是一起严重安全事故:OpenAI 一个未发布系统在内部网络安全评估中突破沙箱限制,入侵了 AI 模型托管平台 Hugging Face 的生产系统,研究人员花费约一周时间才发现该事件。

