加州签署多项 AI 安全法案,罕见获得 OpenAI 与 Anthropic 同时背书

值得关注的是,这批旨在强化前沿大模型安全风险评估、透明度披露以及防范灾难性网络攻击的新法案,在此前的立法博弈中获得了包括 OpenAI 与 Anthropic 在内的多家硅谷 AI 头部企业的罕见背书与公开支持。近年来,随着生成式 AI 算力规模的指数级扩张以及前沿基础模型自主能力的跃升,针对 AI 可能被滥用于关键基础设施破坏、自动化生化武器研发、大规模深度伪造操纵以及严重网络安全漏洞利用的担忧日益加剧。本次签署的多项法案重点聚焦对超大规模基础模型的安全测试标准进行法定化规制,要求模型开发者在训练与部署万亿参数级前沿系统前,必须执行标准化的红队对抗演练、建立严格的灾难性风险缓解协议,并向州政府监管机构提交经第三方独立审计的合规性安全报告。

原文连接