OpenAI 前安全部门员工:AI 模型迭代部署太激进,公司的文化已经崩坏

一名近期辞职的前 OpenAI 安全部门员工批评了该公司对待人工智能安全的做法,他认为一味追求快速开发的高压企业文化会提高系统发生故障的风险。戴维・鲁宾森(David Robinson)于当地时间周六在《大西洋》杂志发表题为《我辞去 OpenAI 的工作,只因这家公司的文化已经崩坏》的文章,表示包括 OpenAI 在内的各家人工智能企业做得”远远不够谨慎”,在研发能力更强的系统之前,应当更加重视安全方面的专业人才与相关研究。鲁宾森称,OpenAI 十分依赖其所谓的”迭代部署”模式:先对外发布系统,等到问题暴露之后再去加固安全防护。

原文连接