AI 自进化过快,Anthropic 呼吁全球中止研发

但在 Anthropic,我们正在将越来越多的 AI 开发工作委托给 AI 系统本身,这正在加快我们的工作速度 … 利用公开的基准数据和 Anthropic 公司内部此前未公开的数据,Anthropic 研究所表明,AI 正在加速 AI 系统的开发 … Anthropic 称未来几个月将组织一系列对话,邀请政策制定者、研究人员、民间社会组织和其他 AI 公司参与,共同探讨本文提出的一些问题,特别是关于完全递归式自我改进以及如何创造更佳的协调和协商机制。

原文连接