谷歌 DeepMind 安全研究员离职:AI 五年内造成巨大危害的概率「高得吓人」

他表示,自己认为未来五年内 AI 系统造成巨大危害的概率”高得吓人”。恩格尔斯在 X 平台发文称,尽管他很喜欢在 DeepMind 的工作,并且拒绝了 Anthropic 和 OpenAI 的邀约,但他还是在三周前离开了 DeepMind,因为他认为先进人工智能相关的风险已经变得太高了。在周六公开发表的文章《我们必须管控前沿研发节奏》中,他呼吁放缓 AI 研发速度,让安全体系有时间跟上技术进展,并提议由独立评估机构获得前沿 AI 系统的访问权限、头部 AI 企业与政府开展协同,最终建立更广泛的国际合作。

原文连接