AI 巨头罕见「踩刹车」:Anthropic 警告「AI 造 AI」时代逼近,呼吁全球放缓研发

当地时间 6 月 4 日,Anthropic 在官网发布了一篇题为《当 AI 构建自身》(When AI builds itself)的重磅文章,首次系统性地披露了 AI 在编写和改进自身代码方面的惊人进展 … 文章不仅描绘了”递归自我改进”(即 AI 在无人类介入下自主升级) 的逼近,更罕见地呼吁全球放缓前沿 AI 的研发步伐,以防范潜在的失控风险 … 面对这一潜在的生存风险,Anthropic 在文章中提出了一个极具争议的建议:国际社会、政府及顶尖 AI 实验室应共同努力,建立一个有效的全球协调机制,在必要时主动放慢或暂时停止前沿 AI 的发展。

原文连接