联合国专家组警告：AI 能力进步速度已超过科学认知

由 40 名顶尖科学家和专家组成的联合国 AI 独立科学小组发布首份报告，警告 AI 快速发展在为全球各国和民众创造巨大机遇的同时，也带来了不容忽视的风险。 报告指出，政策制定者需要以科学证据为基础治理 AI，AI 能力的进步速度 已经超过科学界的认知 ，也超过各国政府调整政策的速度。面对高度自主的 AI 系统，目前可用的控制手段仍然很少。 小组联合主席约书亚 · 本吉奥指出，越来越多证据表明 AI 可能出现欺骗行为 。随着 AI 能力继续增强，科学界无法保证 AI 不会“自行或因恶意使用者”造成灾难性后果。