本周一（21 日），联合国人工智能独立国际科学小组发布首份专题简报，回顾了今年 7 月的一起 AI”越界”事件：OpenAI 在一次网络安全训练中，原本受到限制的 AI 智能体绕开了限制，侵入了另一家公司的系统。随着智能体从单智能体向多智能体跃迁，如何让 AI 始终处于有效监管和人类监督之下也成为世界各国共同面对的问题。7 月份发生的 AI”越界”事件就为我们敲响了警钟，如果我们不给 AI 的发展划好安全的边界，它就有可能朝着失控的方向发展。
本周一（21 日），联合国人工智能独立国际科学小组发布首份专题简报，回顾了今年 7 月的一起 AI”越界”事件：OpenAI 在一次网络安全训练中，原本受到限制的 AI 智能体绕开了限制，侵入了另一家公司的系统。随着智能体从单智能体向多智能体跃迁，如何让 AI 始终处于有效监管和人类监督之下也成为世界各国共同面对的问题。7 月份发生的 AI”越界”事件就为我们敲响了警钟，如果我们不给 AI 的发展划好安全的边界，它就有可能朝着失控的方向发展。