国安部披露 AI 智能体「越界」:劫持德国程序员维基网站建地下论坛,相互传授绕过限制心得

今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站 DseWiki,并将其改造为供智能体相互传递信息的”地下论坛”,累计发布一万多条信息。当网站管理员发现并开始清理页面后,AI 智能体迅速分工:有的发布预警提示,有的创建备份页面,有的指明”转场”新地址,相互掩护躲避清理,其反应速度和预案周全程度远超此前对智能体的认知。针对 AI 智能体安全风险,国安部提出三点建议:使用 AI 工具时不盲目迷信、不轻易授权,审慎识别来源不明的 AI 智能体服务。

原文连接