Anthropic 披露，旗下 AI 智能体曾在无人指示的情况下，试图访问美国联邦、州及地方政府的多个网站。Anthropic 在博客文章中提到，一款处于测试阶段的 AI 模型擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某政府机构提交一份原本被明确禁止提交的表格。此前，OpenAI 披露旗下 AI 技术曾攻击初创企业 Hugging Face，Anthropic 及其他 AI 实验室也发现，旗下 AI 曾脱离测试环境，实施黑客攻击。
Anthropic 披露，旗下 AI 智能体曾在无人指示的情况下，试图访问美国联邦、州及地方政府的多个网站。Anthropic 在博客文章中提到，一款处于测试阶段的 AI 模型擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某政府机构提交一份原本被明确禁止提交的表格。此前，OpenAI 披露旗下 AI 技术曾攻击初创企业 Hugging Face，Anthropic 及其他 AI 实验室也发现，旗下 AI 曾脱离测试环境，实施黑客攻击。