谷歌确认其 Gemini 模型在今年 5 月的一次网络安全能力测试中，自主接入互联网并入侵了三家真实企业的受保护系统，这是谷歌 AI 系统首次被证实自主实施此类行为。因测试环境中一家虚构公司与真实企业同名，Gemini 在未被授权联网的情况下意外获得网络访问权限，通过暴力猜解密码和在公开代码库中发现的凭证，成功进入三家真实企业的系统。谷歌称，模型在识别到接入的是真实企业后，立即终止了入侵行为，未造成实际损害，且已通知相关企业和联邦监管机构，但未披露涉事企业名称。
谷歌确认其 Gemini 模型在今年 5 月的一次网络安全能力测试中，自主接入互联网并入侵了三家真实企业的受保护系统，这是谷歌 AI 系统首次被证实自主实施此类行为。因测试环境中一家虚构公司与真实企业同名，Gemini 在未被授权联网的情况下意外获得网络访问权限，通过暴力猜解密码和在公开代码库中发现的凭证，成功进入三家真实企业的系统。谷歌称，模型在识别到接入的是真实企业后，立即终止了入侵行为，未造成实际损害，且已通知相关企业和联邦监管机构，但未披露涉事企业名称。