科普帖

OpenAI 近日正式推出了一项极具破局意味的可选新安全设置——“封锁模式”（Lockdown Mode），目前已面向所有已登录用户、不同账户类型及工作区全面开放。

所谓提示注入攻击，一直是让大模型研发团队头疼的黑客手段。

攻击者往往会将恶意指令巧妙地隐匿在网页、第三方文档或其他外部数据中。

一旦 ChatGPT 在联网状态下读取了这些被“下毒”的内容，就可能被诱导忽略原有的核心安全规则，执行越权操作，甚至在用户毫无察觉的情况下，将输入的商业机密或个人隐私等敏感信息秘密发送至外部恶意服务器。