永无止境的守护:NIST 数学证明揭示 AI 安全的「西西弗斯(Sisyphus)困境」

它没有披露某个惊天漏洞,也没有宣告某款产品的终结,而是用冷峻的数学语言,向整个 AI 安全行业宣告了一个令人不安却又无比清醒的真相 —— 任何固定的 AI 防护体系,从根本上就注定无法做到万无一失 … 就如同哥德尔证明任何形式系统都存在无法证明的真命题一样,Vassilev 证明了:任何固定的 AI 安全护栏,都存在无法拦截的对抗性提示 … 哥德尔用数学证明了完备性的不可能,Vassilev 用同样的逻辑照见了 AI 安全的本质困境。

原文连接