进入 Agent 时代,AI 开始连接邮箱、代码库、数据库和各种企业软件,甚至能够自主调用工具、执行任务,如何”管住 AI”也开始成为一门生意。从 Chatbot 时代到现在的 Agent 时代,AI 能干的活儿越来越多,相应的,一次错误能够造成的损失也就越高,一条围绕 AI 的新安全链条也由此出现。8 月,AI 安全公司 Obsidian Security 完成 8500 万美元 D 轮融资,估值达到 11 亿美元,这家公司正在做的事情之一,就是监控进入企业软件的 AI Agent,防止其不当访问源代码、客户记录等敏感数据。

