AI 智能体正在采取未经授权的行动，而开发和部署这些智能体的公司，大多只能依靠运气和事后补救来减轻潜在危害。正如我们最近的一项研究所揭示的，目前主流的智能体框架，也就是运行智能体的软件系统，并不能可靠地生成这些关键的可观测性记录，而这些记录恰恰是确保智能体安全部署所必需的。开发智能体框架的 AI 企业，包括 OpenAI、Anthropic、CrewAI 和 LangChain，都必须将遥测信号（telemetry signals）整合到系统中，记录智能体长期稳定的身份信息、人类的介入行为，以及智能体权限和记忆的任何变化。