守护者应用旨在防止 AI 智能体失控

例如，企业可设定守护者 AI，确保用于生成内部财务报告的 AI 智能体在引用股价时，必须查询彭博数据 … 另有消息人士称，赛富时今年也在考虑开发守护者 AI，监控其用于更新企业客户关系管理系统数据等自动化任务的 AI 智能体 … 这家以色列初创公司成立于去年，联合创始人阿米特・塞格夫表示，公司向客户收取许可费，并按守护者智能体每监控 10 万次 AI 智能体交互额外计费。