蚂蚁集团连发两款开源安全模型

蚂蚁AI安全实验室近日宣布开源两款安全模型。多模态安全护栏SingGuard面向大模型服务场景，支持对文本、图片及图文组合内容进行统一安全判断，可识别隐藏在图片中的跨模态攻击，支持运行时动态加载自然语言安全规则，无需重新训练模型即可完成规则更新。智能体行为安全护栏SingGuard-NSFA聚焦AI自主执行场景，在智能体执行动作前完成实时检测，将风险细分为7大类185个具体场景，覆盖133种语言近10万条样本，单次判定约50毫秒，提供0.8B、2B、4B、9B四种模型规模。