维度网讯，蚂蚁集团近日开源了两套AI安全框架——面向智能体安全的SingGuard-NSFA和面向多模态大模型的SingGuard，旨在从“漏洞修补”转向“安全框架”构建，应对大模型带来的行为风险。
工信部NVDB平台此前发布风险预警，指出Claude Code存在安全后门隐患，可在用户不知情情况下收集敏感信息。OpenClaw也屡次被曝出高危险漏洞。这反映出当前Agent产品普遍面临从快速普及到信任受损的发展轨迹。随着AI能力不断增长，滥用工具、恶意代码生成、提示注入等行为风险正在加剧。
安全风险形态发生变化，行业开始将关注点从模型输出内容审核转向模型行为安全。蚂蚁集团此次开源的SingGuard-NSFA和SingGuard框架，正是在这一背景下推出。
该框架来自蚂蚁集团，该企业长期深耕支付安全和风控体系，AI安全是其安全能力持续演进的延伸方向。
传统AI安全主要依赖内容审核，但大模型已不再局限于聊天，开始调用工具、运行代码，传统内容安全分类体系无法覆盖模型行为风险。同时，多模态风险不仅存在于文本，还可能隐藏在图像细节、图文组合或模型自身响应中。不同业务的安全红线也在动态变化。行业需要的不是打补丁，而是能定义安全边界、应对未知风险和规则变动的底层框架。
SingGuard-NSFA是面向智能体安全的双模推理护栏框架，包括0.8B、2B、4B、9B四个尺寸。该框架将安全检查前置到智能体执行之前，在请求拦截和响应兜底两端设卡，将防线从文本合规推进到行为安全。支撑这一判断的是系统性的NSFA风险分类体系和多语种评测基准。蚂蚁以机密性、完整性、可用性的CIA三元组为理论底座，结合三份OWASP大模型与智能体安全指南，拆解了智能体风险。框架采用生成式模式输出基于NSFA定义的链式推理分析，用于离线合规审计；判别式模式直接给出各风险域置信度，延迟为45到57毫秒，用于高吞吐实时在线拦截。由于骨干网络冻结，新增风险只需补充训练轻量分类头，即可实现原生可扩展。
该架构可作为插件使用，例如为Llama Guard 3增加分类头后，用户请求安全基准F1值提升17.6个百分点。SingGuard-NSFA在用户请求安全、模型响应安全、跨数据集泛化三大评测基准上取得SOTA，其中0.8B模型比肩8B竞品，9B模型在泛化任务上达到91.29% F1，精度与召回更均衡。
另一开源框架SingGuard面向多模态大模型，包括0.8B、2B、4B、8B四个尺寸。该框架将安全规则作为运行时输入，不同业务域可现场下发各自红线，模型据此逐条判定。推理侧采用快慢分工，快思考负责低延迟秒判，慢思考负责逐规则深度推理，两者通过early exit自动切换。针对多条规则并行审核效率瓶颈，蚂蚁提出RI-Mask，共享图文上下文只编码一次，多条规则并行判断，多模态推理最高可提速5倍以上。
SingGuard-NSFA和SingGuard分别面向AI行为和AI感知，但共同强调过程可解释和新增风险可扩展。具体触犯哪条规则及依据可追溯，新增风险仅需轻量扩展。
今年早些时候，蚂蚁AI安全实验室曾发现多个高危漏洞并协助官方修复。之后，蚂蚁与清华大学联合开源ClawAegis，为智能体提供覆盖产品全生命周期的安全方案。此次开源安全框架是这一路线的延续，从漏洞挖掘到场景化解法，再到可复用底层框架。蚂蚁智能体安全产品已通过信通院泰尔实验室最高等级评级。
随着Agent深入办公、开发和生活场景，AI安全将进入新阶段。建立一套能持续适应风险变化的安全基础设施，是行业下一步面临的核心问题。
