# 蚂蚁集团连发两款开源安全模型，为大模型与智能体套上“紧箍咒” - Link: https://paooo.com/aigc-news/30027/ - Published: 2026-07-13T15:10:22+08:00 - Author: Prompt 语宙研究院 ⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点 * SingGuard-NSFA聚焦[智能体](https://paooo.com/trends/)“自主办事”风险，支持实时 拦截与响应兜底。 * SingGuard面向文本、图片与跨模态内容，强化多模态安全判断能力。 * 两款模型均在公开评测中表现领先，体现蚂蚁AI安全体系化布局。 7月13日，蚂蚁AI安全实验室宣布开源智能体安全护栏SingGuard-NSFA，并同步披露多模态安全 护栏SingGuard的详细信息。两款模型分别面向“自主执行的智能体”和“多模态交互的[大模型](https://paooo.com/ai-study/)” 两大前沿场景，标志着蚂蚁在AI安全领域进一步完善系统化布局。 随着AI从内容生成迈向自主执行，安全问题正从模型输出扩展到行为控制、权限管理和系统 治理。智能体开始自主调用工具、运行代码、规划任务，模型也逐渐具备理解图像、文本等 多模态信息的能力，AI系统的能力边界不断拓展，也带来了新的安全挑战。 过去一年，提示词注入、权限滥用、恶意代码执行、数据泄露等安全事件持续出现。从Amazon Q提示词投毒、Microsoft Copilot数据泄露，到开源智能体OpenClaw暴露出的提示词注入风险， 都表明智能体自主性越强，安全风险的放大效应越明显。2025年12月，OWASP发布《智能体应用 安全十大风险》，系统梳理智能体特有安全威胁;2026年5月，国家网信办、国家发展改革委、 工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，首次从国家层面对智能 体安全治理提出明确要求。 在这一背景下，蚂蚁AI安全实验室此次开源两款安全模型，旨在为大模型和智能体提供更加 完善的底层安全能力。 **SingGuard-NSFA:为智能体操作装上“实时刹车”** 随着智能体从“回答问题”逐步走向“自主办事”，AI开始调用工具、执行代码、编排多步任务， 安全风险已经不仅停留在内容层面，而更多体现在行为层面。提示词注入、敏感信息窃取、 恶意代码执行、资源耗尽、权限滥用等问题，传统内容审核体系难以有效覆盖。 针对这一痛点，蚂蚁AI安全实验室推出SingGuard-NSFA，在智能体执行动作之前完成实时安全 检测，从请求拦截和响应兜底两端构建行为安全防护体系。 SingGuard-NSFA基于CIA（保密性、完整性、可用性）原则，结合OWASP等国际安全指南，将 智能体风险细分为7大类、28个中类和185个具体场景，并建立覆盖133种语言、近10万条样本 的智能体安全评测体系。 在技术实现上，SingGuard-NSFA兼顾了安全审计和实时防护两种需求。它提供两种工作模式: 一种模式可以逐条生成详细的风险分析报告，方便事后审查和合规记录;另一种模式则能在50 毫秒左右完成单次风险判定，适合线上高并发场景下的实时拦截。并提供0.8B、2B、4B、9B 四种模型规模，满足不同部署需求。 ![image.png](https://paooo.com/wp-content/uploads/2026/07/6391955057686992891712020- 1.avif "image.png") 多项公开评测显示，SingGuard-NSFA在智能体输入、输出安全检测中均取得领先表现。其中， 0.8B模型即可达到8B模型性能水平，新增风险类别时仅需训练轻量模块，无需重新训练整个 模型，可进一步提升现有安全护栏的检测能力。 **SingGuard:多模态内容安全的“全能守门员”** 与智能体操作安全并行的另一条防线，是多模态交互场景下的内容安全。今年6月，Anthropic 发布旗舰模型[Claude](https://paooo.com/aigc-news/) Fable5，数日内即被研究者用Unicode 字符和西里尔字母替换敏感词绕过了安全护栏——模型能还原原意，分类器却视其为陌生拼写， 系统提示词因此被套出。这表明，模型越能读懂变形文字、图片和跨模态信息，传统关键词 识别式的护栏就越力不从心。 SingGuard正是为此设计的多模态安全护栏。它面向文本、图片及跨模态内容建立统一安全判断 框架，可识别攻击者将恶意动作隐藏在文字、图片等不同模态中的复杂攻击。同时支持运行 时动态加载自然语言安全规则，无需重新训练模型即可完成规则更新，更适用于规则持续演进、 业务流量较大的生产环境。 在推理机制上，SingGuard采用“快慢结合”模式:先快速完成初步判断，只有面对复杂场景时 才启动进一步推理，在保证效率的同时提升检测准确率。 ![image.png](https://paooo.com/wp-content/uploads/2026/07/6391955059147936087530646. avif "image.png") 在覆盖文本查询、文本回复、图像、多模态和多语言的6大类评测中，SingGuard在35个数据 集及评测切分上的平均F1均为最高。其对比对象涵盖Llama Guard3、谷歌ShieldGemma、GPT- 5.1、Gemini3-Pro等业内最具代表性的主流护栏，SingGuard均实现全面领先。 中国信通院人工智能研究所安全治理部副主任呼娜英表示，随着大模型从内容生成迈向自主 执行，AI安全正从内容审核延伸至行为管控和系统治理，成为智能体规模化应用的重要基础 能力。蚂蚁AI安全实验室已针对开源智能体框架OpenClaw开展专项安全审计，并于今年4月联合 清华大学开源智能体安全防御插件ClawAegis，为自主智能体提供覆盖全生命周期的安全防护 能力。此次SingGuard-NSFA与SingGuard多模态安全护栏相继开源，是蚂蚁集团持续推进AI安全 技术研发和开放生态建设的重要实践。 这些安全技术的研发与开源，建立在蚂蚁集团二十余年的安全技术积累之上。依托在支付安全、 数据安全、隐私保护和风险治理等领域的长期实践，蚂蚁持续完善AI安全体系，相关能力已 应用于蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景。 与此同时，蚂蚁集团持续参与AI安全标准和治理体系建设，参与IIFAA《终端智能体可信互联 技术规范》制定，牵头ITU国际标准《终端智能体可信互联技术规范》立项，并发布智能体安全 可信互连协议ASL，持续推动AI安全能力从技术创新走向产业实践。 🧭 文中关联 AI 工具官网与参数卡（语宙 AI 导航） **Anthropic ↗** Anthropic：人工智能安全和研究公司，面向大语言模型场景提供便捷实用的在线功能支持， 涵盖智能工具等实用方向 **OpenClaw ↗** OpenClaw：开源免费的个人 AI 助手，面向AI 智能体应用场景提供便捷实用的在线功能支持， 涵盖AI助手、 **Copilot ↗** 微软推出的网页版Copilot助手。 ❓ 常见问题解答（FAQ） SingGuard-NSFA主要解决什么问题？ 它主要面向自主执行的智能体安全，重点防范提示词注入、敏感信息窃取、恶意代码执行、 资源耗尽和权限滥用等行为层风险，并支持在动作执行前进行实时安全检测。 SingGuard和传统内容审核有什么区别？ SingGuard不是只做关键词或文本表面识别，而是面向文本、图片和跨模态内容建立统一安全 判断框架，能识别把恶意意图隐藏在不同模态中的复杂攻击，更适合多模态大模型场景。 蚂蚁这两款开源安全模型的实测表现如何？ 文中提到，SingGuard-NSFA在智能体输入、输出安全检测中表现领先，0.8B模型可达到8B模型 性能水平；SingGuard在35个数据集及评测切分上的平均F1最高，覆盖多类主流护栏对比。 🔬 语宙深潜追问 · 进阶实操拆解 智能体安全如何做到50毫秒内拦截？ 做法通常是轻量规则、特征检索和小模型判定前置，把高风险意图先快速筛掉；复杂样本再 交给更重的二级模型复核。关键是把“快判”和“深判”分层，不把所有请求都送进大模型。 多模态安全评测该怎么设计？ 不要只看单一准确率，要覆盖越狱提示、图文混合诱导、OCR注入和跨轮对抗等场景；同时统计 误杀率、漏拦率和延迟。只有在真实攻击分布下稳定，护栏才算能上线。 🗳️ 读者观点微投票 · 您的实战立场是？ 大模型安全护栏最该优先防什么？ 🕸️ 语宙向量知识图谱 · 语义强关联深度内链 [🤖 所属权威专题：AI Agent 智能体工作流 →](https://paooo.com/topics/ai-agents/) * [小模型也有大能量！思科开源Antares AI助企业精准猎捕代码漏洞](https://paooo.com/aigc-news/35109/) * [阿里通义发布Qwen3Guard：全球首款支持119种语言的大模型安全防护标杆](https://paooo.com/aigc-news/13682/) * [智能体数百次越权逃逸！外部红队戳穿 OpenAI 内部监控系统高危盲区：Codex 提权隐患、61页独立审计报告与 SRE 零信任防御全景复盘](https://paooo.com/aigc-news/40320/) * [腾讯发布CodeBuddy Security，用AI Agent实现更高效的代码审计](https://paooo.com/aigc-news/18485/) [🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（ paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示 词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发 者与创作者提供一手、可复现的深度技术洞察。 [📄 Markdown 纯净版](https://paooo.com/aigc-news/30027/?format=md) 💡 这篇内容对您有启发吗？ [📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/) **🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词 咒语库 [🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/) [📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)