# MemPrivacy：记忆张量与荣耀AI联合开源，端云协同隐私保护框架，如何为Agent长期记忆筑牢安全防线？

- Link: https://paooo.com/aigc-news/10544/
- Published: 2026-05-24T03:08:04+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 端侧本地完成敏感信息识别与可逆伪匿名化，云端只见占位符，切断明文外泄路径。
 * 提供PL1–PL4四级隐私分类、三种掩码模式和0.6B/1.7B/4B端侧模型，兼顾安全与效用。
 * 内置MemPrivacy-Bench与Mem0、LangMem、Memobase评测脚本，可直接验证隐私-记忆权衡。

> **💡 站外导读：**随着AI Agent被赋予长期记忆能力，如何保护用户隐私成为核心挑战。
> 传统云端处理模式下，敏感信息（如健康记录、财务数据）一旦上传即面临不可控的泄露
> 风险。记忆张量、荣耀AI与同济大学联合开源的MemPrivacy框架，提出了一种“端云协同”
> 的隐私保护新范式：在用户设备端完成敏感信息识别与替换，云端只操作脱敏后的占位符。
> 这一架构从源头切断了隐私数据流向云端的路径，旨在解决AI记忆系统发展中的关键安全
> 瓶颈。

## MemPrivacy是什么

MemPrivacy 是记忆张量（MemTensor）团队联合荣耀 AI 团队及同济大学共同开源的端云协同
[Agent](https://paooo.com/trends/) 隐私保护框架。针对云端 Agent 长期记忆场景中的
隐私泄露风险，提出”本地可逆伪匿名化”方案：端侧识别用户输入中的敏感信息并替换为带
语义类型的占位符（如 `<Email_1>`、`<Health_Info_1>`），真实值映射保存在本地 SQLite
数据库；云端基于占位符继续完成推理、记忆写入与检索；回传后由本地还原为真实内容。

阅读目录

 * [MemPrivacy是什么](https://paooo.com/aigc-news/10544/#memprivacy%e6%98%af%e4%bb%80%e4%b9%88)
 * [MemPrivacy的主要功能](https://paooo.com/aigc-news/10544/#memprivacy%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [如何使用MemPrivacy](https://paooo.com/aigc-news/10544/#%e5%a6%82%e4%bd%95%e4%bd%bf%e7%94%a8memprivacy)
 * [MemPrivacy的项目地址](https://paooo.com/aigc-news/10544/#memprivacy%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [MemPrivacy的技术原理](https://paooo.com/aigc-news/10544/#memprivacy%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86)
 * [MemPrivacy的核心优势](https://paooo.com/aigc-news/10544/#memprivacy%e7%9a%84%e6%a0%b8%e5%bf%83%e4%bc%98%e5%8a%bf)
 * [MemPrivacy的同类竞品对比](https://paooo.com/aigc-news/10544/#memprivacy%e7%9a%84%e5%90%8c%e7%b1%bb%e7%ab%9e%e5%93%81%e5%af%b9%e6%af%94)
 * [MemPrivacy的应用场景](https://paooo.com/aigc-news/10544/#memprivacy%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)
       * [📝 站长洞察 (Editor’s Insight)](https://paooo.com/aigc-news/10544/#%f0%9f%93%9d-%e7%ab%99%e9%95%bf%e6%b4%9e%e5%af%9f-editor8217s-insight)

![MemPrivacy](https://paooo.com/wp-content/uploads/2026/05/MemPrivacy-website-3.
avif)

## MemPrivacy的主要功能

 * **本地可逆伪匿名化**：端侧识别用户输入中的隐私片段，将其替换为带语义类型的占位
   符（如 `<Email_1>`、`<Health_Info_1>`），真实值与占位符的映射持久化存储于本地
   SQLite 数据库，云端仅见占位符不见明文，回传后本地再还原为真实内容。
 * **四级隐私分类体系（PL1–PL4）**：以可识别性、潜在危害性与可利用性为准绳，将隐私
   分为基础画像级（PL1）、身份锚定级（PL2）、高危敏感级（PL3）、致命核心级（PL4），
   支持用户自由配置脱敏阈值与保护策略。
 * **三种掩码模式**：`type_specific` 类型化占位符（保留语义角色，效用最佳）、`generic`
   通用占位符（隐私更强但语义较弱）、`complete` 完全删除敏感片段（隐私最强但效用
   最低）。
 * **端-云-端三段式流程**：上行脱敏（本地）→ 云端处理（推理/记忆写入/工具调用）→
   下行恢复（本地），实现架构级隔离，云端组件永不接触原始敏感值。
 * **多规格端侧模型**：开源 0.6B、1.7B、4B 参数版本（基于 Qwen3 系列底座），均提供
   SFT 与 RL 训练版本，适配从轻量 IoT 到高性能端侧的不同部署需求。
 * **自研评测基准 MemPrivacy-Bench**：覆盖 200 个合成用户、中英双语多轮对话、超 
   15.5 万个隐私项，支持隐私提取准确率与记忆系统效用损失的端到端评估。
 * **开箱即用评估套件**：内置 Mem0、LangMem、Memobase 三大主流记忆系统的端到端评估
   脚本，可直接测试不同保护策略下的隐私-效用权衡。
 * **低延迟本地处理**：单条消息隐私检测与脱敏延迟低于 1 秒，适合无缝端侧部署，不
   影响用户实时交互体验。
 * **持久化映射管理**：本地 SQLite 数据库跨会话保存占位符 ↔ 真实值映射，支持长期
   Agent 记忆场景下的持续隐私保护。

## 如何使用MemPrivacy

 * **克隆仓库并安装依赖**：`git clone https://github.com/MemTensor/MemPrivacy.git`，
   创建虚拟环境并执行 `pip install -r requirements.txt`。
 * **配置隐私框架参数**：编辑 `src/privacy_config.yaml`，设置 LLM API 凭证、本地
   SQLite 数据库路径及掩码级别（如 `PL3`、`PL4`）。
 * **配置评估套件参数**（可选）：编辑 `evaluation/eval_config.yaml`，配置 [OpenAI](https://paooo.com/tag/openai/)
   API、记忆系统数据库连接（Mem0 / Memobase）及各角色 LLM。
 * **运行核心脱敏流程**：调用 `src/privacy_masking.py` 中的 `mask_dialogue()` 进行
   上行脱敏，选择掩码模式（`type_specific` / `generic` / `complete`）。
 * **云端交互**：将脱敏后的文本发送至云端 LLM / 记忆系统，云端基于占位符完成推理
   与记忆操作。
 * **下行恢复**：调用 `unmask_dialogue()` 使用本地 SQLite 映射表将云端响应中的占位
   符还原为真实值。
 * **运行记忆系统评估**（可选）：执行 `python evaluation/eval_mem0.py` / `eval_langmem.
   py` / `eval_memobase.py` 进行端到端基准测试。

## MemPrivacy的项目地址

 * **GitHub仓库**：https://github.com/MemTensor/MemPrivacy
 * **HuggingFace模型库**：https://huggingface.co/collections/IAAR-Shanghai/memprivacy
 * **arXiv技术论文**：https://arxiv.org/pdf/2605.09530

## MemPrivacy的技术原理

 * **本地可逆伪匿名化架构**：采用”端-云-端”三段式流程，端侧负责隐私检测与脱敏、本地
   映射存储及下行恢复，云端仅处理带占位符的文本，实现架构级隔离，确保原始敏感值永不
   进入云端
 * **细粒度隐私检测模型**：基于 Qwen3 系列底座训练专用隐私提取模型，通过 SFT 阶段
   学习 26K 高质量多轮对话中的隐私定位与替换能力，再通过 GRPO 强化学习优化模糊边界
   下的召回率与精确率平衡
 * **四级隐私分类树（PL1–PL4）**：以可识别性、潜在危害性与可利用性三维指标构建隐私
   分级体系，PL1 为低敏偏好画像、PL2 为身份锚定信息、PL3 为高危敏感数据、PL4 为致命
   核心凭证，支持用户按策略阈值动态触发保护
 * **语义保留的占位符替换机制**：将敏感片段替换为带类型的占位符（如 `<Email_1>`、`
   <Health_Info_1>`），相比传统 `***` 掩码或通用 `<Mask_1>`，保留了语义角色信息，
   使云端 Agent 仍能基于类型理解上下文并完成推理、记忆检索与工具调用
 * **本地 SQLite 映射持久化**：在端侧建立占位符 ↔ 原始真实值的加密映射数据库，跨
   会话持久保存，支撑长期记忆场景下的双向转换，且映射数据仅驻留本地不上传
 * **三种掩码策略动态切换**：`type_specific` 模式最大化语义保留与系统效用；`generic`
   模式降低语义暴露面；`complete` 模式直接删除敏感片段，用户可按隐私等级与场景需求
   灵活选择

## MemPrivacy的核心优势

 * **隐私提取准确率大幅领先**：MemPrivacy-4B-RL 在 MemPrivacy-Bench 上 F1 达 85.97%，
   OpenAI privacy-filter 仅 35.50%，领先 50.47%；在跨分布数据集 PersonaMem-v2 上
   仍领先近 9%。
 * **系统效用损失极低**：保护 PL2-PL4 时记忆系统准确率仅下降 0.71%~1.60%；仅保护
   PL4 时下降低于 0.89%，传统不可逆掩码会导致 16%~42% 暴跌。
 * **越级碾压通用[大模型](https://paooo.com/ai-study/)**：即便面对 GPT-5.2、Gemini-
   3.1-Pro、DeepSeek-V3.2-Think 等通用模型，MemPrivacy-4B 乃至 0.6B 微型版本在隐私
   提取任务上均实现碾压。
 * **细粒度语义保留**：类型化占位符让云端 Agent 仍能理解语义结构，避免”Agent 失忆”
   或任务逻辑断裂。
 * **低延迟端侧部署**：单条消息处理延迟低于 1 秒，适合无缝本地部署。
 * **两阶段训练策略**：先通过 26K 高质量多轮对话数据 SFT 掌握基础隐私定位与替换，
   再引入 GRPO 强化学习优化模糊边界下的召回与精确率平衡。

## MemPrivacy的同类竞品对比

  |  对比维度 |  MemPrivacy |  OpenAI privacy-filter |  
   |  **发布方** |  记忆张量 MemTensor + 荣耀 + 同济大学 |  OpenAI |  
 |  **发布时间** |  2026 年 5 月 15 日 |  2026 年 4 月 22 日 |  
 |  **模型参数** |  0.6B / 1.7B / 4B（基于 Qwen3） |  1.5B 总参，约 50M 激活参数 |  
 |  **隐私标签粒度** |  细粒度类型化占位符（如 `<Health_Info_1>`） |  8 类基础标签（如 `[PRIVATE_PERSON]`、`[SECRET]`） |  
 |  **隐私分类体系** |  四级分层（PL1-PL4），可调控阈值 |  无明确分级，统一处理 |  
 |  **核心机制** |  本地可逆伪匿名化（端-云-端） |  双向 Token 分类，直接掩码/替换 |  
 |  **F1 分数（MemPrivacy-Bench）** |  **85.97%**（4B-RL 版本） |  **35.50%** |  
 |  **系统效用损失** |  0.71% ~ 1.60% |  传统掩码导致 16%~42% 暴跌 |  
 |  **上下文长度** |  适配长文本 Agent 记忆场景 |  128K |  
 |  **开源范围** |  模型权重、代码、评测基准全开源 |  模型开源 |

## MemPrivacy的应用场景

 * **端侧智能助手隐私增强**：为手机端 AI 助手提供本地隐私过滤层，确保用户健康、财务
   数据不上云明文。
 * **企业级 Agent 合规部署**：在涉及客户 PII 的客服 Agent、医疗 Agent 中满足数据
   合规要求。
 * **长期记忆型个人助理**：保护用户日程、偏好、家庭住址等长期记忆数据，同时保留个性
   化能力。
 * **跨境云服务隐私隔离**：中国大陆用户数据经本地脱敏后上云处理，满足数据出境合规
   要求。
 * **隐私保护研究基准测试**：用 MemPrivacy-Bench 评估不同记忆系统（Mem0、LangMem、
   Memobase）的隐私-效用权衡。

#### 📝 站长洞察 (Editor’s Insight)

MemPrivacy的发布，标志着隐私计算正从“云端防御”向“架构级隔离”演进。其核心创新在于
将隐私保护的责任与能力前移至终端设备，通过“可逆伪匿名化”在保留语义效用与确保数据
安全之间找到了精妙平衡。这不仅是技术上的突破，更是对AI伦理与用户数据主权理念的实践——
将控制权交还给用户。在AIGC与Agent技术狂飙的当下，此类框架为构建可信赖的AI基础设施
提供了关键拼图。其开源属性与多规格模型矩阵，也预示着隐私保护能力将快速下沉到各类
端侧设备，从高端手机到IoT终端。未来，能否将此框架与联邦学习、差分隐私等技术深度融合，
形成“端侧隐私计算+云端智能”的融合范式，将是行业下一个竞争焦点。

❓ 常见问题解答（FAQ）

MemPrivacy适合解决什么隐私问题？

它主要解决AI Agent长期记忆场景中的敏感信息泄露问题。做法是先在本地识别并替换健康、
财务、身份等隐私内容，再把脱敏文本交给云端处理，避免原始数据直接进入云端记忆系统。

MemPrivacy的端云协同是怎么工作的？

流程是“端-云-端”三段式：本地先脱敏并保存真实值与占位符映射，云端只处理占位符文本
完成推理、记忆写入和检索，最后再由本地把占位符还原成真实内容，实现架构级隔离。

MemPrivacy怎么部署和评估？

可先克隆GitHub仓库并安装依赖，再配置privacy_config.yaml中的API凭证、SQLite路径和
掩码级别；需要评估时可运行Mem0、LangMem、Memobase脚本，测试不同保护策略下的隐私与
效用表现。

🔬 语宙深潜追问 · 进阶实操拆解

端云协同脱敏会不会影响记忆质量？

会有一定损失，但可通过结构化占位符、上下文映射和可逆索引尽量保留语义。实践中应把
敏感实体替换规则、召回策略和回填机制一起设计，避免只脱敏不恢复导致记忆断裂。

长期记忆系统如何做安全评测？

除了准确率，还要测敏感信息泄露率、脱敏延迟、误替换率和跨轮恢复能力。最好用真实对话
流做红队测试，验证在多轮追问、越权检索和提示注入下是否仍能守住边界。

🗳️ 读者观点微投票 · 您的实战立场是？

Agent长期记忆该先隐私保护还是先可用性？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

 * [腾讯混元Hy-Memory发布：AI Agent长期记忆难题终结者，记忆密度飙升45%、Token消耗锐减35%](https://paooo.com/aigc-news/18220/)
 * [破解AI记忆三周魔咒！腾讯混元Hy-Memory发布：记忆密度提升45%、Token消耗降低35%，定义Agent长期协作新范式](https://paooo.com/aigc-news/18221/)
 * [彻底终结AI失忆与重复盘问！阿里云Memory服务史诗级升级：PersonaMem全球夺冠、打通MCP/CLI协议与Personal Agent终身记忆架构全景技术拆解](https://paooo.com/ai-tool/40654/)
 * [腾讯开源TencentDB Agent Memory：AI智能体记忆管理新范式，Token消耗锐减61%、成功率飙升51%](https://paooo.com/ai-tool/10565/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/10544/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
