Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: SaRA – 上海交大联合腾讯推出的预训练扩散模型微调方法
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
SaRA – 上海交大联合腾讯推出的预训练扩散模型微调方法
Prompt 语宙 > AIGC 资讯 > SaRA – 上海交大联合腾讯推出的预训练扩散模型微调方法
AIGC 资讯

SaRA – 上海交大联合腾讯推出的预训练扩散模型微调方法

Prompt 语宙研究院
最近更新: 2026年7月18日 下午6:48
AI绘画提示词 stable diffusion 大模型微调 开源大模型
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 重新激活预训练中“看似无效”的参数,让扩散模型更高效适配新任务。
  • 核范数低秩稀疏训练+渐进式参数调整,兼顾防过拟合与性能提升。
  • 适用于图像风格迁移、Dreambooth定制、视频生成等微调场景,且易集成。

SaRA是什么

SaRA是一种新型的预训练扩散模型微调方法,由上海交通大学和腾讯优图实验室共同推出。基于重新激活预训练过程中看似无效的参数,让模型能适应新任务。SaRA基于核范数低秩稀疏训练方案避免过拟合,引入渐进式参数调整策略,优化模型性能。SaRA能提高模型的适应性和泛化能力,显著降低计算成本,只要修改一行代码即可实现,具有很高的实用价值。

阅读目录
  • SaRA是什么
  • SaRA的主要功能
  • SaRA的技术原理
  • SaRA的项目地址
  • SaRA的应用场景

SaRA

SaRA的主要功能

  • 参数重新利用:激活在预训练中未被充分利用的参数,赋予模型新的能力。
  • 防止过拟合:基于核范数低秩稀疏训练方案,减少模型在微调过程中的过拟合现象。
  • 渐进式参数调整:在整个微调过程中不断评估和选择参数,确保所有潜在有效的参数都得到充分利用。
  • 非结构化反向传播:降低微调过程中的内存成本,提高参数场的选择性。
  • 提升模型性能:在保持预训练模型原有知识的同时,优化模型在主任务上的表现。

SaRA的技术原理

  • 参数重要性分析:分析预训练模型中的参数,识别出生成过程中影响不大的参数。
  • 低秩稀疏训练:对参数施加低秩约束,基于优化一个稀疏权重矩阵学习特定任务的知识,提高微调效率减少过拟合。
  • 渐进式参数调整策略:设计一种策略,在整个微调过程中动态调整参数,确保所有潜在有效的参数得到充分利用。
  • 非结构化反向传播:基于一种特殊的反向传播策略,减少微调过程中的内存消耗,增强模型对特定任务的适应性。
  • 模型兼容性:SaRA方法与现有的预训练模型兼容,仅需少量代码修改可实现微调,易于集成到现有的系统中。

SaRA的项目地址

  • 项目官网:sjtuplayer.github.io/projects/SaRA
  • GitHub仓库:https://github.com/sjtuplayer/SaRA
  • arXiv技术论文:https://export.arxiv.org/pdf/2409.06633

SaRA的应用场景

  • 图像风格迁移:用SaRA调整模型参数,将普通图像转换为具有特定艺术风格的图像,如油画或素描风格,保持内容和结构不变。
  • 图像定制化:在Dreambooth等应用中,SaRA用在微调UNet网络,实现对特定对象或风格的图像定制化,如生成具有特定特征的图像。
  • 视频生成:SaRA用在微调视频生成模型(如AnimateDiff),在不同摄像机运动(如缩放、平移)的数据集上进行微调,生成具有特定动态效果的视频。
  • 下游数据集微调:SaRA用在在各种下游数据集上进行微调,适应不同的领域特定任务,如在不同风格数据集上进行微调,生成与文本提示一致的图像。
  • 图像生成任务:SaRA用在提高预训练模型在图像生成任务中的性能,通过优化最初无效的参数,提升模型在主任务上的表现。
❓ 常见问题解答(FAQ)
SaRA是什么微调方法?

SaRA是上海交通大学与腾讯优图实验室提出的预训练扩散模型微调方法,核心是重新利用预训练阶段未充分发挥作用的参数,并结合低秩稀疏训练与渐进式参数调整,提升模型适应性与泛化能力。

SaRA相比普通微调有什么优势?

SaRA强调参数重新激活与选择性利用,可在保持预训练知识的同时减少过拟合,并降低计算和内存成本。文章还提到它只需少量代码修改即可接入现有模型,实用性较强。

SaRA适合用在哪些生成任务?

SaRA适合图像风格迁移、Dreambooth类图像定制、视频生成模型微调,以及各类下游数据集适配任务,尤其适用于需要在保留原模型能力基础上快速提升特定任务表现的场景。

🔬 语宙深潜追问 · 进阶实操拆解
SaRA适合哪些微调场景?

适合算力紧、数据少、又想保留底模能力的场景,比如风格迁移、特定域生成和小样本适配。若任务变化很大,仍要结合更强的结构改动,否则收益会被任务复杂度吃掉。

如何判断低秩稀疏训练是否有效?

看训练曲线之外,更要看生成质量、泛化和参数增量。建议做同预算对比:固定步数、固定显存、固定数据量,比较 FID、CLIP 相似度或人工偏好,才能判断是否真省而不降质。

🗳️ 读者观点微投票 · 您的实战立场是?
扩散模型微调,真有必要重新激活参数吗?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
🧬 所属权威专题:RAG 知识库与模型微调 →
  • RSIDiff – 基于合成数据提升图像生成质量的递归自训练框架
  • Hyper-SD – 字节跳动推出的高效的图像合成框架
  • 阿里通义重磅开源AgentScope Tuner:一站式自动优化引擎,让AI智能体越用越聪明
  • SimpleAR – 复旦大学联合字节 Seed 团队推出的图像生成模型
🏛️ Prompt 语宙研究院 · Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
CoGenAV – 通义联合深圳技术大学推出的多模态语音表征模型
砸下 190 亿美金!AI巨头 Anthropic 豪租数据中心 20 年
介绍 Meta Llama 3:迄今为止最强大的开源大语言模型 [译]
Gemini 2.5 Flash Image:谷歌发布高性价比图像生成模型,角色一致性与自然语言编辑成核心亮点
MindDR 1.5:30B小模型如何以低训练成本超越巨头?深度研究智能体架构全解析
TAGGED:AI绘画提示词stable diffusion大模型微调开源大模型
分享
Email 复制链接 打印
Share
Prompt 语宙研究院 头像
ByPrompt 语宙研究院
Follow:
Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
上一篇 Quanta Quest – 开源的AI个人数据库产品,多平台数据整合 Quanta Quest – 开源的AI个人数据库产品,多平台数据整合
下一篇 Fluid – 谷歌联合MIT推出文本到图像的自回归生成模型 Fluid – 谷歌联合MIT推出文本到图像的自回归生成模型
Ad image
Ad image

最近更新

花旗银行、摩根大通与美国银行等多家大型商业银行收紧服务条款,明确用户授权第三方 AI 智能体受损需自行担责
哪怕被黑客盗刷也不赔!花旗、摩根大通与美银等五大银行集体改写条款:使用第三方AI智能体风险由客户全权自担,生态入口博弈全面打响
AIGC 资讯
LangSmith for Coding Agents 代码智能体按 PR 结果核算成本与 ROI 官方封面图
340亿美元编码AI开销如何算清账?LangSmith上线代码智能体ROI追踪:按PR结果归因成本、五大工具全统一与线程上下文通胀治理指南
最新趋势
Axiom Math 利用 AI 多智能体集群完成 1.5 万页有限单群分类定理(CFSG)与 7500 页 Stacks 项目数学形式化验证的可视化点阵图
4300万行代码堪比Linux内核!Axiom Math用AI智能体攻克1.5万页“庞大定理”与Stacks项目形式化验证:百个里程碑与分层多智能体架构全拆解
最新趋势
印度具身智能数据初创公司 Humyn Labs 联合创始人 Ishank Gupta(左)与 Manish Agarwal(右)
半年营收破千万且90%来自美国!印度物理AI数据创企Humyn Labs获4700万美元A轮:双摄硬件、2100万债权垫资与20国采集网全拆解
AIGC 资讯

相关推荐

谷歌Gemma 4开源发布:2B参数跑手机、31B性能超Qwen 397B,Apache 2.0真商用
AI 工具AIGC 资讯

谷歌Gemma 4开源发布:2B参数跑手机、31B性能超Qwen 397B,Apache 2.0真商用

Prompt 语宙研究院
Gemma 4 多模态大模型 开源大模型 端侧AI 谷歌大模型
向 OpenGPTs 注入长效记忆功能 [译]
强化 AI 学习

向 OpenGPTs 注入长效记忆功能 [译]

宝玉的分享
AI智能体 OpenAI RAG检索增强 开源大模型
Prometheus – 浙大联合蚂蚁等高校推出的3D感知潜在扩散模型
AIGC 资讯

Prometheus – 浙大联合蚂蚁等高校推出的3D感知潜在扩散模型

Prompt 语宙研究院
3D与空间智能 stable diffusion 大模型微调
蚂蚁灵波LingBot-VA论文入选RSS2026:全球首个开源因果世界模型如何让机器人‘边想边做’?
AI 工具AIGC 资讯

蚂蚁灵波LingBot-VA论文入选RSS2026:全球首个开源因果世界模型如何让机器人‘边想边做’?

Prompt 语宙研究院
LingBot-VA RSS2026 具身智能 因果世界模型 蚂蚁灵波
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.