Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: 中国开发者必看!Self-LLM开源大模型实战教程:从环境配置到LoRA微调全攻略
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
中国开发者必看!Self-LLM开源大模型实战教程:从环境配置到LoRA微调全攻略
Prompt 语宙 > AI 工具 > 中国开发者必看!Self-LLM开源大模型实战教程:从环境配置到LoRA微调全攻略
AI 工具

中国开发者必看!Self-LLM开源大模型实战教程:从环境配置到LoRA微调全攻略

Prompt 语宙研究院
最近更新: 2026年6月7日 下午8:21
ChatGLM Datawhale LLM教程 开源大模型 模型微调
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 面向国内初学者的开源大模型食用指南,打通Linux环境配置、模型部署与微调全流程。
  • 覆盖LoRA、ptuning、全量微调等方法,并结合SwanLab、EvalScope等工具提升实操效率。
  • 支持多类主流模型与部署形态,适合从学习验证到私域应用开发的进阶实践。

💡 站外导读:随着大模型技术开源浪潮席卷全球,中国开发者面临‘模型多、上手难、部署复杂’的痛点。Datawhale推出的Self-LLM项目,正是为国内初学者量身打造的‘开源大模型食用指南’,旨在打通从环境配置、模型部署到微调优化的全流程,降低技术门槛,助力开发者快速将前沿开源模型转化为实际应用能力。

self-llm是什么

self-llm (开源大模型食用指南)是Datawhale专为国内初学者打造的开源大模型教程,基于Linux平台,提供从环境配置到模型部署、微调的全流程指导,涵盖LLaMA、ChatGLM等主流模型。项目能简化开源大模型的使用流程,帮助学生和研究者快速上手。教程提供多种模型的详细教程、微调方法(如LoRA、ptuning)及应用案例,适合不同层次的学习者。项目鼓励社区参与,共同完善内容,推动开源大模型的普及和应用。

阅读目录
  • self-llm是什么
  • self-llm的主要功能
  • self-llm支持的模型
  • self-llm的项目地址
  • self-llm的应用场景
      • 📝 站长洞察 (Editor’s Insight)

开源大模型食用指南self-llm

self-llm的主要功能

  • 环境配置指导:提供基于Linux平台的开源大模型环境配置指南,帮助用户搭建适合不同模型运行的基础环境。
  • 模型部署教程:涵盖国内外主流开源大模型(如LLaMA、ChatGLM、InternLM等)的本地部署方法,包括命令行调用、在线Demo部署等。
  • 微调方法指导:提供全量微调、LoRA微调、ptuning等高效微调方法的详细教程,帮助用户根据需求对模型进行定制化优化。
  • 应用开发指导:结合LangChain等框架,指导用户如何将开源大模型集成到实际应用中,打造领域特色的私域模型。
  • 社区共创与支持:鼓励用户提交问题(issue)或贡献代码(PR),共同完善教程内容,形成开源社区的协作与支持体系。

self-llm支持的模型

  • GLM-4.1-Thinking
    • GLM-4.1V-Thinking vLLM 部署调用
    • GLM-4.1V-Thinking Gradio 部署
    • GLM-4.1V-Thinking LoRA 微调及 SwanLab 可视化记录
    • GLM-4.1V-Thinking Docker 镜像
  • GLM-4.5-Air
    • GLM-4.5-Air vLLM 部署调用
    • GLM-4.5-Air EvalScope 智商情商评测
    • GLM-4.5-Air LoRA 微调
    • GLM-4.5-Air Ucloud Docker 镜像
  • ERNIE-4.5
    • ERNIE-4.5-0.3B-PT LoRA 微调及 SwanLab 可视化记录
    • ERNIE-4.5-0.3B-PT LoRA Docker 镜像
  • Hunyuan-A13B-Instruct
    • Hunyuan-A13B-Instruct 模型架构解析
    • Hunyuan-A13B-Instruct SGLang 部署调用
    • Hunyuan-A13B-Instruct LoRA SwanLab 可视化微调
    • Hunyuan-A13B-Instruct LoRA Docker 镜像
  • Qwen3
    • Qwen3 模型结构解析
    • Qwen3-8B vllm 部署调用
    • Qwen3-8B Windows LMStudio 部署调用
    • Qwen3-8B Evalscope 智商情商评测
    • Qwen3-8B LoRA 微调及 SwanLab 可视化记录
    • Qwen3-30B-A3B 微调及 SwanLab 可视化记录
    • Qwen3 Think 解密
    • Qwen3-8B Docker 镜像
    • Qwen3-0.6B 的小模型用途
    • Qwen3-1.7B 医学推理式对话微调及 SwanLab 可视化记录
    • Qwen3-8B GRPO 微调及 SwanLab 可视化
  • Kimi-VL-A3B
    • Kimi-VL-A3B 技术报告解读
    • Kimi-VL-A3B-Thinking WebDemo 部署(网页对话助手)
  • Llama4
    • Llama4 对话助手
    • SpatialLM
    • SpatialLM 3D点云理解与目标检测模型部署
    • Hunyuan3D-2
    • Hunyuan3D-2 系列模型部署
    • Hunyuan3D-2 系列模型代码调用
    • Hunyuan3D-2 系列模型 Gradio 部署
    • Hunyuan3D-2 系列模型 API Server
    • Hunyuan3D-2 Docker 镜像
  • Gemma3
    • Gemma-3-4b-it FastApi 部署调用
    • Gemma-3-4b-it ollama + open-webui 部署
    • Gemma-3-4b-it Evalscope 智商情商评测
    • Gemma-3-4b-it LoRA 微调
    • Gemma-3-4b-it Docker 镜像
    • Gemma-3-4b-it GRPO 微调及 SwanLab 可视化
  • DeepSeek-R1-Distill
    • DeepSeek-R1-Distill-Qwen-7B FastApi 部署调用
    • DeepSeek-R1-Distill-Qwen-7B Langchain 接入
    • DeepSeek-R1-Distill-Qwen-7B WebDemo 部署
    • DeepSeek-R1-Distill-Qwen-7B vLLM 部署调用
    • DeepSeek-R1-0528-Qwen3-8B-GRPO 及 SwanLab 可视化
  • MiniCPM-o-2_6
    • MiniCPM-o-2.6 FastApi 部署调用
    • MiniCPM-o-2.6 WebDemo 部署
    • MiniCPM-o-2.6 多模态语音能力
    • MiniCPM-o-2.6 可视化 LaTeX_OCR LoRA 微调
  • InternLM3
    • InternLM3-8b-instruct FastApi 部署调用
    • InternLM3-8b-instruct Langchain 接入
    • InternLM3-8b-instruct WebDemo 部署
    • InternLM3-8b-instruct LoRA 微调
    • InternLM3-8b-instruct o1-like 推理链实现
  • phi4
    • phi4 FastApi 部署调用
    • phi4 Langchain 接入
    • phi4 WebDemo 部署
    • phi4 LoRA 微调
    • phi4 LoRA 微调 NER任务 SwanLab 可视化记录版
    • phi4 GRPO 微调及 SwanLab 可视化
  • Qwen2.5-Coder
    • Qwen2.5-Coder-7B-Instruct FastApi 部署调用
    • Qwen2.5-Coder-7B-Instruct Langchain 接入
    • Qwen2.5-Coder-7B-Instruct WebDemo 部署
    • Qwen2.5-Coder-7B-Instruct vLLM 部署
    • Qwen2.5-Coder-7B-Instruct LoRA 微调
    • Qwen2.5-Coder-7B-Instruct LoRA 微调 SwanLab 可视化记录版
  • Qwen2-vl
    • Qwen2-vl-2B FastApi 部署调用
    • Qwen2-vl-2B WebDemo 部署
    • Qwen2-vl-2B vLLM 部署
    • Qwen2-vl-2B LoRA 微调
    • Qwen2-vl-2B LoRA 微调 SwanLab 可视化记录版
    • Qwen2-vl-2B LoRA 微调案例 – LaTeXOCR
  • Qwen2.5
    • Qwen2.5-7B-Instruct FastApi 部署调用
    • Qwen2.5-7B-Instruct Langchain 接入
    • Qwen2.5-7B-Instruct vLLM 部署调用
    • Qwen2.5-7B-Instruct WebDemo 部署
    • Qwen2.5-7B-Instruct LoRA 微调
    • Qwen2.5-7B-Instruct o1-like 推理链实现
    • Qwen2.5-7B-Instruct LoRA 微调 SwanLab 可视化记录版
  • Apple OpenELM
    • OpenELM-3B-Instruct FastApi 部署调用
    • OpenELM-3B-Instruct LoRA 微调
  • Llama3_1-8B-Instruct
    • Llama3_1-8B-Instruct FastApi 部署调用
    • Llama3_1-8B-Instruct Langchain 接入
    • Llama3_1-8B-Instruct WebDemo 部署
    • Llama3_1-8B-Instruct LoRA 微调
    • 动手转换 GGUF 模型并使用 Ollama 本地部署
  • Gemma-2-9b-it
    • Gemma-2-9b-it FastApi 部署调用
    • Gemma-2-9b-it Langchain 接入
    • Gemma-2-9b-it WebDemo 部署
    • Gemma-2-9b-it Peft LoRA 微调
  • Yuan2.0
    • Yuan2.0-2B FastApi 部署调用
    • Yuan2.0-2B Langchain 接入
    • Yuan2.0-2B WebDemo 部署
    • Yuan2.0-2B vLLM 部署调用
    • Yuan2.0-2B LoRA 微调
  • Yuan2.0-M32
    • Yuan2.0-M32 FastApi 部署调用
    • Yuan2.0-M32 Langchain 接入
    • Yuan2.0-M32 WebDemo 部署
  • DeepSeek-Coder-V2
    • DeepSeek-Coder-V2-Lite-Instruct FastApi 部署调用
    • DeepSeek-Coder-V2-L

self-llm的项目地址

  • GitHub仓库:https://github.com/datawhalechina/self-llm

self-llm的应用场景

  • 教育与学习:为初学者提供从环境配置到模型微调的全流程指导,助力学生和开发者快速掌握开源大模型的使用方法。
  • 企业应用开发:帮助企业根据自身业务需求对开源大模型进行定制化微调,开发智能客服、知识管理等专属应用。
  • 个人项目开发:支持个人开发者利用开源大模型开发智能写作助手、个人智能助手等项目,提升个人生产力。
  • 研究与创新:为研究人员提供实验平台,支持对开源大模型的架构优化、训练方法改进等研究工作。

📝 站长洞察 (Editor’s Insight)

Self-LLM项目的价值远不止于一份技术教程,它折射出中国开源生态的深层趋势:工具链与开发者教育正成为大模型落地的关键瓶颈。当Qwen3、GLM-4等国产模型迅速追赶时,如何让数百万开发者高效使用这些模型,形成应用创新,才是产业真正的‘最后一公里’。该项目聚焦LoRA、vLLM等轻量化部署与微调技术,恰是瞄准了中小企业与研究者的算力与成本痛点。未来,围绕国产大模型的开发者工具、评测体系与社区协作,或将催生下一个千亿级的AIGC服务市场。

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
LangChain ↗
开发由语言模型驱动的应用程序的框架。
Gradio ↗
开源的搭建机器学习模型UI界面的Python库。
LLaMA ↗
Meta(Facebook)推出的AI大语言模型。
❓ 常见问题解答(FAQ)
Self-LLM适合哪些开发者?

Self-LLM主要面向国内初学者、学生和研究者,也适合想系统补齐开源大模型部署与微调能力的开发者。它以Linux环境为基础,提供从入门到实战的完整教程,降低上手门槛。

Self-LLM支持哪些微调方法?

项目提供全量微调、LoRA微调、ptuning等方法的教程,其中LoRA是最常见的高效微调方案,适合在较低资源成本下对模型进行定制化优化。

Self-LLM能学到哪些模型部署方式?

可以学习本地部署、命令行调用、在线Demo、Gradio、FastAPI、vLLM、SGLang、LMStudio、Docker等多种部署方式,覆盖不同模型与不同使用场景。

🔬 语宙深潜追问 · 进阶实操拆解
新手做LoRA微调最容易踩什么坑?

最常见是数据质量差、样本量不足、学习率过高和目标任务定义不清。建议先用小规模高质量指令集验证,再固定基座模型与模板,最后用验证集看是否真提升,而不是只看训练损失下降。

vLLM和SGLang该怎么按场景选?

如果重点是高吞吐推理和成熟部署,优先看 vLLM;如果更强调复杂编排、结构化输出和多步骤推理链路,SGLang 更合适。实际选型还要结合显存、并发量、模型尺寸和是否需要 OpenAI 兼容接口。

🗳️ 读者观点微投票 · 您的实战立场是?
开源大模型实战,先部署还是先微调更值?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
🔓 所属权威专题:开源大模型与端侧推理 →
  • LM Studio – 开源、傻瓜、一站式部署本地大模型 (LLM) 的应用平台
  • Micro LLAMA – 教学版 LLAMA 3模型实现,用于学习大模型的核心原理
  • Laminar – 分析与优化LLM应用程序的开源平台
  • vLLM深度解析:开源大模型推理框架,PagedAttention技术如何提升吞吐量10倍并大幅降低硬件成本
🏛️ Prompt 语宙研究院 · Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
DMind大模型:专为Web3优化的AI引擎,成本仅十分之一,性能超越通用模型
PersonaLive开源:澳门大学重磅发布,12G显卡跑无限时长AI直播换脸
Moonlight-16B-A3B – 月之暗面开源的 MoE 模型
Self-Taught Evaluators – Meta推出的新型模型评估方法
Promptriever – 信息检索模型,支持自然语言提示响应用户搜索需求
TAGGED:ChatGLMDatawhaleLLM教程开源大模型模型微调
分享
Email 复制链接 打印
Share
Prompt 语宙研究院 头像
ByPrompt 语宙研究院
Follow:
Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
上一篇 《2024 AI Agent开发终极指南》:e2b-dev 万星仓库精选,从 AutoGPT 到 RAG 的开源工具全景图 《2024 AI Agent开发终极指南》:e2b-dev 万星仓库精选,从 AutoGPT 到 RAG 的开源工具全景图
下一篇 开源桌面AI助手NeuralAgent:用自然语言自动执行键盘鼠标操作,集成GPT-4/Claude多模型,高效提升办公生产力 开源桌面AI助手NeuralAgent:用自然语言自动执行键盘鼠标操作,集成GPT-4/Claude多模型,高效提升办公生产力
Ad image
Ad image

最近更新

NVIDIA Vera Rubin 亮相 MLPerf 评测并在训练与端点测试中领先
单GPU训练性能翻倍且智能体每瓦吞吐暴增10倍!NVIDIA Vera Rubin首战MLPerf大获全胜:DeepSeek-V3千卡扩展效率97%与Agentic端点推理全景深度拆解
AIGC 资讯
美国商务部大楼与半导体出口管制新规
算力超1200万TPP即触发许可且限期90天整改!美国商务部突发全球数据中心新规:封死离岸云端远程租用算力与废止AI扩散规则全景深度拆解
AIGC 资讯
AI 原生 CRM 初创公司 Dreamteam 获 5300 万美元融资,挑战 Salesforce 与 HubSpot
斩获5300万美元对标Salesforce!前Freshworks高管创办AI原生CRM Dreamteam:基于Company Brain虚拟记忆与自动化智能体流水线深度拆解
AI 工具
Optimizely 谈营销智能体落地:企业需将审核从输出转向输入
告别Vibe Coding虚火!Optimizely解密企业级营销智能体落地法则:从“输出审核”走向“输入约束”、专用Harness架构与800落地页规模化实战
最新趋势

相关推荐

node-DeepResearch – Deep Research开源复现版 AI Agent,支持多步推理和复杂查询
AIGC 资讯

node-DeepResearch – Deep Research开源复现版 AI Agent,支持多步推理和复杂查询

Prompt 语宙研究院
AI办公效率 AI智能体 Gemini 开源大模型
DiTCtrl – 港中文联合腾讯等机构推出的多提示视频生成方法
AIGC 资讯

DiTCtrl – 港中文联合腾讯等机构推出的多提示视频生成方法

Prompt 语宙研究院
3D与空间智能 AI绘画提示词 AI视频生成 开源大模型
Moonshine – 实时转录场景、低延时高准确的语音识别模型
AIGC 资讯

Moonshine – 实时转录场景、低延时高准确的语音识别模型

Prompt 语宙研究院
AI智能体 AI音频与语音 HuggingFace OpenAI 开源大模型
如何作为软件工程师涉足机器人技术 [译]
强化 AI 学习

如何作为软件工程师涉足机器人技术 [译]

宝玉的分享
3D与空间智能 AI智能体 AI编程 大模型微调 开源大模型
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • Remaker AI
  • BGRemaker 抠图Hot
  • AIGC 工具
  • Prompt 咒语生成器
  • 去水印工具

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.