# 中国开发者必看！Self-LLM开源大模型实战教程：从环境配置到LoRA微调全攻略

- Link: https://paooo.com/ai-tool/14172/
- Published: 2026-06-24T14:42:22+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 面向国内初学者的开源[大模型](https://paooo.com/ai-study/)食用指南，打通Linux环境
   配置、模型部署与微调全流程。
 * 覆盖LoRA、ptuning、全量微调等方法，并结合SwanLab、EvalScope等工具提升实操效率。
 * 支持多类主流模型与部署形态，适合从学习验证到私域应用开发的进阶实践。

> **💡 站外导读：**随着大模型技术开源浪潮席卷全球，中国开发者面临‘模型多、上手难、
> 部署复杂’的痛点。Datawhale推出的Self-LLM项目，正是为国内初学者量身打造的‘开源大
> 模型食用指南’，旨在打通从环境配置、模型部署到微调优化的全流程，降低技术门槛，助力
> 开发者快速将前沿开源模型转化为实际应用能力。

## self-llm是什么

self-llm （开源大模型食用指南）是Datawhale专为国内初学者打造的开源大模型教程，基于
Linux平台，提供从环境配置到模型部署、微调的全流程指导，涵盖[LLaMA](https://ai-bot.cn/sites/54.html)、
ChatGLM等主流模型。项目能简化开源大模型的使用流程，帮助学生和研究者快速上手。教程
提供多种模型的详细教程、微调方法（如LoRA、ptuning）及应用案例，适合不同层次的学习
者。项目鼓励社区参与，共同完善内容，推动开源大模型的普及和应用。

阅读目录

 * [self-llm是什么](https://paooo.com/ai-tool/14172/#selfllm%e6%98%af%e4%bb%80%e4%b9%88)
 * [self-llm的主要功能](https://paooo.com/ai-tool/14172/#selfllm%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [self-llm支持的模型](https://paooo.com/ai-tool/14172/#selfllm%e6%94%af%e6%8c%81%e7%9a%84%e6%a8%a1%e5%9e%8b)
 * [self-llm的项目地址](https://paooo.com/ai-tool/14172/#selfllm%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [self-llm的应用场景](https://paooo.com/ai-tool/14172/#selfllm%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)
       * [📝 站长洞察 (Editor’s Insight)](https://paooo.com/ai-tool/14172/#%f0%9f%93%9d-%e7%ab%99%e9%95%bf%e6%b4%9e%e5%af%9f-editor8217s-insight)

![开源大模型食用指南self-llm](https://paooo.com/wp-content/uploads/2026/05/self-
llm-website-1.avif)

## self-llm的主要功能

 * **环境配置指导**：提供基于Linux平台的开源大模型环境配置指南，帮助用户搭建适合
   不同模型运行的基础环境。
 * **模型部署教程**：涵盖国内外主流开源大模型（如LLaMA、ChatGLM、[InternLM](https://ai-bot.cn/internlm/)
   等）的本地部署方法，包括命令行调用、在线Demo部署等。
 * **微调方法指导**：提供全量微调、LoRA微调、ptuning等高效微调方法的详细教程，帮助
   用户根据需求对模型进行定制化优化。
 * **应用开发指导**：结合LangChain等框架，指导用户如何将开源大模型集成到实际应用
   中，打造领域特色的私域模型。
 * **社区共创与支持**：鼓励用户提交问题（issue）或贡献代码（PR），共同完善教程内容，
   形成开源社区的协作与支持体系。

## self-llm支持的模型

 * **[GLM-4.1-Thinking](https://ai-bot.cn/glm-4-1v-thinking/)**
    - GLM-4.1V-Thinking vLLM 部署调用
    - GLM-4.1V-Thinking Gradio 部署
    - GLM-4.1V-Thinking LoRA 微调及 SwanLab 可视化记录
    - GLM-4.1V-Thinking Docker 镜像
 * **[GLM-4.5-Air](https://ai-bot.cn/glm-4-5/)**
    - GLM-4.5-Air vLLM 部署调用
    - GLM-4.5-Air EvalScope 智商情商评测
    - GLM-4.5-Air LoRA 微调
    - GLM-4.5-Air Ucloud Docker 镜像
 * **ERNIE-4.5**
    - ERNIE-4.5-0.3B-PT LoRA 微调及 SwanLab 可视化记录
    - ERNIE-4.5-0.3B-PT LoRA Docker 镜像
 * [**Hunyuan-A13B-Instruc**t](https://ai-bot.cn/hunyuan-a13b/)
    - Hunyuan-A13B-Instruct 模型架构解析
    - Hunyuan-A13B-Instruct SGLang 部署调用
    - Hunyuan-A13B-Instruct LoRA SwanLab 可视化微调
    - Hunyuan-A13B-Instruct LoRA Docker 镜像
 * [**Qwen3**](https://ai-bot.cn/qwen3/)
    - Qwen3 模型结构解析
    - Qwen3-8B vllm 部署调用
    - Qwen3-8B Windows LMStudio 部署调用
    - Qwen3-8B Evalscope 智商情商评测
    - Qwen3-8B LoRA 微调及 SwanLab 可视化记录
    - Qwen3-30B-A3B 微调及 SwanLab 可视化记录
    - Qwen3 Think 解密
    - Qwen3-8B Docker 镜像
    - Qwen3-0.6B 的小模型用途
    - Qwen3-1.7B 医学推理式对话微调及 SwanLab 可视化记录
    - Qwen3-8B GRPO 微调及 SwanLab 可视化
 * **[Kimi-VL-A3B](https://ai-bot.cn/kimi-vl/)**
    - Kimi-VL-A3B 技术报告解读
    - Kimi-VL-A3B-Thinking WebDemo 部署（网页对话助手）
 * **[Llama4](https://ai-bot.cn/llama-4/)**
    - Llama4 对话助手
    - SpatialLM
    - SpatialLM 3D点云理解与目标检测模型部署
    - Hunyuan3D-2
    - Hunyuan3D-2 系列模型部署
    - Hunyuan3D-2 系列模型代码调用
    - Hunyuan3D-2 系列模型 Gradio 部署
    - Hunyuan3D-2 系列模型 API Server
    - Hunyuan3D-2 Docker 镜像
 * **[Gemma3](https://ai-bot.cn/gemma-3/)**
    - Gemma-3-4b-it FastApi 部署调用
    - Gemma-3-4b-it ollama + open-webui 部署
    - Gemma-3-4b-it Evalscope 智商情商评测
    - Gemma-3-4b-it LoRA 微调
    - Gemma-3-4b-it Docker 镜像
    - Gemma-3-4b-it GRPO 微调及 SwanLab 可视化
 * **DeepSeek-R1-Distil**l
    - DeepSeek-R1-Distill-Qwen-7B FastApi 部署调用
    - DeepSeek-R1-Distill-Qwen-7B Langchain 接入
    - DeepSeek-R1-Distill-Qwen-7B WebDemo 部署
    - DeepSeek-R1-Distill-Qwen-7B vLLM 部署调用
    - DeepSeek-R1-0528-Qwen3-8B-GRPO 及 SwanLab 可视化
 * **[MiniCPM-o-2_6](https://ai-bot.cn/minicpm-o-2-6/)**
    - MiniCPM-o-2.6 FastApi 部署调用
    - MiniCPM-o-2.6 WebDemo 部署
    - MiniCPM-o-2.6 多模态语音能力
    - MiniCPM-o-2.6 可视化 LaTeX_OCR LoRA 微调
 * [**InternLM3**](https://ai-bot.cn/internlm/)
    - InternLM3-8b-instruct FastApi 部署调用
    - InternLM3-8b-instruct Langchain 接入
    - InternLM3-8b-instruct WebDemo 部署
    - InternLM3-8b-instruct LoRA 微调
    - InternLM3-8b-instruct o1-like 推理链实现
 * **[phi4](https://ai-bot.cn/phi-4/)**
    - phi4 FastApi 部署调用
    - phi4 Langchain 接入
    - phi4 WebDemo 部署
    - phi4 LoRA 微调
    - phi4 LoRA 微调 NER任务 SwanLab 可视化记录版
    - phi4 GRPO 微调及 SwanLab 可视化
 * **[Qwen2.5-Coder](https://ai-bot.cn/qwen2-5-coder/)**
    - Qwen2.5-Coder-7B-Instruct FastApi 部署调用
    - Qwen2.5-Coder-7B-Instruct Langchain 接入
    - Qwen2.5-Coder-7B-Instruct WebDemo 部署
    - Qwen2.5-Coder-7B-Instruct vLLM 部署
    - Qwen2.5-Coder-7B-Instruct LoRA 微调
    - Qwen2.5-Coder-7B-Instruct LoRA 微调 SwanLab 可视化记录版
 * **[Qwen2-vl](https://ai-bot.cn/qwen2-vl/)**
    - Qwen2-vl-2B FastApi 部署调用
    - Qwen2-vl-2B WebDemo 部署
    - Qwen2-vl-2B vLLM 部署
    - Qwen2-vl-2B LoRA 微调
    - Qwen2-vl-2B LoRA 微调 SwanLab 可视化记录版
    - Qwen2-vl-2B LoRA 微调案例 – LaTeXOCR
 * **[Qwen2.5](https://ai-bot.cn/qwen2-5/)**
    - Qwen2.5-7B-Instruct FastApi 部署调用
    - Qwen2.5-7B-Instruct Langchain 接入
    - Qwen2.5-7B-Instruct vLLM 部署调用
    - Qwen2.5-7B-Instruct WebDemo 部署
    - Qwen2.5-7B-Instruct LoRA 微调
    - Qwen2.5-7B-Instruct o1-like 推理链实现
    - Qwen2.5-7B-Instruct LoRA 微调 SwanLab 可视化记录版
 * **[Apple OpenELM](https://ai-bot.cn/apple-openelm-model/)**
    - OpenELM-3B-Instruct FastApi 部署调用
    - OpenELM-3B-Instruct LoRA 微调
 * **Llama3_1-8B-Instruct**
    - Llama3_1-8B-Instruct FastApi 部署调用
    - Llama3_1-8B-Instruct Langchain 接入
    - Llama3_1-8B-Instruct WebDemo 部署
    - Llama3_1-8B-Instruct LoRA 微调
    - 动手转换 GGUF 模型并使用 Ollama 本地部署
 * **[Gemma-2-9b-it](https://ai-bot.cn/gemma-2/)**
    - Gemma-2-9b-it FastApi 部署调用
    - Gemma-2-9b-it Langchain 接入
    - Gemma-2-9b-it WebDemo 部署
    - Gemma-2-9b-it Peft LoRA 微调
 * **Yuan2.0**
    - Yuan2.0-2B FastApi 部署调用
    - Yuan2.0-2B Langchain 接入
    - Yuan2.0-2B WebDemo 部署
    - Yuan2.0-2B vLLM 部署调用
    - Yuan2.0-2B LoRA 微调
 * [**Yuan2.0-M32**](https://ai-bot.cn/yuan2-0-m32/)
    - Yuan2.0-M32 FastApi 部署调用
    - Yuan2.0-M32 Langchain 接入
    - Yuan2.0-M32 WebDemo 部署
 * [**DeepSeek-Coder-V2**](https://ai-bot.cn/deepseek-coder-v2/)
    - DeepSeek-Coder-V2-Lite-Instruct FastApi 部署调用
    - DeepSeek-Coder-V2-L

## self-llm的项目地址

 * **GitHub仓库**：https://github.com/datawhalechina/self-llm

## self-llm的应用场景

 * **教育与学习**：为初学者提供从环境配置到模型微调的全流程指导，助力学生和开发者
   快速掌握开源大模型的使用方法。
 * **企业应用开发**：帮助企业根据自身业务需求对开源大模型进行定制化微调，开发智能
   客服、知识管理等专属应用。
 * **个人项目开发**：支持个人开发者利用开源大模型开发智能写作助手、个人智能助手等
   项目，提升个人生产力。
 * **研究与创新**：为研究人员提供实验平台，支持对开源大模型的架构优化、训练方法改进
   等研究工作。

#### 📝 站长洞察 (Editor’s Insight)

Self-LLM项目的价值远不止于一份技术教程，它折射出中国开源生态的深层趋势：工具链与
开发者教育正成为大模型落地的关键瓶颈。当Qwen3、GLM-4等国产模型迅速追赶时，如何让
数百万开发者高效使用这些模型，形成应用创新，才是产业真正的‘最后一公里’。该项目聚焦
LoRA、vLLM等轻量化部署与微调技术，恰是瞄准了中小企业与研究者的算力与成本痛点。未来，
围绕国产大模型的开发者工具、评测体系与社区协作，或将催生下一个千亿级的[AIGC](https://paooo.com/aigc-news/)
服务市场。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**LangChain ↗**

开发由语言模型驱动的应用程序的框架。

**Gradio ↗**

开源的搭建机器学习模型UI界面的Python库。

**LLaMA ↗**

Meta（Facebook）推出的AI大语言模型。

❓ 常见问题解答（FAQ）

Self-LLM适合哪些开发者？

Self-LLM主要面向国内初学者、学生和研究者，也适合想系统补齐开源大模型部署与微调能力
的开发者。它以Linux环境为基础，提供从入门到实战的完整教程，降低上手门槛。

Self-LLM支持哪些微调方法？

项目提供全量微调、LoRA微调、ptuning等方法的教程，其中LoRA是最常见的高效微调方案，
适合在较低资源成本下对模型进行定制化优化。

Self-LLM能学到哪些模型部署方式？

可以学习本地部署、命令行调用、在线Demo、Gradio、FastAPI、vLLM、SGLang、LMStudio、
Docker等多种部署方式，覆盖不同模型与不同使用场景。

🔬 语宙深潜追问 · 进阶实操拆解

新手做LoRA微调最容易踩什么坑？

最常见是数据质量差、样本量不足、学习率过高和目标任务定义不清。建议先用小规模高质量
指令集验证，再固定基座模型与模板，最后用验证集看是否真提升，而不是只看训练损失下降。

vLLM和SGLang该怎么按场景选？

如果重点是高吞吐推理和成熟部署，优先看 vLLM；如果更强调复杂编排、结构化输出和多步骤
推理链路，SGLang 更合适。实际选型还要结合显存、并发量、模型尺寸和是否需要 OpenAI
兼容接口。

🗳️ 读者观点微投票 · 您的实战立场是？

开源大模型实战，先部署还是先微调更值？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🔓 所属权威专题：开源大模型与端侧推理 →](https://paooo.com/topics/open-source-llm/)

 * [LM Studio – 开源、傻瓜、一站式部署本地大模型 (LLM) 的应用平台](https://paooo.com/aigc-news/27162/)
 * [Micro LLAMA – 教学版 LLAMA 3模型实现，用于学习大模型的核心原理](https://paooo.com/aigc-news/25059/)
 * [Laminar – 分析与优化LLM应用程序的开源平台](https://paooo.com/aigc-news/26515/)
 * [vLLM深度解析：开源大模型推理框架，PagedAttention技术如何提升吞吐量10倍并大幅降低硬件成本](https://paooo.com/ai-tool/11826/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/ai-tool/14172/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
