# 把大语言模型封装成桌面应用 [译]

- Link: https://paooo.com/ai-study/7081/
- Published: 2024-05-16T18:18:54+08:00
- Author: 宝玉的分享

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 用 Electron 将渲染、主进程、IPC 与本地模型运行器整合，降低桌面端接入门槛。
 * 借助 Ollama 分发模型，避免把 4GB 级模型直接塞进安装包，并支持后续热更新。
 * chatd 面向非技术用户验证可行：本地聊天机器人可直接访问文件系统，体验更直观。

_2023 年 12 月 10 日_ by Bruce MacDonald

阅读目录

 * [项目计划](https://paooo.com/ai-study/7081/#%e9%a1%b9%e7%9b%ae%e8%ae%a1%e5%88%92)
 * [架构](https://paooo.com/ai-study/7081/#%e6%9e%b6%e6%9e%84)
    - [渲染和进程间通信](https://paooo.com/ai-study/7081/#%e6%b8%b2%e6%9f%93%e5%92%8c%e8%bf%9b%e7%a8%8b%e9%97%b4%e9%80%9a%e4%bf%a1)
    - [主进程](https://paooo.com/ai-study/7081/#%e4%b8%bb%e8%bf%9b%e7%a8%8b)
    - [大语言模型运行器](https://paooo.com/ai-study/7081/#%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b%e8%bf%90%e8%a1%8c%e5%99%a8)
 * [成果](https://paooo.com/ai-study/7081/#%e6%88%90%e6%9e%9c)

最近，我一直忙于开发 Ollama，因此投入了大量时间研究如何在本地系统上运行大语言模型（
大语言模型），并探索如何将它们封装进应用程序。一般而言，大部分桌面应用程序只要求
用户输入 [OpenAI](https://paooo.com/tag/openai/) API 密钥，或者从源代码编译 Python
项目即可集成大语言模型。尽管这些方法在理论上可行，但对于许多用户来说，它们的技术
门槛仍然较高。我追求的是用户能够一键下载并立即运行的应用程序。

##  项目计划

这是我设定的初步目标：

 * 一键式下载与启动。
 * 无需额外依赖。
 * 应用文件体积最小化。
 * 设计简单的大语言模型版本控制与分发系统。
 * 兼容所有主流操作系统。
 * 利用本地运行的优势，如访问本地文件系统。
 * 用户无需调整任何设置，大语言模型在他们的系统上即插即用。
 * 为高级用户提供更多选项，比如能够替换和定制应用中的大语言模型 。针对这些目标，
   我决定开发一个名为“chatd”的桌面应用，用户可以通过它与自己的文档进行交流。虽然
   这是一个常见的大语言模型应用场景，但目前还缺乏针对非技术型终端用户的简易选择。
   此外，该应用还可以便捷地访问文件系统。

为了保持项目的简洁性，我希望所有的代码都能整合在一个能够部署到任何操作系统上的应用
中。这使得我只能在 Electron 和 Tauri 中二选一。基于对生态系统的熟悉度，我最终选择
了 Electron。

##  架构

![chatd 架构](https://paooo.com/wp-content/uploads/2024/05/architecture.webp)

chatd 架构

 点击这里查看此图片的高清版本。

项目包括四个主要部分：渲染、进程间通信、主进程和大语言模型运行器。

###  渲染和进程间通信

应用的渲染部分使用了标准的 HTML、CSS 和 JavaScript。用户的操作需要处理时，数据会
通过进程间通信发送到主进程，这允许执行可访问宿主系统的代码。

###  主进程

主进程主要处理文档（顺便说一句，希望有人能为通用文档处理开发一个标准的 JavaScript
库），然后将提取出的数据发送给 transformers.js。transformers.js 是 Hugging Face 
维护的一个库，它可以让我们在浏览器中使用 ONNX 运行时来运行模型，速度非常快。由于
我还没有找到合适的内存向量数据库，因此我选择将向量数据存储在内存中。

###  大语言模型运行器

在处理了所有这些信息之后，我选择使用 Ollama 来打包和分发应用中的大语言模型。目前，
大多数用户将 Ollama 作为独立应用程序运行，并向其发送查询，但也可以直接将其整合到
你的桌面应用中。我为每个操作系统的相应版本添加了 Ollama 可执行文件，并编写了一些
JavaScript 代码来管理这些可执行文件。

这种方式非常方便，因为我不仅可以借助 Ollama 作为一个可靠的大语言模型运行系统，还
可以通过它来分发大语言模型，而无需将其包含在 Electron 应用包内。如果将大语言模型
直接打包进 Electron 应用，将导致巨大的初始下载体积（超过 4GB），并限制用户只能使用
我在 chatd 中内置的模型。此外，通过使用 Ollama 的分发系统，我可以在不发布新应用版本
的情况下更新或修改模型。我只需对模型进行更改，将其推送到 ollama.ai 注册表，用户在
下次启动应用时就会自动更新。

利用 Ollama 还使得用户体验保持简单，同时也为高级用户提供了更换应用程序中大语言模型
的可能性。早期采用本地大语言模型的用户（以及我互动过的 Ollama 用户）对于如何运作
非常感兴趣，并希望能够使用最新的模型保持领先。尽管 Ollama 被集成到了 chatd 中，但
如果检测到 Ollama 已在运行，它会提供额外的设置选项，允许用户根据自己的需求配置 chatd
并更换模型。这也意味着，如果用户已经拥有了模型，就无需重复下载。

##  成果

我向一些不属于典型 [ChatGPT](https://paooo.com/tag/chatgpt/) 用户群体的朋友展示了
chatd，他们对此反应热烈。看到 AI 能在他们的电脑上本地运行，对他们来说简直是惊喜，
他们很快意识到了赋予这个本地聊天机器人访问文件的巨大潜力。我期待着进一步优化这一
体验，并希望我们能够见证桌面应用程序让大语言模型变得更加简单易用的新浪潮。

你可以在这里查看 chatd 项目：chatd.ai

![chatd.ai](https://paooo.com/wp-content/uploads/2024/05/bmacd-1702183137-0.webp)

chatd.ai

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**Ollama ↗**

本地运行Llama和其他大语言模型。

❓ 常见问题解答（FAQ）

如何把大语言模型封装成桌面应用？

可将前端渲染、进程间通信、主进程和本地模型运行器拆分设计，再用 Electron 统一打包。
文中方案是：渲染层负责交互，主进程处理文档并调用 transformers.js，模型则交给 Ollama
管理与分发。

为什么作者选择 Electron 而不是 Tauri？

作者的目标是把所有代码整合进一个可部署到主流操作系统的应用中，并基于对生态的熟悉
度做选择。最终他选了 Electron，用来更方便地实现跨平台桌面封装与本地模型集成。

Ollama 在桌面应用里有什么优势？

Ollama 既能作为可靠的本地模型运行系统，也能承担模型分发。这样可以避免把大模型直接
打进 Electron 安装包，减少初始下载体积，还能在不发布新应用版本的情况下更新模型。

🔬 语宙深潜追问 · 进阶实操拆解

Electron+Ollama方案最大的工程难点是什么？

难点不在聊天界面，而在模型分发、体积控制、跨平台兼容和本地资源调度。要把首次安装、
模型下载、更新和文件权限都做成无感流程，用户才会真正留下来。

桌面应用如何兼顾本地隐私与模型更新？

可把推理留在本地，把模型管理交给 Ollama 这类层；应用只负责编排、权限和交互。更新
时采用增量下载、版本锁定与回滚机制，既保隐私，也避免模型升级破坏工作流。

🗳️ 读者观点微投票 · 您的实战立场是？

本地大模型桌面化，真能普及到普通人吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [利用客户端技术开发基于大语言模型（LLM）的 Web 应用 [译]](https://paooo.com/ai-study/7083/)
 * [LM Studio – 开源、傻瓜、一站式部署本地大模型 (LLM) 的应用平台](https://paooo.com/aigc-news/27162/)
 * [现代大语言模型应用架构 [译]](https://paooo.com/ai-study/7022/)
 * [在 iPad 或 iPhone 上本机离线运行大语言模型 [译]](https://paooo.com/ai-study/7093/)

[🏛️ 宝玉的分享](https://paooo.com/author/baoyu/) · 前沿大模型翻译与提示词工程实战
分享专栏，聚焦海外一手 AI 技术动态与工程实践。

[📄 Markdown 纯净版](https://paooo.com/ai-study/7081/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
