# AI 之后软件开发领域的 3 个预测 [译]

- Link: https://paooo.com/ai-study/7070/
- Published: 2024-02-13T18:15:46+08:00
- Author: 宝玉的分享

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 多模型策略将成为 AI 应用的基础配置，模型可替换性比单一供应商依赖更重要。
 * 本地模型与跨模型基础设施需求上升，遥测、日志和提示备份会成为新标配。
 * LLM 不是减少工作量，而是把开发重心推向更高层抽象与更多隐藏复杂度。

###  关键概括：必须采用多模型战略，新兴 AI 基础设施的发展，以及大语言模型（LLM）作为新的抽象层次。

2023 年 11 月 28 日

阅读目录

    - [关键概括：必须采用多模型战略，新兴 AI 基础设施的发展，以及大语言模型（LLM）作为新的抽象层次。](https://paooo.com/ai-study/7070/#%e5%85%b3%e9%94%ae%e6%a6%82%e6%8b%ac%e5%bf%85%e9%a1%bb%e9%87%87%e7%94%a8%e5%a4%9a%e6%a8%a1%e5%9e%8b%e6%88%98%e7%95%a5%e6%96%b0%e5%85%b4-ai-%e5%9f%ba%e7%a1%80%e8%ae%be%e6%96%bd%e7%9a%84%e5%8f%91)
 * [多模型策略将变得必不可少](https://paooo.com/ai-study/7070/#%e5%a4%9a%e6%a8%a1%e5%9e%8b%e7%ad%96%e7%95%a5%e5%b0%86%e5%8f%98%e5%be%97%e5%bf%85%e4%b8%8d%e5%8f%af%e5%b0%91)
 * [我们是否需要专门的 AI 基础设施和工具？](https://paooo.com/ai-study/7070/#%e6%88%91%e4%bb%ac%e6%98%af%e5%90%a6%e9%9c%80%e8%a6%81%e4%b8%93%e9%97%a8%e7%9a%84-ai-%e5%9f%ba%e7%a1%80%e8%ae%be%e6%96%bd%e5%92%8c%e5%b7%a5%e5%85%b7)
 * [大语言模型（LLM）其实增加了工作量，而非减少](https://paooo.com/ai-study/7070/#%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8bllm%e5%85%b6%e5%ae%9e%e5%a2%9e%e5%8a%a0%e4%ba%86%e5%b7%a5%e4%bd%9c%e9%87%8f%e8%80%8c%e9%9d%9e%e5%87%8f%e5%b0%91)
 * [您的看法如何？](https://paooo.com/ai-study/7070/#%e6%82%a8%e7%9a%84%e7%9c%8b%e6%b3%95%e5%a6%82%e4%bd%95)

[OpenAI](https://paooo.com/tag/openai/) 的发展历程在科技界引发了一场堪比电视剧《
继承》的巨大波澜，Sam Altman 在短短大约 72 小时之内，从 CEO 的位置上跃升为微软（
Microsoft）的 CEO。

我不是一名记者，但网络上有众多关于 OpenAI 这一戏剧性事件的深入报道。

**我想从一个不同的角度来探讨这一事件：它对于软件工程师乃至整个行业将意味着什么。**

我的思考集中在三个主要观点上。

##  **多模型策略将变得必不可少**

> 所谓的_多模型策略_，是指一个组织或应用程序采用多个模型，比如大语言模型（LLM），
> 来实现其 AI 应用的场景。这样做的好处是，即便某个模型突然无法使用，也能有其他模型
> 作为后备。

这与公司采用多云策略的做法颇为相似。但是，多云策略通常只在你的业务规模扩大到需要
高度供应商冗余的程度时才显得有意义。对大多数公司而言，这种策略并不切实际，且难以
管理。**我认为，相较于多云策略，多模型策略更为关键，而且更易于实现。**

![AI 之后软件开发领域的 3 个预测 [译]](https://paooo.com/wp-content/uploads/2024/
02/multi-cloud-strategy.webp)

与数据存储方式不同，模型未来将更容易替换。数据库储存的是具体数据，但是模型可以在
相同的数据集上进行训练和微调。随着 AI 技术的进步，我相信所有模型的基础质量会趋于
一致，而高端的模型质量将归属于那些拥有最独特数据集或解决合成数据生成问题的人。

这一观点得到了 OpenAI 研究员 James Betker 的支持，他在AI 模型中的“关键”是数据集一文
中有深入探讨。

他指出：“模型的行为并不是由其架构、超参数或优化器的选择决定的，而是完全取决于数据
集。”

> **因此，当我们谈论“Lambda”、“ChatGPT”、“Bard”或“Claude”时，我们实际上是在谈论它们
> 的数据集，而不仅仅是模型本身的权重。**
> 未来，大部分数据集将向公众开放。这意味着大多数模型将达到一个“足够好”的基本性能
> 水平，在这个水平上，轻松地使用不同模型作为替代品是完全可行的。

这也暗示了模型本身可能*不再是竞争优势的核心*。

本地模型显得越来越重要了。拥有本地模型意味着你可以掌握自己的数据、调整过的模型和
版本控制等。这样一来，类似 GPT-4 质量突然下降（这个问题在网上已经引发了热烈讨论）
的情况就不再那么让人担心了。

我在此想对比一下云服务：使用像 Firebase 或 Supabase 这样的托管后端即服务，与在 EC2
这样的服务器上直接部署数据库相比，后者虽然需要更多的维护和“DevOps”工作，但同时也能
提供更多的控制权。

##  我们是否需要专门的 AI 基础设施和工具？

随着多模型策略变得越来越重要，对于可靠的“AI 基础设施”和工具的需求也在增加。这到底
意味着什么呢？即使我自己也还没有完全理解，但我已经有了一些初步的想法。

OpenAI 曾引发的担忧使得一些人和公司开始首次尝试本地模型，这些模型自从 Meta 发布 
LLaMA 以来，在质量和易用性方面已经取得了巨大的进步。例如，Google Cloud 等云服务提供
商已经开始提供 LLaMA 和 [Claude](https://paooo.com/aigc-news/) 模型的实例。**即使
某个模型出现故障，依赖大语言模型 (LLM) 的程序应该仍能平稳运行，虽然可能会有一些质量
上的损失。**

> 参考：Georgi Gerganov 的文章“在 AWS 实例中使用 llama.cpp”。

为了比较不同模型在各种提示和用途上的质量，我们将需要更多的基础设施支持。为此，使用
LLM 的应用程序可能需要更加深入的遥测、日志记录以及对提示、使用等方面的备份。

这些基本上就是将普通网络应用的基本原则应用于基于 LLM 的应用程序。

我相信，我们最终会看到一些独特的 AI 基础设施布局，就像谷歌、Facebook 和亚马逊等公司
在分布式系统方面发表的里程碑论文一样。

Latent Space 的文章“AI 工程师的崛起”也对此进行了很好的讨论。

再者，也许这里的“AI 基础设施”可以更具体地被称为“跨模型基础设施”。

##  大语言模型（LLM）其实增加了工作量，而非减少

面对大语言模型特有的挑战，比如其非确定性特性，以及构建更合适的 AI 或大语言模型基础
设施的需求，意味着我们未来的软件工作量会增加，而不是减少。**正是像大语言模型这样
的抽象层，开辟了更多可能性，从而也带来了更多工作量。**

这种变化是好是坏？这个问题我还没有答案。

以前端开发为例，每一种新的框架都在减少对 DOM 的直接操作，但这也导致了现在 Web 开发
的复杂性（参见：Matt Rickard 的文章）。深入理解底层机制及如何恰当运用这些抽象层，
对于成为顶尖的前端开发者至关重要（例如：Malte Ubl）。

现今，大部分软件开发工作集中在应用层，因为底层架构已被抽象化。

同理，大语言模型就像是对“真正的工作”即编码的一个抽象包装。尽管大语言模型正减少编码
和样板代码的直接编写，但那些对他们使用的语言或框架、以及编写的代码有深入理解的人，
可能会更有效地指导大语言模型的发展方向。

我认为，软件领域的需求只会增长。**大语言模型作为一种持久存在的技术，将会催生出全新
的工作领域**，例如 AI 基础设施建设，同时也将推动更快的开发速度和新类型的难以察觉
的复杂 bug 的出现。

![the-art-of-programming.jpg](https://paooo.com/wp-content/uploads/2024/02/the-art-
of-programming-jpg.webp)

the-art-of-programming.jpg

图片来源：Geek and Poke!

##  您的看法如何？

欢迎在评论区分享您对这些预测或想法的看法。我很愿意进行讨论、辩论，并乐于接受不同
意见。🙂

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**ChatGPT ↗**

OpenAI 研发的通用人工智能对话大模型，支持多模态交互与深度推理。

**Claude ↗**

Anthropic 打造的新一代安全人工智能模型，具备超长上下文理解能力，最强代码伴侣。

**LLaMA ↗**

Meta（Facebook）推出的AI大语言模型。

❓ 常见问题解答（FAQ）

为什么说多模型策略会变得必不可少？

因为单一模型一旦不可用，应用就可能受影响；多模型策略能提供后备方案，提升可用性与
供应商冗余。文章认为未来模型更容易替换，且多数模型会达到“足够好”的水平，因此切换
成本会下降。

文章为什么强调本地模型的重要性？

本地模型能让团队掌握自己的数据、微调版本和控制权，降低对外部模型波动的依赖。作者
还将其类比为自建基础设施：虽然维护更重，但可控性更强。

LLM 会让软件开发更轻松还是更复杂？

作者判断是更复杂。LLM 虽减少部分编码和样板工作，但会带来更多基础设施、测试、日志、
提示管理和隐藏 bug 的需求，整体软件工作量可能上升。

🔬 语宙深潜追问 · 进阶实操拆解

多模型战略落地最难的是什么？

难点不在接 API，而在统一评测、路由和回退机制。要先定义任务分层，再按成本、延迟、
质量做模型选择，并建立可观测性，避免“模型越多越乱”。

本地模型什么时候值得投入？

当数据合规、低延迟或成本控制成为硬约束时，本地模型才真正有价值。否则先用云端模型
验证业务，再逐步把高频、稳定、敏感任务迁移到本地。

🗳️ 读者观点微投票 · 您的实战立场是？

AI时代开发者最该押注多模型吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[⚡ 所属权威专题：OpenAI GPT 与 Sora 生态 →](https://paooo.com/topics/openai-gpt-sora/)

 * [2023 年 AI 领域的重大发现 [译]](https://paooo.com/ai-study/8472/)
 * [解锁 AI 的未来：主动推理与大语言模型的比较 —— 世界与文字 [译]](https://paooo.com/ai-study/8489/)
 * [使用大语言模型 (LLMs) 构建产品一年后的经验总结 (第二部分)[译]](https://paooo.com/ai-study/8728/)
 * [大部分 AI 创业公司的未来不乐观 [译]](https://paooo.com/ai-study/7036/)

[🏛️ 宝玉的分享](https://paooo.com/author/baoyu/) · 前沿大模型翻译与提示词工程实战
分享专栏，聚焦海外一手 AI 技术动态与工程实践。

[📄 Markdown 纯净版](https://paooo.com/ai-study/7070/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
