Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: 现代 AI 技术架构:企业 AI 未来设计的关键原则 [译]
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
截至 2024 年 1 月的现代 AI 技术栈市场图
Prompt 语宙 > 强化 AI 学习 > 现代 AI 技术架构:企业 AI 未来设计的关键原则 [译]
强化 AI 学习

现代 AI 技术架构:企业 AI 未来设计的关键原则 [译]

宝玉的分享
最近更新: 2026年5月23日 下午6:25
AI智能体 Claude OpenAI RAG检索增强 大模型微调
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 现代 AI 架构已从“先训练模型”转向“先做产品”,API 接入让企业快速落地 AI 能力。
  • 企业当前主战场是 RAG 与数据基础设施,向量数据库、预处理和上下文缓存成为关键组件。
  • 未来趋势是混合模型与定制微调并行,推理支出将远高于训练,部署与可观测性更重要。

现今,我们正处在决定现代 AI 技术架构未来的关键时刻。机器现在不仅仅是计算工具,它们已经拥有了推理、创造和创新的能力。这些新兴能力正推动企业对他们的技术架构进行根本性的重塑。虽然早期的 AI 变革给人一种无序的感觉,但现在,开发者们正在基础设施、工具和方法上达成共识。(我们在去年 11 月的Menlo 企业 AI 状态报告中首次报告了这种转变。)

阅读目录
  • 界定现代 AI 技术架构
  • 新的 AI 成熟度曲线
  • 新 AI 基础设施堆栈的四大关键设计原则
    • 1. 推理而非训练占据了大部分支出
    • 2. 我们处在多模型时代
    • 3. RAG 成为主流的架构方式
    • 4. 如今,所有开发者都是 AI 开发者
  • 未来展望
    • 下一代 AI 应用探索更高级的 RAG 技术
    • 小型模型在现代 AI 架构中的重要性日益增加
    • 新兴工具用于提高模型的可观测性和评估能力
    • AI 架构的新趋势:迈向无服务器时代

我们非常高兴地分享我们的看法:AI 的发展将如何演变,以及构成现代 AI 技术架构的核心基础设施部分——这些部分将共同构建出未来十年 AI 应用的新运行架构。

界定现代 AI 技术架构

2023 年,企业在构建现代 AI 技术架构方面的投入超过了 11 亿美元,这使其成为生成式 AI 领域中最大的新兴市场,也为创业公司提供了巨大的发展机会。

在 Menlo Ventures,我们将现代 AI 技术架构的关键层次定义为:

  • 第一层:计算能力和基础模型。 这一层包括基础模型本身,以及用于训练、微调、优化和最终部署这些模型的基础设施。

  • 第二层:数据处理。 这一层负责将大语言模型(LLM)与企业数据系统中的相关内容连接起来。它的核心组件包括数据预处理、ETL(提取、转换、加载)及数据管道,以及各种数据库,如向量数据库、元数据存储和上下文缓存。

  • 第三层:部署工具。 这一层包含帮助开发者管理和协调 AI 应用的工具,涵盖了智能体框架、提示管理,以及模型路由和协调功能。

  • 第四层:可观测性。 这是现代 AI 技术架构的最后一层,它提供了监控大语言模型运行时行为和防范威胁的解决方案,包括用于大语言模型观测性和安全性的新型解决方案。

截至 2024 年 1 月的现代 AI 技术栈市场图
截至 2024 年 1 月的现代 AI 技术栈市场图

新的 AI 成熟度曲线

在现代 AI 领域,市场结构和技术都在快速演变。关键的组件和领导者正在逐渐浮出水面。这些早期成功者的出现预示着一种全新的 AI 成熟度曲线,它与传统的机器学习开发过程大不相同。

截至 2024 年 1 月的现代 AI 技术栈市场图
AI 成熟度曲线已变化

在大语言模型 (LLM) 问世之前,机器学习 (ML) 的发展过程是一条直线,重点放在模型的构建上。构建 AI 应用的团队需要从头开始打造模型,这个过程不仅耗时漫长,涉及数据收集、特征设计和反复训练,而且还需要一群博士级的专家,直到最终将系统转化为面向客户的产品。

然而,大语言模型彻底颠覆了这种模式。它让 AI 开发变得以产品为先,即使是没有机器学习背景的团队也能轻松地将 AI 融入他们的产品中。现在,任何人都可以通过接入 OpenAI 或 Anthropic 提供的 API,立刻使用世界级的强大模型,从而使公司能够以产品为起点,而不是模型。

虽然将简单的 API 调用整合入产品相对容易,但随着 AI 技术的深入发展,开发团队会追求更加定制化的 AI 体验,比如结合企业或客户特有的数据。他们可能从简单的提示优化,如检索增强生成 (RAG),逐渐过渡到模型层面的优化,包括模型选择、微调或是数据量化等,这些优化是基于性能、成本和响应速度等因素考虑的。

在过去一年里,AI 的建造者们一起经历了从传统机器学习到新 AI 成熟度曲线的转变,逐步确立了一系列新的基础构建块,为生产级 AI 系统在每个发展阶段提供了必要的支撑。

  • 第一阶段:仅闭源模型阶段。2023 年初,投资和工程技术主要聚焦于基础模型本身,并只进行了一些基础的定制化改进,比如使用引导词汇(prompt engineering)和少样本学习(few-shot learning)。像OpenAI和Anthropic这样的领先闭源模型公司在此阶段迅速崭露头角,成为现代 AI 技术栈早期的佼佼者。
  • 第二阶段:加入检索增强的生成技术。随后,企业在新的发展阶段开始将重点放在数据处理,而不是仅仅专注于模型本身。特别是,检索增强生成(RAG)技术的流行促使企业需要构建更强大的数据处理基础设施,如向量数据库Pinecone和数据预处理引擎Unstructured。大多数企业和创业公司现在正处于这一发展阶段。
  • 第三阶段:混合模型的部署。最新的发展是 AI 技术成熟度曲线上的第三阶段,一些领先公司如Typeface和Descript开始将闭源模型和开源模型结合使用,以应对高容量、特定领域的任务。这种趋势的推动下,模型部署供应商如Modal、Baseten和Fireworks开始获得显著关注。
  • 第四阶段及未来:定制模型。尽管目前只有少数公司有建立自己模型的复杂需求,但未来大型企业可能会深入探索这一领域。为此,Predibase和Lamini等公司提供了一系列内存效率高的微调工具,包括 4 位量化技术、QLoRA 以及内存分页/卸载技术,以支持他们的需求。

新 AI 基础设施堆栈的四大关键设计原则

AI 革命不仅催生了对新型基础设施堆栈的需求,还从根本上改变了企业在应用开发、研发投资和团队构建方面的思路。在接下来的部分中,我们将详细介绍适应这一新趋势的四大关键设计原则。

1. 推理而非训练占据了大部分支出

在大语言模型 (LLM) 革命初期,人们认为将来每家公司都可能训练自己的大语言模型。以 BloombergGPT 为例,它是一个专注于财经数据的 500 亿参数大语言模型,2023 年 3 月发布,被看作是企业和领域特定大语言模型涌现的先声。

截至 2024 年 1 月的现代 AI 技术栈市场图
展示 AI 采纳者在训练与推理上的预计支出的图表

然而,这种大规模需求并没有如预期那样出现。相反,根据 Menlo Ventures 的最新企业 AI 调查 显示,几乎 95% 的 AI 支出用于模型的运行,而不是预训练阶段。仅在像 Anthropic 这样的大型基础模型供应商中,这种情况才刚好相反。在应用层,即便是像 Writer 这样的高级 AI 开发者,也将超过 80% 的计算资源用于模型推理,而不是训练。

2. 我们处在多模型时代

没有任何一个模型能独霸天下。根据 Menlo 的企业 AI 报告 指出,60% 的企业采用多种模型,并根据性能将输入指令发送到最合适的模型。这种多模型策略不仅减少了对单一模型的依赖,还提高了可控性,并且能有效降低成本。

截至 2024 年 1 月的现代 AI 技术栈市场图

3. RAG 成为主流的架构方式

大语言模型 (LLM) 在逻辑推理方面表现出色,但在特定领域和企业知识上则显得有所不足。为了打造实用的 AI 应用,团队们正迅速采用知识增强手段,首选的就是检索增强生成(RAG)技术。

截至 2024 年 1 月的现代 AI 技术栈市场图

图片提供:Clemens Mewald

RAG 技术通过像 Pinecone 这样的向量数据库,为基本模型增加了针对特定企业的“记忆”功能。它的发展速度远超过其他定制技术,比如微调、低秩适应或适配器,这些技术主要集中在模型层面的调整。我们预计,未来这种趋势将持续,新的数据处理组件——例如数据预处理引擎(如 Cleanlab)和 ETL 管道(如 Unstructured)——也将在实时架构中发挥作用。

4. 如今,所有开发者都是 AI 开发者

全球有 3000 万开发者,30 万机器学习工程师,但机器学习研究员只有 3 万名。在机器学习领域的前沿,全球可能只有 50 名研究员真正掌握了构建 GPT-4 或 Claude 2 这样高级系统的知识。

面对这种情况,好消息是,现在普通开发者可以在几天或几周内完成过去需要多年基础研究和深厚机器学习知识才能实现的任务。他们在强大的预训练大语言模型 (LLM) 基础上构建数据系统。

例如 Salesforce 的 Einstein GPT(一个面向销售的生成式 AI 辅助工具)和 Intuit Assist(一个由生成式 AI 驱动的财务助理),这些产品大多是由 AI 工程师的小型团队开发的。这些工程师多为传统的全栈工程师,他们在现代 AI 架构的数据层面工作,而不是像数据科学家、机器学习工程师或研究员那样专注于模型层面。

未来展望

随着现代 AI 架构的快速发展,我们预见今年将出现许多新的发展:

下一代 AI 应用探索更高级的 RAG 技术

虽然 RAG(一种先进的检索与生成技术)目前在 AI 领域占据主导地位,但它并非没有问题。目前许多实现方式还在使用一些基础的嵌入和检索方法,如令牌计数法切分文档和效率不高的索引排名算法。这导致了一些普遍问题,例如:

  • 上下文碎片化。学术测试中答案往往集中在文档的某个地方,但在实际应用中很少这样。
  • 幻觉现象。在需要多步骤推理的任务中,大语言模型 (LLM) 的表现和准确性会下降。
  • 实体稀有性。在特定情况下,传统的基于词匹配的“稀疏检索”方法有时比基于数据嵌入的“密集检索”效果更好。
  • 检索效率低。存在高延迟和成本问题。

为解决这些问题,新一代的架构正在尝试更先进的 RAG 应用,结合了如链式思维推理、树状思维推理、反思 和基于规则的检索等新技术。

小型模型在现代 AI 架构中的重要性日益增加

随着 AI 应用开发者对现代 AI 架构的深入理解和精细化操作,我们发现越来越多针对特定任务的精细调整模型正在崭露头角,尤其是在大型闭源模型显得笨重或成本高昂的领域。在这个阶段,搭建机器学习流程和进行模型微调的基础设施变得至关重要。像 Ollama 和 ggml 这样的量化技术,能帮助团队充分利用小型模型的性能优势。

新兴工具用于提高模型的可观测性和评估能力

2023 年,大多数企业在日志记录和模型评估方面要么没有进行,要么依靠手工操作,或是使用学术基准作为起点。我们的研究显示,约 70% 的 AI 应用者依赖人工审核输出作为主要评估手段。这是因为输出质量至关重要:客户期望得到高质量的结果,而企业也非常关注幻觉现象可能带来的信任危机。因此,观测和评估成为新工具开发的一个重大机遇。目前已经出现了一些有前景的新方法,例如 Braintrust、Patronus、Log10 和 AgentOps。

AI 架构的新趋势:迈向无服务器时代

在企业数据系统的其他领域,我们看到现代 AI 技术栈正在逐步转向无服务器架构。这里我们要区分两种无服务器类型:一种是基于“临时计算资源”的无服务器(例如 Lambda 函数),另一种是真正能够按需扩展至零的无服务器(例如,Neon为 Postgres 设计的架构)。

对于后一种架构,通过将基础设施的管理抽象化,开发者可以摆脱运行应用时的复杂管理任务,这不仅使得产品迭代更加迅速,还能让企业仅按实际计算使用量付费,而不是按系统可用性付费,从而实现资源的显著优化。无服务器理念将被应用到现代 AI 技术栈的每一个部分。Pinecone 在其最新的向量计算架构中已经采用了这种方法。对于 Postgres 的 Neon、对于缓存的 Momento,以及 Baseten 和 Modal 在推理方面,都在积极拥抱这种趋势。

在 Menlo,我们对现代 AI 技术栈的各个层面进行了广泛投资,其中包括 Anthropic、Pinecone、Neon、Clarifai、Cleanlab、Eppo、Truera 等。我们还投资了诸如 Abnormal Security、Aisera、Eve、Genesis Therapeutics、Lindy、Matik、Observe.ai、Sana、Typeface 和 Vivun 等利用这些工具建立的公司。随着 AI 技术栈的持续发展,我们渴望与那些将定义其未来关键组成部分的基础设施建设者携手合作。如果你正在 AI 领域探索创新,欢迎随时联系我们。

*受 Menlo Ventures 支持

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
Anthropic ↗
Anthropic:人工智能安全和研究公司,面向大语言模型场景提供便捷实用的在线功能支持,涵盖智能工具等实用方向
❓ 常见问题解答(FAQ)
现代 AI 技术架构主要包含哪些层?

文章将现代 AI 技术架构分为四层:计算能力和基础模型、数据处理、部署工具、可观测性。它们分别对应模型训练与部署、企业数据连接、应用编排管理,以及运行监控与安全防护。

企业做 AI 落地为什么更重视 RAG?

因为大模型接入产品后,企业最需要的是把自身数据接入模型并提升回答准确性。RAG 能通过检索企业知识增强生成效果,因此带动了向量数据库、数据预处理和数据管道等基础设施需求。

为什么说 AI 支出会更多花在推理而不是训练?

文章指出,随着企业从模型研发转向产品化应用,真正持续发生的是调用模型、检索数据、编排流程和监控运行的推理成本。相比一次性的训练投入,推理会成为长期主要支出。

🔬 语宙深潜追问 · 进阶实操拆解
企业 AI 架构该先从哪一层切入?

多数企业应先从数据处理和部署工具入手,而不是一上来追最强模型。先把数据清洗、权限、检索、日志和评测链路打通,才能让模型选择、RAG 和微调真正可控。

什么时候该从 RAG 转向微调?

当知识更新频率高、答案必须贴合企业语气或流程、且检索结果已无法稳定满足质量要求时,再考虑微调。若主要问题是知识召回和上下文拼接,优先优化 RAG 更划算。

🗳️ 读者观点微投票 · 您的实战立场是?
企业上 AI,先押模型还是先建数据底座?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
🧬 所属权威专题:RAG 知识库与模型微调 →
  • AI 之后软件开发领域的 3 个预测 [译]
  • 整合人工智能的两大策略 [译]
  • 基层晋升管理者、AI 充当高管顾问!OpenAI 员工万字长文拆解《公司的未来》:透视企业级 Agent 三种组织形态与四大生死考题全景深度拆解
  • 技术领导者需要知道的 5 个关于生成式 AI 的残酷真相 [译]
🏛️ 宝玉的分享 · 前沿大模型翻译与提示词工程实战分享专栏,聚焦海外一手 AI 技术动态与工程实践。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
ThumbnailAI缩略图
[AI生图咒语] 复古纱丽与红玫瑰的90年代电影感氛围
Cowart – 开源的本地无限画布插件,让 Codex 看图说话
PixVerse Game – 爱诗科技推出的首个实时视频游戏引擎
五大科技巨头隐性债务激增至 1.65 万亿美元,投资风险加剧!
TAGGED:AI智能体ClaudeOpenAIRAG检索增强大模型微调
分享
Email 复制链接 打印
Share
宝玉的分享 头像
By宝玉的分享
Follow:
前沿大模型翻译与提示词工程实战分享专栏,聚焦海外一手 AI 技术动态与工程实践。
上一篇 Apple Vision Pro 评测:初见惊艳,后觉平常 [译] Apple Vision Pro 评测:初见惊艳,后觉平常 [译]
下一篇 零利率时代的终结:对软件工程师而言新常态意味着什么 [译] 零利率时代的终结:对软件工程师而言新常态意味着什么 [译]
Ad image
Ad image

最近更新

WordPress 7.2版本更新与默认随机重定向、Secrets API撤回及MCP核心能力拆解封面图
官方博客竟把关闭过滤器写错了!WordPress 7.2前瞻全拆解:默认/random/暗藏隐私与SEO风险、Secrets API紧急撤回与3项MCP只读能力落地
AI 工具
Anthropic上市募资与算力长约的隐喻:现金光环上升,数据中心暗链延伸,治理水晶承受张力与阻力冲击。
募资超1070亿美元却背负9000亿算力长约!Anthropic史上最大IPO背后的三大隐忧:1040亿年内亏损、地方抵制潮与PBC治理死结
AIGC 资讯
微软Copilot与Claude/ChatGPT价格战隐喻:发光玻璃表格堡垒守住Excel,数据流高效汇聚,企业AI竞争升级
3000万付费仅吃下4.5亿席位不到7%!微软Ignite正面叫板Claude与ChatGPT:月均30美元VS 205美元价格战与Excel保卫战全拆解
AIGC 资讯
联想AI推理时代的端边云全栈算力插画:玻璃拟态服务器核心发光,光流连接云端与边缘节点,呈现营收与订单增长动能。
AI营收暴涨80%且握5300亿服务器订单!联想Q2单季营收首破2000亿、净利狂飙166%:端边云全栈算力如何接住推理时代红利?
AIGC 资讯

相关推荐

Grok 4.5 – SpaceXAI推出的新一代旗舰大语言模型
AIGC 资讯

Grok 4.5 – SpaceXAI推出的新一代旗舰大语言模型

Prompt 语宙研究院
AI编程 Claude Cursor Kimi OpenAI
SpatialScout三维空间智能基准插画:机器人在复杂室内动态建图,三角测量光束与物体中心定位可视化,玻璃拟态光影质感。
强化 AI 学习

从静态刷榜跃迁至主动物理探索!北大联手天大开源三维空间智能基准SpatialScout:80大复杂室内场景、3140个物体公制建模与VLM三角测量瓶颈全景深度拆解

Prompt 语宙研究院
SpatialScout 三维空间智能 主动感知 具身智能 北京大学
GPT-5.6意外曝光:150万token上下文窗口破纪录,商用级前端生成引发AI巨头新一轮遭遇战
AIGC 资讯最新趋势

GPT-5.6意外曝光:150万token上下文窗口破纪录,商用级前端生成引发AI巨头新一轮遭遇战

Prompt 语宙研究院
AI竞争 AI绘画提示词 AI编程 Codex GPT-5.6 OpenAI OpenCode 上下文窗口
Automaited
AI 工具

Automaited

remaker
AI办公效率 AI智能体
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.