据报道,智谱已斥资数亿元人民币收购AI Infra公司中科加禾(XCore Sigma),进一步补齐模型底层工程能力,强化国产算力适配和推理优化能力。
中科加禾是一家聚焦编译技术的AI异构算力软件基础设施公司,技术源自中科院计算所编译实验室。其核心团队曾参与龙芯、神威、寒武纪、华为昇腾等国产芯片编译器研发,具备从虚拟指令集设计、算子生成到优化部署的全链路能力,目标是为国产AI大模型提供统一软件底座。
此前,智谱已投资基流科技、无问芯穹、硅基流动等AI Infra企业,覆盖算力集群、推理优化等环节。但随着模型调用规模快速增长,基础设施压力逐渐显现。今年3月GLM-5发布后,Coding Agent日调用量达到数亿次,部分用户反馈复杂任务中出现输出异常。智谱复盘发现,高并发场景下推理架构和KV Cache管理存在工程挑战。
此次收购有望提升智谱在多芯片环境下的适配效率。中科加禾的编译器技术可通过中间层连接不同国产芯片生态,提高算力利用率。此外,其SigInfer推理引擎此前宣称可降低推理时延、提升吞吐效率,若能落地生产环境,将进一步降低模型服务成本。
随着AI竞争从模型能力扩展至算力、软件基础设施和生态建设,编译器等底层技术正成为大模型企业构建长期竞争力的重要方向。
本文属于AI基础设施方向的短快讯,重点不在模型参数或功能发布,而在底层工程能力补强。对大模型厂商而言,真正影响商业化体验的往往是推理延迟、吞吐、KV Cache管理和多芯片适配。相比单纯做模型训练,编译器、推理引擎和算力调度更接近生产系统核心;与通用云算力方案相比,面向国产芯片的统一软件底座更能提升落地效率与成本控制。
智谱收购中科加禾主要补强什么能力?
核心是补强AI Infra底层工程能力,重点包括国产算力适配、编译器优化和推理效率提升。中科加禾的技术可作为中间层连接不同芯片生态,帮助提升算力利用率与部署效率。
中科加禾的技术对大模型部署有什么价值?
其编译器能力覆盖从虚拟指令集设计、算子生成到优化部署的全链路,适合多芯片环境下统一软件底座建设。对大模型而言,可降低适配成本、提升推理吞吐,并有助于控制服务成本。
为什么这次收购与GLM-5高并发问题有关?
报道提到,GLM-5发布后Coding Agent日调用量达到数亿次,高并发下暴露出推理架构和KV Cache管理的工程挑战。收购AI Infra公司,正是为了增强底层系统能力,缓解这类规模化服务压力。
推理引擎最该优化什么?
优先级通常是吞吐、延迟、显存占用和多芯片适配。尤其在高并发场景下,KV Cache 管理、批处理调度和算子融合最能决定实际成本,而不是单纯追求峰值算力。
国产算力适配的难点在哪?
难点在编译器、驱动、算子库和调度层的协同,而不是单点性能。要真正跑稳,需要把模型图优化、内存管理和硬件特性一起打通,才能把利用率做上去。
