随着人工智能技术的爆发式增长,作为大模型计量与结算核心单位的 Token 正在迎来爆发式增长。最新官方统计数据显示,截至 2026 年 3 月,我国日均词元调用量已强劲攀升至 140 万亿次以上。这一惊人数字不仅较 2024 年初实现了千倍跃升,即便与 2025 年底相比,短短三个月内的增幅也超过了四成,凸显出国内大模型应用正处于极速扩张阶段。
首创平台监测大模型吞吐与时延
为了给激增的产业需求提供客观的选型参考,中国信息通信研究院人工智能研究所等机构宣布,将于 6 月 16 日在北京联合召开“高质量 Token 服务研讨会”。在此次行业盛会上,官方将正式上线全新版本的“公有云大模型 Token 服务性能监测平台”,并首次公开发布权威的监测结果报告。该平台将对当前主流大模型服务平台的 Token 吞吐率、时延等关键性能指标进行客观的量化评估。
这套即将发布的“Token 服务”系列标准,将首次为国内人工智能底层算力与运力服务划定清晰的技术红利界限。届时,论坛还将特邀国内头部科研机构、主流大模型厂商、运营商以及应用方代表,共同围绕如何构建更高效、更具性价比的词元服务生态展开深度主题分享。
启动专项计划赋能可信 AI
除了发布性能测评榜单,本次大会还将成立专门的“高质量 Token 服务特别研究组”,并同步启动“高质量 Token 服务能力攀登计划”。这一系列举措旨在凝聚行业核心力量,全面推动国内公有云大模型服务向更高质量、更稳定的方向加速演进。
值得关注的是,大会期间还将举行权威的颁证仪式,为首批通过“可信 AI-高质量 Token 服务评估”的优秀单位颁发官方证书。通过标准解读与标杆企业的示范效应,信通院期望能引导整个大模型产业攻克性能瓶颈,为千行百业的数字化转型提供更坚实的智能底座支撑。
公有云大模型Token性能榜什么时候发布?
根据文中信息,信通院等机构将于6月16日在北京联合召开“高质量 Token 服务研讨会”,并在会上正式上线新版“公有云大模型 Token 服务性能监测平台”,首次公开发布监测结果报告。
这个Token服务监测平台主要看什么指标?
平台将对主流大模型服务平台的 Token 吞吐率、时延等关键性能指标进行客观量化评估,重点为企业选型和服务能力比较提供参考。
我国大模型Token调用量增长到什么水平?
最新官方统计显示,截至2026年3月,我国日均词元调用量已超过140万亿次,较2024年初实现千倍跃升,且较2025年底三个月内增幅超过四成。
如何把Token榜单用于真实选型?
先按业务拆成峰值吞吐、P95时延、上下文长度和成本四项,再用同一批真实提示词压测。榜单适合做初筛,最终还要看你的并发模式、缓存命中率和失败重试策略是否匹配。
企业落地时该怎么做压测基准?
用生产级样本而不是玩具提示词,覆盖长短输入、流式输出、工具调用和高并发场景。建议同时记录首 token 时间、稳定吞吐、错误率与单次成本,避免只看平均值误判。
