---
title: "本地跑通 1000 亿参数大模型：Acrab 发布边缘 AI 芯片 GΞLIX 1，5nm 制程撑起 650TOPS"
url: "https://paooo.com/aigc-news/38656/"
author: "Prompt 语宙研究院"
published_at: "2026-07-23T15:00:48+08:00"
updated_at: "2026-07-23T15:00:48+08:00"
categories: "AIGC 资讯"
tags: "AI智能体, 开源大模型"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# 本地跑通 1000 亿参数大模型：Acrab 发布边缘 AI 芯片 GΞLIX 1，5nm 制程撑起 650TOPS

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/38656/) · 作者：Prompt 语宙研究院 · 发布时间：2026-07-23

## AI 30 秒核心看点 (TL;DR)

- 5nm 边缘 AI 芯片 GΞLIX 1 以 650TOPS 算力，主打 100B 级大模型端侧本地推理。
- 集成 20 核 Arm CPU、3TFLOPS GPU、独立 NPU 与音视频引擎，面向高吞吐推理优化。
- 官方称其在 40k KV 缓存、10k Token 输入下跑出 1416.8 Token/s，重点强化预填充阶段。

一家叫 Acrab 的初创公司，今天正式把它的第一款边缘 AI 终端 SoC 端上了台面——GΞLIX 1。这块基于 5nm 制程的芯片，主打一个硬指标：能让 1000 亿参数规模的大模型，直接在本地跑起来，不必把数据送去云端。

硬件上，GΞLIX 1 走的是异构计算架构，把 20 核 Arm CPU、3TFLOPS 的 GPU、独立 NPU 以及音视频处理引擎全收进一颗芯片，AI 总算力拉到 650TOPS。横向摆一下就更清楚了：高通骁龙 X Elite 的 NPU 算力约 45TOPS，英特尔酷睿 Ultra 系列的 NPU 在 40TOPS 上下——GΞLIX 1 的 AI 算力差不多是它们的十几倍。

为喂饱大模型推理那张贪婪的胃口，缓存与内存子系统也专门按高吞吐需求设计。芯片配了 8MB L1 缓存，共享 L2 缓存带宽冲到 768GB/s，外挂 256-bit 位宽的 LPDDR5X 内存，传输速率 8533MT/s。大模型推理时，权重读取和 KV Cache 存取对内存带宽格外敏感，这套配置正是 100B 模型能落到端侧的地基。

这一回，Acrab 重点秀的是预填充阶段的性能。预填充，就是大模型接到用户输入后、开始一个字一个字往外蹦之前，先把整段输入做全量编码的过程，它的快慢直接决定长文本输入下的首 Token 延迟。Acrab 用矢量硬件单元给 Transformer 注意力机制计算加速，又对预填充路径做了针对性优化。官方放出的测试里，在 40k KV 缓存、10k Token 输入的 Gemma 26B A4B 配置下，这块芯片跑出了 1416.8 Token/s，是苹果 M4 Pro Mac Mini 的 7.5 倍。

软件侧，Acrab 同步端出了完整软件栈加智能体参考设计，从底层驱动一路覆盖到上层应用框架。第一方终端设备 Agent Box 也一并亮相，作为 GΞLIX 1 的参考实现，供开发者评估和做原型验证。

## 常见问题解答 (FAQ)

### GΞLIX 1 能本地跑多大参数的大模型？
Acrab 在介绍中称，GΞLIX 1 的目标是支持 1000 亿参数规模的大模型直接在本地运行，减少对云端的依赖。其设计重点在于高算力与高带宽内存子系统配合，服务端侧推理场景。

### GΞLIX 1 的 AI 算力有多强？
官方给出的 AI 总算力为 650TOPS，芯片采用 20 核 Arm CPU、3TFLOPS GPU、独立 NPU 和音视频处理引擎的异构架构。文中对比显示，这一算力明显高于骁龙 X Elite 和英特尔酷睿 Ultra 系列的 NPU。

### GΞLIX 1 的实测性能亮点是什么？
Acrab 重点展示了预填充阶段性能：在 40k KV 缓存、10k Token 输入的 Gemma 26B A4B 配置下，官方测试结果为 1416.8 Token/s，约为苹果 M4 Pro Mac Mini 的 7.5 倍。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)
