CIX AGX Station：面向本地70B–150B模型推理的桌面AI超级计算机

引言

中国芯片公司CIX在2026年世界人工智能大会（WAIC）期间于上海发布了AGX Agentic Compute（智能体计算） 战略，同时推出了一款名为AGX Station的紧凑型系统。

该公司将AGX Station描述为一款模块化桌面级AI计算平台，能够本地运行大模型推理任务。根据所安装的加速器配置，CIX表示该系统专为700亿至1500亿参数范围的模型、多智能体并行工作负载以及通过高速网络实现集群部署而设计。

此次发布是构建面向AI智能体的一体化计算栈更广泛尝试的一部分。CIX没有将处理器、加速卡、操作系统、模型网关和智能体运行时视为独立产品，而是将AGX定位为一个涵盖硬件、系统软件和部署工具的平台。

本文中的规格参数和性能声明主要基于CIX的发布材料和官方公告。在独立基准测试、定价详情、内存配置、支持的模型列表及量产可用性公布之前，这些信息应被视为供应商宣称内容。

CIX在2026年WAIC上宣布的内容

CIX于2026年7月17日在上海与世界人工智能大会同期举行了AGX Agentic Compute发布活动。

此次发布包含三个相互关联的部分：

1. AGX Agentic Compute战略，涵盖本地设备、边缘系统和云基础设施。
2. AGX Station，一款模块化桌面级AI计算系统。
3. AGX OS，一个旨在管理模型、加速器、权限、智能体执行和私有部署的软件环境。

CIX将此次发布定位为AI工作负载的转型。训练仍然计算成本高昂，但已部署的智能体创造了另一种需求：重复推理、长时间运行进程、工具调用、记忆检索、工作流执行以及与本地或企业数据的持续交互。

对于这些工作负载，峰值加速器性能只是系统的一部分。CPU调度、内存容量、数据传输、软件兼容性、功耗、安全性以及模型路由都可能影响智能体是否具有实用操作性。

AGX Station概览

AGX Station是新平台中最引人注目的产品。

CIX及其发布报道对该系统的描述如下：

特性：

功能	宣称能力
主要用途	本地大模型推理与多智能体计算
模型规模	700亿至1500亿参数（视配置而定）
算力扩展	160至320 TOPS
加速器形态	M.2、MXM与PCIe
网络连接	双口10GbE RDMA支持多系统互联
架构设计	模块化可扩展
基础处理器	CIX P1智能体SoC
软件生态	AGX OS与集成模型/服务层
部署方式	桌面使用或多单元集群
公开尺寸	150×150×60毫米（发布覆盖范围）

参数范围本身并不能定义模型的实际可用性。运行1500亿参数模型取决于数值精度、量化方式、内存容量、内存带宽、上下文长度、缓存大小、加速器兼容性以及模型跨设备分布程度等因素。

CIX尚未公布足够的配置细节，以独立确定70B、122B或150B等特定模型的预期token吞吐量。

为什么"桌面超级计算机"与AI PC不同

桌面AI超级计算机这个说法听起来可能与AI PC相似，但两者的目标工作负载存在本质区别。

主流AI PC通常搭载集成NPU，用于转录、图像增强、本地助手、视频特效和小型语言模型等任务。其设计旨在平衡续航能力、通用应用性能与消费级用户体验。

而AGX Station的定位更接近紧凑型推理服务器或工作站。其核心优先级包括：

• 支持更大规模的本地模型
• 可更换或扩展的AI加速器
• 持续运行的智能体执行
• 多智能体调度能力
• 多单元间的高速互联
• 私有数据处理
• 兼容不同国产AI加速器生态

因此，该产品更接近于本地部署的AI专用设备，而非传统台式计算机——尽管其物理尺寸小到足以置于桌面。

CIX P1作为基础处理器

AGX架构围绕该公司的CIX P1构建，这是一款基于Arm架构的异构处理器。

CIX针对其他采用P1处理器的系统所公开的资料显示，其设计融合了：

• 12核Armv9.2 CPU
• Arm Immortalis-G720 GPU
• 专用NPU
• 高带宽统一内存支持
• PCIe扩展能力
• 硬件安全特性
• 异构调度软件栈

并非所有基于P1的设备都采用相同的内存、扩展、散热或加速器配置。例如，联想AI主机mini的规格参数不应直接视为AGX Station的完整配置说明。

在AGX Station中，该处理器的角色似乎远不止运行神经网络运算。在智能体工作负载中，CPU可协调工具调用、管理操作系统进程、调度加速器任务、处理输入输出、维护长时间运行的服务，并监督多个智能体任务的执行。

这也是CIX强调CPU、GPU、NPU与可选外置加速器协同工作，而非将系统定位为单一固定推理芯片的原因之一。

模块化

加速器架构

AGX Station最重要的设计抉择之一，是其对多种加速器规格的支持。

据CIX介绍，该系统可适配M.2、MXM和PCIe三种AI计算卡，同时兼容多家中国芯片公司的加速器产品，并保留对特定半高显卡的支持。

这种模块化设计直击AI硬件市场的核心痛点：不同模型和软件框架在不同加速器上的表现可能大相径庭。

然而，有物理插槽并不能保证软件兼容性。实际支持依然取决于：

• 驱动程序
• 编译器工具链
• 内核支持
• 模型算子
• 量化格式
• 运行时库
• 内存管理机制
• 框架集成
• 性能调优
• 长期软件维护

因此，AGX Station的成功与否，不仅取决于物理接口选择，更取决于其支持的软件生态矩阵。

70B–150B模型的本地推理

CIX表示，当配置了合适的加速器硬件后，AGX Station可支持对700亿至1500亿参数规模的模型进行本地推理。

这一参数区间意义重大——此前此类规模的模型通常需要多GPU工作站、机架服务器或云端部署才能运行。

本地推理具备以下优势：

数据留存在组织内部

文档、提示词、嵌入向量、内部数据库及生成结果均可保留在受控环境中。这能简化某些隐私和数据驻留要求的管理，但部署的完整安全性仍取决于网络配置、访问策略、日志记录、存储方案及运维规范。

基础设施成本可预测

本地系统将部分按用量计费的API支出转化为硬件采购、电力、冷却和维护成本。对于持续运行的工作负载而言更为经济，但偶发性或高波动性需求场景中云服务依然更具效率。

网络依赖性降低

本地部署的模型在外网连接受限时仍可正常运行，并能降低周边应用的往返延迟。

更强的模型控制力

团队可自主选择权重参数、量化方案、推理引擎、系统提示词、检索架构及更新周期。

对应的代价是运维责任。本地部署要求进行模型评估、补丁管理、监控告警、安全审计、容量规划及硬件维护。

参数规模不等于实际性能

"支持150B参数模型"这类表述虽有参考价值，但不够全面。

以下因素将决定实际使用体验：

1. 采用何种精度？
   FP16、BF16、FP8、INT8、INT4及其他

不同格式对内存的要求差异极大。

2. 安装了多少内存？
   模型权重、KV缓存、运行时缓冲区以及应用程序数据都会竞争内存资源。

3. 支持多长的上下文长度？
   长上下文会显著增加缓存需求。

4. 令牌吞吐量是多少？
   成功加载模型并不等同于能以可接受的速度提供服务。

5. 支持多少并发用户或智能体？
   并行请求可能会降低每个会话的性能。

6. 使用的是哪种运行时？
   软件优化可以显著改变延迟和吞吐量。

7. 模型是适合单系统还是需要多个单元？
   分布式推理会引入通信开销。

在 CIX 发布逐模型基准测试之前，AGX Station 声称的 70B–150B 范围应视为支持的配置目标，而非性能保证水平。

多智能体并行计算

AGX Station 同样适用于多智能体工作负载。

多智能体系统可能同时运行多个专业化组件，例如：

• 规划器
• 检索智能体
• 编码智能体
• 浏览器或工具智能体
• 验证智能体
• 记忆服务
• 本地嵌入模型
• 大型推理模型

这些组件并非始终需要相同的处理器。较小的模型可在集成 NPU 上高效运行，而较大的推理模型则使用加速卡。CPU 可协调任务状态、权限、文件和工具执行。

CIX 表示其分布式架构支持并行多智能体计算与智能调度。实际价值取决于 AGX OS 在分配工作负载、隔离故障、控制内存以及防止单个智能体垄断资源方面的表现。

使用 RDMA 构建桌面 AI 集群

根据发布公告，AGX Station 配备两个 10 吉比特 RDMA 接口。

RDMA 允许系统在减少 CPU 参与的情况下在内存区域之间传输数据。该技术在高性能计算和分布式 AI 基础设施中得到广泛应用，因其可降低通信开销。

CIX 计划利用这些接口将多台 AGX Station 系统连接成紧凑型集群。

潜在用途包括：

• 跨多台设备分布模型
• 增加总加速器容量
• 在不同节点上运行独立智能体
• 按部门或安全域隔离工作负载
• 在不立即迁移到机架服务器的情况下扩展本地推理

可用带宽至关重要。大型模型分布式推理可能受限于互连性能，尤其是当模型层之间交换大量数据时。需要独立基准测试来展示哪些模型规模和并行化方法能在已公布的网络配置下高效运行。

AGX OS：硬件背后的软件层

仅有硬件无法构成智能体平台。CIX 同时推出了 AGX OS，这是一个专为智能体执行和异构计算设计的软件环境。

该公司描述了几个核心功能：

动态资源调度

AGX OS 旨在跨多台设备分配工作负载

CPU与各类加速器。一个实用的调度程序必须综合考虑模型体积、延迟要求、内存可用性、能耗、优先级以及各设备的性能特性。

异构设备的统一管理

该平台旨在为多种AI加速器提供统一管理层，无需每个应用程序直接管理特定厂商的硬件。

模型即服务访问模式

CIX表示，该系统可聚合来自智谱AI、Kimi、通义千问和百度文心生态等提供商的模型与服务。

这并不意味着所有模型都在本地运行。部分模型可本地部署，部分采用私有端点，其余可通过云API访问。具体部署方式将取决于许可协议、模型可用性、硬件支持及组织策略。

标准化API与开发工具

此次发布的软件栈包含在该平台构建智能体应用的API与工具。

私有化部署

CIX瞄准金融、制造和医疗等受监管及数据敏感领域，这些行业的组织更倾向采用本地或私有管理的基础设施。

安全、权限与审计追踪

CIX将安全置于AGX OS的核心设计理念。

已公布的设计包括：

• 本地推理与存储
• 隔离沙箱
• 四级权限控制
• 全流程审计
• 可审查计划
• 行动前置审批
• 可追溯执行
• 结果记录

这些特性对智能体尤为重要，因其不仅生成文本，还可能访问文件、调用API、修改记录、执行代码、与业务系统交互或发起交易。

安全的智能体平台应遵循以下原则：

1. 任务仅使用最低必要权限
2. 规划与执行分离
3. 高风险操作须经审批
4. 隔离不可信代码与工具
5. 记录操作与输入
6. 保护凭证与机密
7. 尽可能支持回滚或恢复
8. 确保模型与工具行为可观测

CIX在产品发布层面阐述了这些能力。企业采购方需获取更详尽的文档，涵盖威胁模型、沙箱实现、身份集成、审计留存、加密机制、更新流程、漏洞处理及安全认证等。

AGX战略三大支柱

CIX围绕三大支柱构建其智能体计算战略。

1. 面向智能体工作负载的处理器

该公司认为，智能体系统对CPU的压力远超基础聊天机器人。智能体需协调工具、维护状态、处理长流程任务，并在推理与执行间切换。

P1处理器被定位为智能体计算的基石。

该工作负载。

2. 跨设备、边缘与云端的协同

CIX 并不期望所有任务都在单一位置运行。

本地设备可处理意图分类并保护隐私数据；边缘系统能在用户近端执行实时处理；云端模型则可应对高要求的推理任务。

该公司旨在为这些环境提供一致的架构。

3. 全栈式硬件与软件

该战略涵盖芯片、完整系统、操作系统软件、模型访问、安全、开发者工具和部署服务。

这一布局雄心勃勃。当整个技术栈作为有机整体运行时，可减少集成工作量，但也要求CIX维持比纯芯片厂商更广泛的产品矩阵。

能效与“单Token成本”论点

CIX认为，相比单纯的理论峰值计算能力，Token生成正成为衡量实际AI基础设施更具实用价值的指标。

该公司声称，与未公开的基准相比，其集成SoC加NPU方案可将每Token能耗降低50%以上。

此说法需审慎看待。由于未披露测试配置、模型、批处理规模、精度、吞吐量、对比平台及功耗测量方法，暂无法独立验证该数据。

但核心理念仍具价值：对于持续运行的智能体，每完成任务的总体能耗可能比最大TOPS指标更为关键。

有意义的基准测试应包含：

• 每秒Token数
• 每Token能耗（焦耳）
• 首Token延迟
• 任务总完成时间
• 空闲与负载功耗
• 并发请求性能
• 准确率或任务成功率
• 完整系统成本

AGX产品矩阵全景

AGX Station属于2026年世界人工智能大会上展示的更大产品矩阵。

CIX已描述五大类别：

• AGX Station：面向研究、企业推理和多智能体工作负载的桌面级AI计算系统
• 智能体计算机：面向开发者、创作者和个人智能体应用的本地计算设备
• 智能体盒子：即用型本地智能体部署的边缘网关
• 智能体基础设施：云端及大型集群环境的基础设施产品
• 智能体机器人：面向机器人及实时决策的紧凑型计算平台

该产品系列体现了企业端、边缘与云端的协同战略。

各类别名称与用例已公布，但完整技术规格、定价、供货情况及软件支持矩阵尚未完全公开。

生态伙伴与国产加速器支持

CIX强调AGX旨在构建开放平台，而非绑定单一加速器的封闭设备。

发布活动汇集了多领域生态伙伴，包括：

• 设备制造商
• AI加速器厂商
• 系统集成商
• 电信及云服务提供商
• 智能家居企业
• 支付与安全机构

AGX Station被描述为适配天数智芯、后摩智能、原粒半导体、知存科技、光宇等多个国产加速器产品。

硬件公司。

这些合作伙伴关系的商业重要性取决于集成深度。发布阶段的兼容性公告可能涵盖从初始驱动程序支持到完全优化的生产部署等不同层次。

潜在用户应询问以下信息：

• 经过测试的硬件兼容性列表
• 支持的操作系统版本
• 经过验证的模型格式
• 框架版本
• 性能数据
• 驱动程序维护承诺
• 保修和技术支持安排

CIX P1 平台的 Ubuntu 支持

CIX 于 2026 年 5 月宣布，Canonical 已为 P1 平台发布了 Ubuntu 开发者预览版镜像。

据 CIX 称，该镜像基于 Ubuntu 26.04 LTS 和 Linux 7.0 内核，软件包通过 Launchpad PPA 仓库分发。

该公司将 P1 描述为第一个中国 Arm 平台，也是全球继高通骁龙 X Elite 之后第二个获得此类 Ubuntu 开发者预览版支持的平台。

这与 AGX 相关，因为一个可用的本地 AI 平台需要的不仅仅是专有固件。Linux 支持、上游内核工作、软件包可用性、容器、开发工具和开源兼容性都会对采用率产生重大影响。

开发者预览版镜像并不等同于完整的 Ubuntu 硬件认证。生产用户在部署前应核实特定设备的支持和更新承诺。

谁可能会使用 AGX Station？

AGX Station 可能与以下几类用户相关。

AI 研究团队

大学和实验室可能使用紧凑型本地系统进行模型评估、量化、推理实验、检索系统和多智能体研究。

拥有敏感数据的企业

无法将内部文档或运营记录发送到公共 API 的组织可能更倾向于私有部署的模型。

智能体开发者

开发长时间运行的智能体的开发者可能会受益于可全天候可用的专用本地基础设施。

工业和边缘项目

制造、机器人、零售、医疗和智能楼宇系统可能需要靠近数据源的低延迟 AI。

国内硬件生态系统合作伙伴

加速器供应商和系统集成商可能将 AGX 用作测试卡、运行时和智能体软件的参考平台。

该系统可能对以下用户吸引力较小：仅需偶尔推理的用户、需要全球云端可扩展性的用户，或没有员工来运营本地 AI 基础设施的用户。

购买或部署前的关键问题

AGX Station 在纸面上很有前景，但仍有一些实际问题尚未解答。

定价和供货情况

CIX 尚未公布完整 AGX Station 配置的通用零售价、发货日期或分区域供货情况。

内存配置

该公司尚未提供公开的配置表，显示系统内存、加速器内存、带宽以及每种模型大小所需的确切硬件。

模型性能

需要独立的基准测试，以评估吞吐量、延迟、上下文长度、并发性、能耗和任务完成情况。

软件

兼容性

买家需要一份经过验证的框架、推理引擎、量化格式、容器和受支持模型清单。

集群扩展

多系统RDMA连接的优势应通过真实的分布式推理工作负载进行测试。

企业支持

组织需明确了解维护合同、更换部件、软件更新、安全补丁以及长期产品支持等信息。

安全验证

已公布的沙箱、权限和审计功能需要提供技术文档并接受外部评估。

常见问题

什么是CIX AGX Station？

AGX Station是CIX在2026年世界人工智能大会期间发布的一款模块化桌面AI计算系统。它专为本地大模型推理、多智能体工作负载、可扩展AI加速器和私有部署而设计。

AGX Station能否本地运行150B参数模型？

CIX表示，合理配置的系统可支持从70B到150B参数的模型原生推理。实际可用性将取决于量化、内存、加速器配置、上下文长度、运行时优化，以及是否需要多个单元。

AGX Station提供多少AI算力？

公布的扩展范围为160至320 TOPS。仅凭TOPS无法预测语言模型性能，因此仍需令牌吞吐量和特定模型基准测试数据。

AGX Station支持哪些加速卡？

CIX表示，其模块化硬件支持M.2、MXM和PCIe加速器格式。该公司还宣布与多家中国AI芯片供应商及部分半高显卡开展了兼容性合作。

能否连接多台AGX Station系统？

可以。公布的硬件包含双10千兆位RDMA接口，用于将多个系统互连成桌面集群。需进行独立测试以显示大模型在该网络上的扩展效率。

什么是AGX OS？

AGX OS是CIX的软件环境，用于管理异构设备、调度智能体工作负载、连接模型、支持私有部署以及控制智能体执行。CIX还描述了沙箱、权限、审批控制和全流程审计功能。

AGX Station现在可以购买吗？

CIX已发布并展示了该产品，但截至本文撰写时尚未公布全面的公开定价和供货详情。买家应直接向CIX或其授权合作伙伴确认最新信息。

AGX Station是否经过独立基准测试？

截至发布时，尚未发现完整的独立基准测试套件。目前应将性能和能效数据视为供应商公布的规格和声明。

相关工具

• CIX AGX智能计算：AGX Station、AGX OS及更广泛计算战略的官方发布公告。
• CIX个人计算平台：有关CIX基于Arm的异构个人及边缘计算产品的官方信息。
• CIX支持中心：CIX平台的技术支持和开发者资源。

Ubuntu: CIX为其发布P1开发者预览版镜像的Linux发行版。

• Arm Developer: CIX P1所采用的Arm架构的文档与开发资源。
• Qwen: CIX声称可通过AGX软件层连接的模型生态系统之一。
• Kimi: CIX在AGX OS公告中提到的另一模型服务。

相关链接

• CIX AGX官方发布公告: CIX对AGX Station、AGX OS、支持的加速器及生态系统合作伙伴的描述。
• CIX新闻中心: 官方产品、生态及公司公告。
• CIX P1 Ubuntu开发者预览版公告: Ubuntu支持及P1开发者生态系统详情。
• CIX P1联想AI主机Mini公告: 更多P1架构与系统官方信息。
• IT之家AGX Station报道: 发布报道，包含所公布的物理尺寸及精简规格。
• 智东西AGX Agentic计算报道: 硬件、操作系统及合作伙伴生态的详细发布报道。
• WAIC官方网站: 世界人工智能大会官方信息。

总结

CIX的AGX Station是一款紧凑型模块化AI系统，旨在将大型本地模型及多智能体工作负载引入桌面级平台。

其公布的设计结合了CIX P1处理器、可扩展的M.2/MXM/PCIe加速器、160-320 TOPS可配置算力、双10GbE RDMA网络，以及用于模型访问、资源调度、权限管理、沙盒与审计的AGX OS层。

最引人注目的宣称是支持70B-150B参数级别的模型本地推理。这一能力仅在特定内存、量化、加速器及集群配置下才具可行性，而CIX尚未完全公开相关文档。

AGX Station是将分散的本地AI硬件整合为集成式智能计算平台的一次有趣尝试，但独立基准测试、定价、完整配置及生产支持细节，将决定它能否成为云推理及机架级推理的实用桌面替代方案。