ADA300
Edge large-model compute
Local 30B-LLM & Ultra-low power
- 底座SRAM 存算一体
- 堆叠NAND 或 DRAM，垂直靠近计算
- 数据模型权重、Attention、热 KV Cache
- 范围边缘设备到端云协同
- SRAM-CIM 阵列内乘加
- NAND / DRAM 双垂直存储路径
- Attention 面向大模型热点算子
九天睿芯 · 大算力推理芯片
ADA
算力的新位置
ADA300 与 ADA400。推理从数据旁边开始：SRAM 存算一体做计算，垂直堆叠把权重、Attention 和热 KV Cache 放到计算附近。
模型权重
NAND / HBF 容量层
DRAM · Attention · 热 KV
SRAM 存算一体
SRAM-CIM阵列内完成乘加
垂直堆叠NAND 或 DRAM 靠近计算
2 TB+ADA400 单卡容量
4 TB/s+ADA400 带宽
选择推理的尺度
一块负责把计算挪到数据旁边，一块负责把万亿参数放进单卡。两条路径，同一套 MPM 方法。
大模型推理
Attention 加速
热 KV Cache
量化推理
多模态
智能体
端云协同
ADA400
Cloud inference computing card
High-capacity HBF · Trillion-parameter MoE
- 容量2 TB+
- 带宽4 TB/s+
- 集成晶圆级 Chiplet，异构组织
- 模型大语言、多模态、智能体
- 2 TB+ 近计算容量
- 4 TB/s+ 持续带宽供给
- 左右脑 异构推理平台
推理
负载，从数据路径理解
讲推理，不只报峰值。权重放在哪、KV 留在哪、计算在哪发生，决定的是时延、功耗，以及一张卡能装下多大的模型。
ADA300 · 近数据推理
Edge large-model compute
Local 30B-LLM & Ultra-low power
把模型权重、Attention 数据和热 KV Cache 放到计算附近。边缘视觉与语音、端云协同生成式推理，共用同一套 MPM 分层逻辑。
ADA400 · 单卡万亿级
Cloud inference computing card
High-capacity HBF · Trillion-parameter MoE
晶圆级 Chiplet 把大容量存储、Attention 处理与 SRAM 存算 NPU 组织成可扩展系统。公开指标：2 TB+ 容量、4 TB/s+ 带宽，面向大语言、多模态与智能体。
ADA300
计算发生在阵列里面
ADA300 以 SRAM 存算一体为底座。权重留在阵列里做高并行乘加，少走一次处理器和存储器之间的往返。
上面再叠存储。NAND 负责把参数放到计算上方，DRAM 负责把 Attention 和热 KV Cache 留在低时延的近处。
阵列内乘加自研存算单元、定制电路与数据流
双垂直路径NAND 走容量，DRAM 走带宽
端云同一逻辑边缘实时，云端生成，路径连续
ADA300N
NAND 垂直堆叠。每个堆栈承载数百万至数千万参数，直接放在 SRAM 存算芯片上方，降低搬运功耗和访问时延。用于紧凑边缘设备里的视觉、语音和传感推理。
ADA300D
DRAM 垂直堆叠。高带宽、低时延，针对大模型 Attention，并把热 KV Cache 保持在计算附近。服务端云协同和云端生成式推理。
ADA400
万亿参数，单卡之内
ADA400 用「左右脑」异构和晶圆级 Chiplet，把大容量存储、Attention 处理和 SRAM 存算 NPU 组织成一块可扩展的推理系统。边缘和云端都能部署。
Cloud inference computing card
High-capacity HBF · Trillion-parameter MoE
2 TB+容量。模型权重与 KV 有地方待。
4 TB/s+带宽。计算不被供给拖住。
万亿级大语言、多模态与智能体。
竞品对照
大算力，不必先堆峰值
市面上的大算力芯片，多半先堆算力，再配一层昂贵的高速内存。模型越大，权重和 KV Cache 搬得越远，功耗和成本一起上去。ADA 把容量和带宽放在计算前面。
市面常见 · 大算力加速卡
峰值优先
计算核在一边，高速内存在另一边。每一次推理，都要跨过片外总线把权重和 KV 搬进来。
- 内存
- HBM 一类高速内存，容量贵
- 计算
- 核反复读取片外存储
- 长上下文
- 热 KV 挤占最贵的那一层
- 大模型
- 专家参数和权重换入换出
九天睿芯 · ADA
近数据优先
SRAM 阵列里做乘加，NAND、DRAM 与 HBF 垂直靠近计算。少搬一次，就少一份时延和功耗。
- 内存
- 近计算容量，ADA400 达 2 TB+
- 计算
- 阵列内乘加，缩短搬运路径
- 长上下文
- 热 KV Cache 留在计算附近
- 大模型
- 万亿参数 MoE 可在单卡驻留
客户真正要的
同样跑大模型，搬运更少、功耗更低、能驻留的容量更大。
六款市面大算力芯片
H200 SXM
NVIDIA · Hopper · 数据中心
- 内存141 GB HBM3e
- 带宽4.8 TB/s
- FP83,958 TFLOPS
- 功耗最高 700 W
- 价格项目报价
Instinct MI300X
AMD · CDNA 3 · 数据中心
- 内存192 GB HBM3
- 带宽5.3 TB/s
- FP82.61 / 5.22 PFLOPS
- 功耗750 W
- 价格项目报价
GeForce RTX 5090
NVIDIA · Blackwell · 桌面显卡
- 显存32 GB GDDR7
- 带宽1,792 GB/s
- AI3,352 TOPS
- 功耗TGP 575 W
- 价格$1,999 起
B200 SXM
NVIDIA · Blackwell · 数据中心
- 内存180 GB HBM3e
- 带宽7.7 TB/s
- FP84.5 / 9 PFLOPS
- 功耗1,000 W
- 价格项目报价
Instinct MI325X
AMD · CDNA 3 · 数据中心
- 内存256 GB HBM3E
- 带宽6 TB/s
- FP82.61 / 5.22 PFLOPS
- 功耗1,000 W
- 价格项目报价
昇腾 910C
华为 · 达芬奇 · 云端训练与推理
- 内存128 GB HBM
- 带宽3.2 TB/s
- FP16800 TFLOPS
- 互联784 GB/s
- 价格未公布零售价
| 项目 | RTX 5090 | H200 SXM | B200 SXM | MI300X | MI325X | 昇腾 910C | ADA300 | ADA400 |
|---|---|---|---|---|---|---|---|---|
| 定位 | 桌面显卡，本地推理 | 数据中心训练与推理 | 数据中心训练与推理 | 数据中心训练与推理 | 大内存数据中心卡 | 云端训练与推理 | 边缘大模型推理 | 云端推理计算卡 |
| 形态 | PCIe 显卡 | SXM 模组 | SXM6 模组 | OAM 模组 | OAM 模组 | 双芯合封 | ADA300N 芯片 | 推理板卡 |
| 内存容量 | 32 GB | 141 GB | 180 GB | 192 GB | 256 GB | 128 GB | 本地 30B 级模型 | 2 TB+ |
| 内存类型 | GDDR7，512-bit | HBM3e | HBM3e | HBM3 | HBM3E | HBM | SRAM 存算 + NAND / DRAM | 高容量 HBF |
| 内存带宽 | 1,792 GB/s | 4.8 TB/s | 7.7 TB/s | 5.3 TB/s | 6 TB/s | 3.2 TB/s | 以缩短搬运为主 | 4 TB/s+ |
| 低精度算力 | 3,352 AI TOPS | FP8 3,958 TFLOPS | FP8 4.5 / 9 PFLOPS | FP8 2.61 / 5.22 PFLOPS | FP8 2.61 / 5.22 PFLOPS | FP16 800 TFLOPS | 不按峰值算力发布 | 不按峰值算力发布 |
| 半精度 | 未按 FP16 单列 | FP16 1,979 TFLOPS | FP16 2.25 / 4.5 PFLOPS | FP16 1.31 / 2.61 PFLOPS | FP16 1.31 / 2.61 PFLOPS | FP16 800 TFLOPS | — | — |
| 更低精度 | — | — | FP4 9 / 18 PFLOPS | — | — | — | — | — |
| 卡间互联 | 无 NVLink | NVLink 900 GB/s | NVLink 1.8 TB/s | Infinity Fabric，单链路 128 GB/s | Infinity Fabric，单链路 128 GB/s | 784 GB/s | 端侧单芯片 | 可进 AI 服务器 |
| 标称功耗 | 575 W | 最高 700 W | 1,000 W | 750 W | 1,000 W | 未作为单一口径公布 | 超低功耗 | 未按瓦数公开 |
| 价格 | 官方起售 $1,999 | 无官方零售价，项目报价 | 无官方零售价，项目报价 | 无官方零售价，项目报价 | 无官方零售价，项目报价 | 未公布零售价 | 项目报价 | 项目报价 |
| 大模型怎么放 | 32 GB 装不下就换到主机内存 | 141 GB HBM，更大模型拆到多卡 | 180 GB HBM，训练和推理都靠多卡扩展 | 192 GB HBM，更大模型拆到多卡 | 256 GB，单卡可覆盖更大上下文 | 128 GB，云端集群扩展 | 端上本地跑 30B 级模型 | 2 TB+ 近存，万亿 MoE 单卡驻留 |
优势，落在三条路上
对照的是市面常见的大算力加速卡：以峰值算力为中心，靠片外高速内存喂数据。
相对片外搬运
算在阵列里 权重留在 SRAM 存算阵列中直接乘加，少走处理器和存储器之间的往返。相对昂贵高速内存
2 TB+ 近存 ADA400 用高容量 HBF 把权重、KV 与 MoE 专家放在计算附近，带宽 4 TB/s+。相对云端大卡下沉
端上 30B ADA300 面向边缘大模型：本地 30B 级语言模型，超低功耗，不必每次都上云。为什么这样对照
差在数据路径，不在一张算力表
公开的产品路径是：容量 ≥ 带宽 > 算力。和以峰值算力为中心的加速器比，ADA 把对照放在权重放哪、KV 留哪、计算在哪发生。
| 维度 | 市面常见大算力加速卡 | ADA300 | ADA400 |
|---|---|---|---|
| 设计顺序 | 先堆算力，再为它找内存 | 容量和带宽供给计算 | 容量 ≥ 带宽 > 算力 |
| 计算发生处 | 计算核反复读取片外存储 | SRAM 阵列内部完成乘加 | SRAM 存算 NPU，加上 Attention 处理 |
| 权重放在哪 | 高速内存，容量贵、搬得远 | NAND 或 DRAM 垂直堆叠在计算上方 | 单卡 2 TB+ 近计算容量 |
| 热 KV Cache | 占用最贵的那一层内存 | DRAM 路径保持在计算附近 | 大容量近数据驻留，服务长上下文 |
| 带宽从哪来 | 片外内存总线 | TSV 与 Hybrid Bonding 的垂直短路径 | 4 TB/s+，并行供给计算 |
| 适合的模型 | 通用训练与推理加速 | 边缘视觉、语音、传感；端云 Attention | 大语言、多模态、智能体、万亿参数 |
| 系统形态 | 加速卡配一层层外部内存 | ADA300N / ADA300D | ADA400 板卡，可进入 AI 服务器 |
存储、计算、模型，一起定
MPM 不是三件套口号。模型工作负载定义数据流，计算需求重做存储层级，容量和能效再反过来约束模型。
存储
SRAM、DRAM、NAND 分层。最热的算在阵列里，温的留在近处，冷的放进容量层。
计算
全定制存算单元和专用数据流。目标是少搬一次数据，而不是多报一个峰值。
模型
热点算子、精度和映射跟着芯片走。边缘 30B 与云端万亿 MoE，用的是同一套方法。
近计算的三层
每一层只做自己的事
SRAM-CIM热数据。阵列内计算，缩短权重到乘加的距离。
HBF容量层。模型权重、KV Cache、MoE 专家参数靠近计算，但不是 CIM 本身。
SSD冷数据。检查点、数据集，留在更远的存储层。
HBF 站在极高速内存和高容量存储之间：密度来自 NAND，位置靠近计算。它不替代 SRAM 存算，也不假装自己是 HBM。
ADA300 走存算一体和垂直存储。ADA400 与服务器走端云协同和云端大模型。HBF SSD 负责权重和 KV 的数据分层。三条产品线共用这一套分层。
模型落在哪，芯片就在哪
机器人与边缘节点
本地视觉、语音和感知。ADA300N 把数百万到数千万参数叠在计算上方，设备不必把每一次推理都送出去。
端云协同
端上做实时响应，云上接大模型。ADA300D 把热 KV 留在近处，两边用的是同一条数据逻辑。
生成式推理
Attention 是热点。DRAM 垂直路径给它带宽，SRAM 存算给它少搬一次的计算。
云端推理平台
大语言、多模态、智能体。ADA400 以 2 TB+ 和 4 TB/s+ 把万亿级模型收进单卡，再放进服务器。
规格
容量、带宽与部署形态，按产品公开介绍列出。
| 项目 | ADA300N | ADA300D | ADA400 |
|---|---|---|---|
| 计算底座 | SRAM 存算一体 | SRAM 存算一体 | SRAM 存算 NPU |
| 存储路径 | NAND 垂直堆叠 | DRAM 垂直堆叠 | 大容量存储、Attention、NPU，晶圆级 Chiplet |
| 架构 | 近计算容量 | 高带宽近存 | 左右脑异构 |
| 容量 | 每堆栈数百万至数千万参数 | 面向 Attention 与热 KV 的近存容量 | 2 TB+ |
| 带宽 | 以缩短搬运为主 | 高带宽、低时延 | 4 TB/s+ |
| 关键数据 | 模型权重就地放置 | Attention、热 KV Cache | 权重、KV、大模型中间数据 |
| 模型 | 视觉、语音、传感 | 生成式推理，端云协同 | 大语言、多模态、智能体，万亿级 |
| 部署 | 紧凑边缘设备 | 端云与云端 | 边缘与云端，单卡，可进服务器 |
| 互连 | TSV、Hybrid Bonding 垂直短路径 | 晶圆级 Chiplet 集成 | |
ADA300 面向边缘大模型与超低功耗。ADA400 面向云端推理，高容量 HBF，可承载万亿参数 MoE。
深圳市九天睿芯科技有限公司
广东省深圳市福田区梅林街道梅都社区中康路 136 号
深圳新一代产业园 3 栋 1501-1502
广东省深圳市福田区梅林街道梅都社区中康路 136 号
深圳新一代产业园 3 栋 1501-1502