本周 IPO!深入分析存算一体晶圆级算力集成 Cerebras System $CBRS
Source: http://x.com/i/article/2049052932189089792
引言
通常,芯片行业把晶圆切成小块,提高良率。
Cerebras Systems 在 2016 年成立时,核心产品确实把一整块 300 mm 的硅晶圆,直接变成一颗芯片。
这颗芯片的面积是英伟达 H100 的 56 倍,内置 90 万个计算核心,片上内存带宽达到 21 PB/s。
不是 GPU,不是 TPU,是一个此前从未在量产意义上存在过的东西,晶圆级引擎 Wafer-Scale Engine,WSE。
本质上,Cerebras 做的不是更快的芯片,而是试图从物理层面消灭数据在芯片之间移动这件事本身。
也就是 AI 算力的下一个方向——存算一体。
为什么是这群人想到了这件事?
创始人 Andrew Feldman 和首席架构师 Gary Lauterbach 在创立 Cerebras 之前,共同创办了 SeaMicro,一家专注于构建超高密度微型服务器集群及其内部高速互联网络的公司,后被 AMD 收购。
他们花了数年时间,深入研究数百个独立处理器如何通过网络线路协同工作。
正是因为太了解跨主板、跨机架通信的物理极限,才得出了一个反直觉结论,无论怎样优化网络协议、提升光纤带宽,只要数据必须离开硅基板,延迟的物理下限就永远存在。
2015 年前后,AI 模型参数量开始呈指数级增长,单块 GPU 已经装不下一个完整模型,行业被迫将计算切分到数百乃至数千块芯片上,让大量机器时间消耗在等待数据传输而非实际计算上。
在顶级 GPU 集群的实际训练中,处理器往往超过一半的时间处于空转等待状态。
他们的判断是,与其无休止地优化分布式软件协议栈,不如在物理层面彻底消灭外部通信,把网络变成金属连线,把集群变成一块硅片。
这条路代价极高。 把整块晶圆变成可用芯片,
首先是良率。根据泊松缺陷模型,一块面积约 462 cm² 的晶圆,工程概率等于 0。
Cerebras 不得不在硅片上预置约 1% 至 2% 的冗余计算核心,出厂前用测试探针扫描全部缺陷坐标,再通过固件重新烧录路由寄存器,让数据流在物理层绕过坏点、导向备用核心。
对上层软件而言,呈现的始终是一张完整的二维计算网格。
第二是热膨胀。硅晶圆与标准电路板的热膨胀系数相差约 6 倍,WSE 对角线超过 200 mm,满载运行时两者之间的绝对位移差可达数毫米,足以在第一次热循环中撕裂所有焊点。
Cerebras 为此开发了基于高分子聚合物的定制弹性连接器,并设计了垂直穿透晶圆的 Z 轴供电网络,确保中心与边缘的每个核心获得一致的工作电压。
第三是光刻本身。标准光刻机单次曝光面积上限为 858 mm²,
Cerebras 通过与台积电联合开发的光刻拼接 Reticle Stitching 工艺,在相邻曝光区域的金属布线层跨越边界铺设加宽导线,将数十个独立曝光区域在电气层面无缝连通,最终形成连续的超大计算阵列。
也就是说,Cerebras 逐一解决材料学、热力学与光学工艺硬性难题.
这些代价换来了什么样的壁垒? 1)硬件级零值跳过。WSE 的每个计算核心在电路层面直接检测输入数据是否为零,若为零则不执行取指、不读取内存、不占用 ALU 周期。
对于 AI 计算普遍存在的高稀疏度模型,稀疏比例与执行时间呈严格线性对应。
这是英伟达张量核心和谷歌脉动阵列因底层硬件对齐要求,而无法复制的机制。
2)片上带宽的数量级优势。WSE-3 的 21 PB/s 片上内存带宽,是英伟达 B200 HBM 带宽的约 2600 倍。在超长上下文推理中,KV Cache 的海量读取会将 HBM 带宽彻底耗尽;
而 WSE 将整个 KV Cache 驻留在微米级距离的片上 SRAM 中,从物理层面消除了内存墙。
某些依赖百万级 Token 输入的应用,在 GPU 上是"理论可行但延迟不可接受",在 WSE 上则是可直接部署的产品。
3)部署复杂度的大幅降低。数千张 GPU 需要顶级分布式系统工程师团队编写并行切分代码、处理跨节点通信死锁、优化集群拓扑。
CSoft 编译器将整块晶圆在代码层面呈现为单一逻辑设备,用户以标准单机 PyTorch 代码即可调动全部算力。
Cerebras 用硬件的物理复杂度,置换了用户侧的软件工程复杂度。对于核心人员是领域专家而非系统架构师的机构,这种置换具有直接的商业价值。
Cerebras 不会取代英伟达,市场份额也不在同一数量级。但它在高稀疏度计算、超长上下文推理和实时单请求低延迟这三个交叉点上,建立了传统架构无法通过软件优化来弥合的物理壁垒。
晶圆级集成意味着什么?
Cerebras 的出现,重新定义了一颗芯片的概念边界。
在此之前,半导体行业对芯片的默认认知是:受光罩尺寸限制,单片硅的面积不超过 858 mm²,超出这个边界就必须切割、封装、互联。
WSE 证明了这个边界不是物理定律的终点,而只是制造工程选择的起点。只要愿意在制造工艺、材料科学和热力学上付出足够高的代价,芯片的物理边界可以被重新谈判。
更深层的意义在于,WSE 的存在将一个此前属于系统级的问题——多节点通信,降格为芯片内部级的问题。
这种降格带来的不仅是延迟数量级的压缩,更是整个 AI 算力系统设计逻辑的重构。当网络变成金属连线,当交换机变成路由寄存器,"分布式计算"这个概念本身,在晶圆的尺度内就已经被解决了。
这不是一家芯片公司在做更好的芯片。这是一次对"算力的物理边界在哪里"这个问题的重新回答。
正文
在 AI 芯片赛道上,Cerebras Systems 是少数几家真正挑战英伟达主导地位的玩家之一。
该公司目前在 Pre-IPO 阶段,计划 2026年二季度上市,估值两年翻近 3 倍。
2025 年 9 月完成的 G 轮融资由富达投资(Fidelity Management & Research)和 Atreides Management 联合领投,筹资 11 亿美元,彼时估值为 81 亿美元。
2026 年 2 月,公司再度完成 10 亿美元融资,由老虎环球基金(Tiger Global)领投,估值跃升至约 230 亿美元。
早期支持者则涵盖多家顶级风险投资与私募机构,包括 Benchmark、红杉资本(Sequoia Capital)、Coatue Management、Altimeter Capital、Alpha Wave Ventures、Valor Equity Partners、Eclipse Ventures 及 1789 Capital。
收入规模与结构转型
早期的商业模式高度依赖单一大客户。根据此前提交的 S-1 招股书,Cerebras 在 2024 年上半年实现总收入 1.364 亿美元,其中 87% 来自总部位于阿联酋的科技集团 G42。
这种极度集中的客户结构,一度是其冲击 IPO 的主要障碍之一。
2026 年初,局面出现了结构性转变。Cerebras 与 OpenAI 签署了一项多年期供应协议,显著降低了对 G42 的依赖。
与此同时,客户群体也在向更多垂直领域延伸,包括欧洲大语言模型企业 Mistral AI、医疗机构梅奥诊所(Mayo Clinic)、制药巨头阿斯利康(AstraZeneca),以及部分国家级超算实验室。
2026 年初,美国军方还公布了与 Cerebras 及 Ranovus 签订的总额 4500 万美元的芯片互联加速合同。
随着 2025 年下半年其在多地自建数据中心并上线云端 AI 加速服务,加之 2026 年 OpenAI 订单开始并入营收,Cerebras 的商业模式正从单一硬件直销,向硬件销售与云服务租赁并行演进。
正是凭借数百亿美元估值规模的持续融资,Cerebras 才有能力在工程层面解决两大核心难题:光罩尺寸限制带来的芯片互联瓶颈,以及晶圆级散热的物理挑战。
客户构成也是专为超大规模张量计算设计,服务于那些在模型训练阶段真正触及算力天花板的用户。
光罩极限:为什么不能造一个巨大的芯片?
既然单个芯片算力有限,能不能造一个巨大的芯片,在上面无限堆叠计算单元和存储单元?
答案明显是不能,但为什么不能?这涉及一个概念,光罩极限。
现代芯片的制造是光刻出来的。将电路图案刻在一块称为掩膜版的物理模板上,再通过光学镜组将图案缩小 4 倍,投影到涂有光刻胶的硅晶圆表面,形成纳米级电路。
这套精密光学系统能够保证无畸变、高分辨率成像的区域是有限的。一旦超出范围,光线聚焦就会出现形变,导致蚀刻出的晶体管失效。
这个有效视场的物理上限,就是光罩极限。
目前阿斯麦 ASML 等光刻机厂商确立的行业标准,单次曝光能覆盖晶圆表面的最大面积为 26 mm × 33 mm,即 858 mm²。
这不是厂商的人为规定,而是由光学衍射极限与机械对准精度共同决定的物理约束。
这意味着,任何基于单片硅制造的芯片,面积都无法突破 858 mm²。英伟达 H100 的单 Die 面积为 814 mm²,其 B200 架构也已逼近这一边界。
当单片硅无法继续扩大,工程师就只能被迫转向多芯片封装方案,将多个 Die 通过 2.5D 封装或 NVLink 等外部互联拼在一起。
这条路虽然可行,但不可避免地引入了跨芯片通信的延迟与带宽瓶颈,成为大模型训练的性能短板。
Cerebras 完全是另一种路径,通过光刻拼接(Reticle Stitching)的定制工艺,将数十个相邻的 858 mm² 曝光区域在物理层面无缝连通,最终形成一块面积约 46,225 mm² 的连续计算阵列。
这正是 Wafer-Scale Engine(WSE)的物理基础,也是我们下一节要深入拆解的核心议题。
GPU 的物理层级:硅片上有什么,硅片外有什么
介绍 Cerebras 的架构突破之前,有必要先厘清一块现代 GPU 的物理构成。哪些东西在硅片上,哪些不在,不在硅片上的部分又靠什么相连。
1)硅片上 On-Die
是通过光刻工艺直接蚀刻在单块硅片上的核心逻辑,受光罩尺寸限制,面积通常不超过 858 mm²。
包含张量核心 Tensor Cores、浮点运算单元等计算单元;与计算单元绑定的 L1/L2 缓存 SRAM,以及负责调度和接口的控制逻辑。
2)封装内但不在计算硅片上 In-Package
是现代 AI 芯片为解决显存带宽问题而引入的高带宽内存 HBM。
HBM 本质上是多层 DRAM 堆叠而成的独立芯片,与 GPU 计算硅片并排放置在一块硅中介层上。
中介层内部布满微小金属导线和硅通孔 TSV,将计算核心与 HBM 物理连通。这就是英伟达 H100 一类芯片采用的 2.5D 封装方案。
3)封装外、位于主板或系统级 Off-Package
则是多 GPU 互联所需的交换芯片.如 NVSwitch 和网络接口卡。各封装好的 GPU 焊接在 PCB 上,通过铜线走向连接到 NVSwitch。
跨服务器的通信则需将电信号转换为光信号,经光纤传输。每越过一个层级,延迟就增加一个数量级,带宽也随之收窄。
理解了这套物理层级,就能看清传统架构的扩展逻辑。先在制造端切出小块高良率的硅片,再在封装与网络层将多块硅片逻辑聚合成一个大计算池。
良品率问题在制造端解决,互联难题则推给了封装和网络工程师。
Cerebras 选择了完全相反的路径。保留整块晶圆的物理聚合,把互联难题在硅层面一次性解决,再用硬件冗余应对良率问题。
WSE 晶圆在出厂测试时,硬件探针会扫描并定位所有物理损坏的核心,系统固件随即对片上路由重新编程,绕过坏点、启用冗余单元。
对上层编译器和软件而言,呈现出的依然是一张完整、连续的二维计算网格。物理上的坏点被逻辑层完全屏蔽。
这是两种截然相反的规模扩展哲学。通常 GPU 集群是物理分割、逻辑聚合;Cerebras WSE 是物理聚合、逻辑容错。
正是这一根本差异,决定了 WSE 在内存带宽和通信延迟上能够实现数量级的跃升。代价是极高的制造复杂度与工程成本。
Cerebras WSE 工程挑战:当一整块晶圆成为芯片,如何制造与散热?
将整片 300 mm 晶圆变成一块可用的计算芯片,面临三个层面的工程极限:良率的统计学崩溃、热膨胀的材料学冲突,以及跨越数百个曝光区域的互联工艺。
GPU 硅片通常面积不超过 858mm²,Cerebras 却使用了一整块晶圆 46,225mm²。
通常 GPU 厂商是把“一整个”GPU 集群功能分片,把芯片间相连实现“一大块” GPU 集群的功能。
为了控制良品率。而 Cerebras 是直接造一大块晶圆硅,在功能上做分片,而不是物理意义的分片,只要某处有问题,就报废那个单元,以冗余保证良品率。
一整块晶圆良品率接近于零
半导体制造中,芯片良率遵循泊松模型。
以当前最先进的工艺,一颗面积约 800 mm² 的 H100,良率约为 45%。剔除坏片后仍有接近一半的产出可用。
而 WSE 的有效面积约为 46,225 mm²,代入泊松模型得到的良率约为 8.6×10 的 -21次方,基本等同于零。
Cerebras WSE 在晶圆上额外蚀刻了约 1% 至 2% 的备用计算核心,以及冗余的片上网络布线。
晶圆出厂前,测试设备会向硅片注入测试信号,扫描每一个核心与内存块的电气响应,生成一张覆盖整块晶圆的缺陷坐标图。
随后,系统固件根据这张缺陷图,对片上路由器的配置寄存器重新编程。
当数据包传输至损坏核心边缘时,硬件多路复用器在单个时钟周期内改变数据流向,将其绕过缺陷坐标、导向相邻的备用核心。整个重定向过程完全由硬件逻辑完成,不涉及上层软件干预。
对编译器和软件栈而言,最终呈现的依然是一张维度完整、无任何断层的逻辑二维网格。
膨胀与散热:Cerebras 另一难题
芯片大了,散热会有问题。同时还有热胀冷缩。
Cerebras 为此开发了基于高分子聚合物的定制弹性连接器。这种材料在保持高频电信号传导的同时,可完全吸收热膨胀产生的位移差。
供电问题同样棘手。WSE 满载功耗超过 20 kW,若从芯片边缘横向引入电流,电流流经 200 mm 长的片上金属网络会产生严重的 IR 压降,导致晶圆中心区域的核心电压不足。
解决方案是垂直供电(Z-axis Power Delivery)。在晶圆背面的整个二维平面上均匀分布供电触点,电流沿 Z 轴垂直注入每个核心区域,确保中心与边缘获得一致的工作电压。
散热方面,WSE 采用与晶圆等大的微通道水冷板,通过极薄的热界面材料与硅片背面直接接触,高速循环的冷却液将超过 20 kW 的热通量从硅基板表面持续带走。
光刻拼接:在金属布线层缝合晶圆
WSE 的制造工艺本身也是一项跨学科的工程妥协。
Cerebras 同样使用标准 ASML 光刻机,受限于 26 mm × 33 mm 的单次曝光视场。核心工艺在于消除相邻曝光区域之间用于物理切割的划片槽,并在金属布线层跨越曝光边界铺设互连线路,而非在底层晶体管层面进行拼接。
跨边界处不放置任何晶体管,全部拼接在最顶层金属布线层完成。
为了克服步进扫描台几纳米到十几纳米的机械套刻误差,边界处的金属导线被刻意加宽。只要线宽大于最大可能的机械偏移量,两次曝光的金属线即使存在轻微错位,依然能形成足够的重叠面积,保持电气导通。代价是边界处的布线密度低于芯片内部。
台积电为此提供了集成扇出型晶圆级系统(InFO_SoW)技术,在整片晶圆上方构建高密度重布线层(RDL),进一步加固跨光罩边界的电力与信号传输。
面积达 46,225 mm² 的晶圆还面临另一个物理约束。无法在整块晶圆上维持统一的全局时钟。
信号从晶圆一端传到另一端本身就需要数纳秒。Cerebras 因此采用了全局异步、局部同步(GALS)架构。
跨越光罩边界的数据传输通过异步 FIFO 缓冲区中转,吸收不同区域间的时钟偏差与信号传播延迟,避免丢包或死锁。
三重工程挑战叠加在一起,使得 WSE 的制造成本远高于标准 GPU。但正是这些在统计学、材料热力学与光学工艺层面的复杂妥协,支撑起了 WSE-3 高达 21 PB/s 的片上内存带宽。
这一数字是单张 H100 HBM 带宽的近万倍。
Cerebras WSE 微架构:计算逻辑如何设计
上一部分解决了怎么造出这块超大芯片的问题。这部分要回答的是,这块芯片内部到底长什么样,为什么跑 AI 比普通 GPU 快?如何排布晶体管与逻辑门,使其最大效率地执行深度学习中的张量运算。
两个模块之间存在严格的因果映射。物理层面的每一个约束,都在微架构层面对应着一个具体的设计决策。
内存就在计算核心旁边 通过光刻拼接获得了连续的大面积硅片,这一物理条件直接改变了内存架构的设计空间。
先说普通 GPU 是怎么工作的。
传统冯·诺依曼架构之所以需要 L1/L2/L3 多级缓存,根本原因在于计算核心与外部内存之间存在物理距离。
GPU 里有大量计算单元,但需要的数据,比如模型权重存放在芯片外部的显存 HBM 里。
每次计算,数据需要跨越 PCB、穿过硅中介层、经过存储 HBM 接口才能抵达计算单元 ALU。
为了让这段等待不那么浪费,工程师设计了 L1、L2、L3 多级缓存。
本质上就是在计算单元附近临时存一些最近可能用到的数据。即便如此,缓存没命中的时候,计算单元还是得干等。
缓存层级本质上是对这段物理距离的补偿。
WSE 的思路是,直接把内存挪到计算核心旁边,彻底消灭这段距离。没有独立的计算区与内存区之分。
44 GB 的 SRAM 被切分为数十万份,每一块直接物理毗邻对应的计算核心。WSE 上有 90 万个计算核心,每个核心旁边都紧挨着一小块专属 SRAM。
两者之间的金属连线只有几微米长,数据读取只需 1 个时钟周期,根本不需要缓存这个中间层。
把 90 万个核心的内存带宽加在一起,WSE-3 高达 21 PB/s 的片上内存带宽,大约是单张 H100 显存带宽的近万倍。
零值不算,直接跳过 深度学习模型在计算过程中会产生大量零值。
普通 GPU 是把一批线程捆绑在一起,强制同步执行同一条指令。遇到零值,还是得走完整个计算流程,只不过结果是 0 而已。电照耗,时间照花,什么也没算出来。
WSE 每个核心都是独立的,各自决定自己做什么。
更关键的是,每个核心的计算单元前端接了一个专门的硬件检测电路。数据到来时,电路先判断这个数是不是零;如果是零,直接跳过,不取指、不读内存、不开 ALU,程序计数器立刻跳到下一个非零数。
这意味着 WSE 只为有效计算消耗电力。在 WSE 满载功耗就超过 20 kW 的情况下,这种机制在微观层面持续降低实际能耗,是对散热压力的直接缓解。
数据来了才干活,不来就休眠
WSE 的每个核心默认处于休眠状态。数据通过片上网络传过来、写入核心的输入寄存器时,寄存器的电压变化会直接触发硬件唤醒信号,核心立即开始计算,算完把结果推给下一个核心,然后再次进入休眠。整个过程没有等待,没有空转。
这套机制让一个大型矩阵乘法在 WSE 上的运行方式变成这样,整个矩阵被切成数万个小块,每块分配给晶圆上某个特定区域的核心,上一个核心算完的中间结果直接流向下一个核心继续累加,在整块硅片上形成一条连续流动的计算水流。核心之间每传递一次数据,延迟约为 1 纳秒。
在 GPU 集群里,不同芯片之间传数据需要经过 NVLink 电缆、交换芯片、甚至光纤,延迟是微秒到毫秒级。
WSE 把这件事变成了芯片内部 1 纳秒的操作。量级上差了三到六个数量级。
小结 WSE 的微架构逻辑可以用三句话概括。
把内存搬到计算单元身边,消灭数据搬运的等待;
零值直接跳过,只为有效计算付出电力;
数据到了才唤醒核心,消灭空转等待。
这三个设计决策,分别对应上一部分提到的三个物理约束:大面积硅片、良率容错、和能耗上限。
Cerebras 软件栈:当编译器变成电路设计师
在英伟达生态系统中,硬件 GPU 与软件 CUDA/cuDNN 之间存在一个极其稳定的抽象层。开发者通常只需要调用库函数,而不需要关心计算图如何在硅片上物理排布。
但在 Cerebras 这种晶圆级架构中,硬件物理特性与软件栈是强耦合的。
我们之所以必须重点讨论软件栈,是因为在 WSE 上,软件不仅是程序的载体,更是硬件资源的物理调度器。
GPU 的软件栈只需要告诉硬件按顺序算哪几层,WSE 的软件栈必须回答一个更底层的问题,90 万个计算核心,每一个具体负责什么,数据从哪里来、流向哪里去。
这不是程序调度,更接近于电路板布线。
编译器的任务:把模型"画"在晶圆上
传统 GPU 处理模型的方式是时间切片。T1 时刻算第一层,T2 时刻算第二层,权重反复换入换出显存。
这套逻辑之所以可行,是因为 GPU 有足够大的显存作为中转站,软件只需要维护一个执行队列。
WSE 的方式完全相反,称为空间映射。
模型的每一层被分配到晶圆上一块固定的物理区域,所有层同时存在于硅片的不同位置,并发执行。数据从一个区域流出,直接进入下一个区域的输入寄存器,整块晶圆在任意时刻都像一条流水线在同步运转。
负责完成这项工作的是 Cerebras 的 CSoft 编译器。负责接收来自 PyTorch 或 TensorFlow 的模型定义,将 46,225 mm² 的晶圆面积划分为若干矩形子区域,每个神经网络层被静态分配到其中一块,层与层之间的数据通路则通过向每个路由器的配置寄存器写入固定路径来实现。
一旦编译完成,整块晶圆就变成了为这个特定模型定制的专用电路。
这套机制的效率极限很高,代价是灵活性极低。
如果模型在运行时需要动态改变计算路径。唯一的解决方法是停下来重新编译、重新配置所有路由寄存器,耗时可能达到秒级甚至分钟级,完全抵消晶圆级计算的速度优势。
目前 CSoft 的折中方案是把所有可能的执行分支全部映射到晶圆上,未被激活的分支输入全零张量,依靠硬件零值跳过机制避免无效计算。但这意味着大量核心面积和 SRAM 空间被提前占用,实际利用率下降。
权重流:解决内存容量天花板
空间映射解决了计算效率问题,但带来了另一个矛盾,WSE-3 的片上 SRAM 只有 44 GB,而当前主流大语言模型的参数量动辄数百 GB。模型根本装不进去。
Cerebras 的解法是将存储与计算彻底分离,引入一个称为 MemoryX 的外部硬件机柜。
MemoryX 由大容量 DRAM 和 NAND Flash 组成,专门负责存放模型的全部权重参数以及优化器状态。
WSE 的片上 SRAM 不再存储权重,转而专门驻留前向传播产生的激活值。
训练过程因此变成一套流水线。
前向传播时,权重矩阵分块从 MemoryX 经网络接口传入晶圆边缘,广播给对应计算区域的核心;
反向传播产生的梯度则反向流回 MemoryX;参数更新由 MemoryX 内部的专用处理器完成,更新后的权重再准备下一轮传输。
这套架构的本质是用外部带宽换片上容量。
能支持任意规模的模型,但软件必须精确控制权重到达晶圆边缘的时序,使其与片上激活值的计算节奏完全吻合。
任何时序错位都会导致计算核心空等数据,流水线效率骤降。这种确定性调度要求,是 CSoft 编译器复杂度的重要来源之一。
SwarmX:把梯度聚合放进交换机
单台 CS-3 系统搭配 MemoryX,能够支撑大模型的完整训练流程。但当训练目标扩展至万亿参数量级,就需要多台 CS-3 并行,对不同的数据批次分别计算梯度,再将梯度全局求和后统一更新权重。
这随着节点数量增加,需要在所有节点之间同步的梯度数据量线性增长,网络带宽随之成为制约扩展效率的关键。
Cerebras 的解法是 SwarmX,一套专用互联架构,其交换机内部集成了算术逻辑单元。交换机在数据包转发过程中直接完成梯度求和,最终传入 MemoryX 的已经是聚合完毕的全局梯度,不需要任何节点再做额外的归约计算。
软件栈的本质:释放硬件的物理特性
回到本模块最开始的问题,为什么英伟达课程几乎不涉及物理级软件栈?
原因在于,CUDA 的设计目标是屏蔽硬件细节,让开发者无需关心计算在硅片上的物理位置。这种抽象层的代价是无法触及硬件的物理极限,但带来了巨大的通用性与生态兼容性。
Cerebras 的软件栈走向了另一个极端:CSoft 编译器直接操作物理路由寄存器,权重流调度器精确控制数据到达晶圆的时序,SwarmX 将数学运算硬编码进交换机逻辑。软件不是在屏蔽硬件,而是在直接驾驭硬件的物理特性。
这套设计在标准 Transformer 这类拓扑结构固定、计算图在运行前完全确定的模型上效率极高;一旦遇到需要运行时动态决策的模型结构,其静态映射的物理本质就成为灵活性的天花板。
这一权衡,从第一模块制造物理决定微架构的那一刻起,就已经写入了系统设计的基因。
Cerebras WSE 与谷歌 TPU:同样让数据流动,底层却截然不同
Cerebras WSE 与谷歌 TPU 出发点高度相似,都厌倦了传统冯·诺依曼架构中数据反复读写主存的低效,都试图让计算单元直接传递中间结果,而不是把每一步的输出都存回内存再取出来。
但相似之处仅止于此。在体系结构的底层实现上,两者走的是两条完全不同的路。
共同的起点:让数据在计算单元之间直接流动
在普通 CPU 或 GPU 上执行一次矩阵乘加运算,计算单元需要先从寄存器或缓存取出数据,算完后把结果写回寄存器,下一步再读出来。
每一次中间结果都要经历一次读写循环。
TPU 和 WSE 都采用了空间数据传递的思路。计算单元的输出直接通过硬件连线连接到下一个计算单元的输入,中间结果不经过寄存器堆,直接流向相邻节点。这种设计既节省内存带宽,也降低芯片功耗。
第一个不同:同步脉动 vs. 异步触发
谷歌 TPU 的核心是矩阵乘法单元,一个由数万个乘加单元组成的刚性二维网格。
运行节奏由全局时钟严格控制,每一个时钟周期,数据在阵列中精确移动一步。权重静止不动,激活值从左向右流过,部分和从上向下累加。
整个阵列由集中式控制单元发射超长指令字,所有节点同步执行,步调整齐划一。
WSE 的机制与此相反。90 万个核心各自拥有独立的程序计数器,相互之间不存在强制同步。
数据以异步、事件驱动的方式流动:上游核心计算完毕,立即将数据微片推向下游核心;
下游核心的硬件状态机检测到输入寄存器有数据到达,立即唤醒并执行对应指令。没有全局时钟节拍要等,没有因为某个核心稍慢而全员停下来等待的机制。
第二个不同:算子内流动 vs. 跨层流动
这是两者在系统层面最根本的差异。
TPU 每次只处理模型的一层。将这一层的矩阵乘法切分后让数据在脉动阵列内部流动,算完之后把结果写回高带宽内存 HBM,再载入下一层的权重,重新开始。
本质上是时间复用。同一套硬件在不同时刻依次服务于不同的网络层。
WSE 的编译器则将模型的不同层同时映射到晶圆的不同物理区域。物理区域 A 负责第一层,区域 B 负责第二层,区域 C 负责第三层……
第一层的输出直接作为数据流进入第二层所在的物理区域,中间结果无需写入任何全局存储。整个神经网络被展开为一张覆盖全晶圆的有向无环图,数据在层与层的物理坐标之间持续流动,不存在"算完一层、清空、换下一层"的时间切换开销。
两种哲学,两种权衡 TPU 的设计目标是构建一个极其高效的矩阵乘法专用引擎,用全局同步指令将稠密矩阵运算压榨到物理极限。
优势在于对规则稠密矩阵运算的极致吞吐,但数据流动的范围局限在单一算子内部,层与层之间依然依赖外部内存中转。
WSE 的设计目标是构建一个异步处理器网格,数据流动不仅贯穿单一矩阵运算的内部,更贯穿整个神经网络的层间传递,且每个核心具备独立判断零值并跳过的能力。
优势在于消除层间的内存读写开销,以及对稀疏计算的硬件级加速;代价则是编译器必须在运行前完成全部的物理路由配置,面对动态计算图时灵活性受限。
两者底层架构的差异,直接决定了各自在面对大语言模型不同计算瓶颈时的应对策略。
这也是为什么在 AI 芯片赛道上,TPU 与 WSE 并非简单的替代关系,而是各自在不同的设计权衡上走到了各自的极致。
Cerebras 的差异化壁垒:为什么厂商要买 Cerebras 芯片?
既然英伟达和谷歌已经能够训练出 GPT-4、Gemini 这类顶级模型,Cerebras 还有存在的必要吗?
从纯数学的角度,答案是否定的。
任何 Cerebras 能算出的模型结果,GPU 集群都能算出来。但在真实的工业环境里,能算出来和值得用它算是两个完全不同的问题。
判断一套架构是否具备不可替代性,取决于三个维度:完成时间、物理能效,以及部署所需的人力工程代价。在这三个维度上,Cerebras 在特定场景下构建了传统架构难以跨越的壁垒。
壁垒一:用硬件复杂度消灭软件复杂度
英伟达 GPU 集群的算力毋庸置疑,但使用门槛同样毋庸置疑。
当一家制药企业或医疗机构需要训练一个千亿参数的专有模型时,购买 2000 张 H100 只是第一步。
这些卡不会自动协同工作。企业必须组建一支顶级分布式系统工程师团队,处理跨节点通信死锁、编写张量并行切分代码、优化集群网络拓扑。
而这类工程师在市场上极度稀缺,招募与培训周期以年计。
Cerebras 的 CSoft 编译器将整块晶圆在代码层面呈现为单一逻辑设备。算法工程师只需编写标准的单机 PyTorch 代码,即可调动 90 万个核心训练大规模模型。
分布式系统的全部物理复杂性被封装在硬件内部,对用户不可见。
这不是速度快一点的优化,而是将原本需要数十人年工程投入的问题直接从用户侧消除。对于核心人员是医生、生物学家或物理学家而非系统架构师的机构而言,这种简化构成了真实的商业壁垒。
壁垒二:物理架构决定的三个性能高地
除了部署便利性,还存在三类工作负载,在这些场景下即便拥有最顶尖的系统工程师团队,GPU 和 TPU 也无法通过软件优化来抹平与 Cerebras 之间的物理差距。
1)非结构化稀疏计算。
深度学习模型在训练后往往包含大量零值参数。如果能在不损失精度的前提下将模型稀疏度提升至 70%,理论上可以大幅削减计算量。
但英伟达的张量核心和谷歌的脉动阵列都是稠密计算引擎,底层硬件对齐要求决定了它们必须为零值操作分配时钟周期。英伟达 Ampere 架构引入的"2:4 结构化稀疏"已是目前最激进的折中方案,但仍要求零值按固定模式分布,无法处理完全随机的非结构化稀疏。
WSE 的每个核心在硬件电路层面直接检测并跳过零值,稀疏度与执行时间之间存在严格的线性对应关系。这意味着同样的算力预算,在 WSE 上可以探索规模大数倍的稀疏模型。
2)超长上下文推理。 大语言模型处理百万级 Token 输入时,用于存储注意力中间状态的 KV Cache 体积极大,每生成一个新词都需要完整读取一次。英伟达 B200 的 HBM 带宽约为 8 TB/s,已是目前量产芯片的物理极限。
WSE-3 的片上 SRAM 总带宽为 21 PB/s,两者相差约 2600 倍。
这是由内存物理位置决定的架构性差异。正是这一差距,决定了某些超长文本应用场景在 GPU 上是"速度很慢但理论可行",在 WSE 上则是"实时可部署的产品"。
3)单请求极低延迟。 GPU 的高吞吐量建立在大批量并行的前提上,需要将大量请求打包才能填满数千个计算核心。
在批处理大小为 1 的场景下,如自动驾驶决策、机器人实时控制、多智能体高频交互,GPU 大量计算单元闲置,加之内核启动和调度开销,单次前向传播的绝对延迟存在无法跨越的最小值。
WSE 的数据流触发机制不需要等待请求聚合,单一数据微片到达即触发运算,在低并发场景下的响应延迟是架构层面的物理优势,不受并发量影响。
壁垒三:英伟达护城河本身的边界
英伟达的真正护城河不是硬件,而是 CUDA 生态。十余年积累的优化库、学术代码库与开发者习惯。这套生态让 GPU 在通用计算场景下几乎无可撼动。
但 CUDA 生态的强大,恰恰来自于它的通用性设计。通用性意味着在每一个特定场景下都留有妥协。
Cerebras 放弃了通用性,将硬件的每一个设计决策都指向同一个目标:在单块硅片内部最大化张量数据流的传输效率。
这种极端的领域专用性,使其在非结构化稀疏、超长上下文和实时推理这三个交叉点上,形成了 CUDA 生态无论如何优化都无法在物理层面复制的性能壁垒。
产业定位的最终边界 将三家公司放在同一张坐标系里,分工其实相当清晰:
1)英伟达凭借 CUDA 生态的深度和广度,占据绝大多数通用计算与标准大模型训练市场,是行业的默认计算平台。
2)谷歌 TPU 依托内部数据中心的极大规模与高度一致的分布式拓扑,以最低单位成本支撑其自身的全部 AI 业务。
3)Cerebras 则放弃了通用性,将硬件物理面积与内存带宽推至制造工艺的极限,专门服务于高稀疏度模型、超长序列推理,以及对分布式工程能力有明确短板的大型专业机构。
Cerebras 不会取代英伟达,它的存在逻辑是,在 AI 算力需求持续分化的过程中,总有一批用户的核心痛点不是通用性,而是在特定的物理极限内做到最好。
Cerebras 在制造工艺层面付出的极高代价,正是为了锁定并服务好这批用户。
还记得在文章开头对 Cerebras 收入类型和结构的分析吗?
2026 年初,Cerebras 与 OpenAI 签署了一项多年期供应协议,显著降低了对 G42 的依赖。
与此同时,客户群体也在向更多垂直领域延伸,包括欧洲大语言模型企业 Mistral AI、医疗机构梅奥诊所(Mayo Clinic)、制药巨头阿斯利康(AstraZeneca),以及部分国家级超算实验室。
在 2024 年上半年实现总收入 1.364 亿美元,其中 87% 来自总部位于阿联酋的科技集团 G42。
2026 年初,美国军方还公布了与 Cerebras 及 Ranovus 签订的总额 4500 万美元的芯片互联加速合同。
随着 2025 年下半年其在多地自建数据中心并上线云端 AI 加速服务,加之 2026 年 OpenAI 订单开始并入营收,Cerebras 的商业模式正从单一硬件直销,向硬件销售与云服务租赁并行演进。