国产 AI 芯片这两年讨论的重点,正在从"能不能用"变成"值不值得用"。11 月初,天数智芯在上海办了一场媒体开放日,第一次把天垓 300 摆到真机面前让人测,给出的对比对象是英伟达 H200。

一、实测数字:1.05 倍是怎么来的

按第三方机构今年 7 月完成的测试,在典型的预填充—解码分离(PD 分离)部署下,天垓 300 折算单卡的整体端到端吞吐达到 H200 的 1.05 倍;64K 长上下文场景下 Attention 性能同样是 1.05 倍;多模态生成推理吞吐提升 2%—5%;搜广推这类在线业务的推荐推理吞吐提升约 21%。

这里有两个限定词必须说清楚:特定模型、特定部署条件。它不是理论峰值的纸面对比,而是整条推理链路的实际输出能力——这比跑分更有参考价值,但也意味着换一个模型或换一种并行策略,结果可能变化。选型时一定要拿自己的模型去复测。

硬件规格上,天垓 300 配备 144GB 显存,超过 H200 的 141GB。对今天动辄百万上下文的模型来说,显存就是硬上限,越过这条线意味着能装下更长的上下文或更大的批。

二、超节点:把成本压下来的关键

单卡性能只是入场券,规模化交付看的是系统。天垓 300 的 IXL144 超节点在单个标准机柜里集成 144 颗 GPU,聚合约 10.1TB 显存,官方测算每百万有效 Token 成本比国际主流方案低约 40%。

这个 40% 的来源不是芯片便宜,而是通信与调度效率:新一代 P2P 互联引擎把域内单次传输延迟目标从 3—5 微秒压到 1 微秒,支持统一内存语义编程,也支持大 EP 把专家权重分散到更多核心。对 MoE 模型来说,这些细节直接决定实际吞吐。

三、软件栈才是真门槛

硬件追上来之后,开发者能不能用好是另一道坎。天数智芯这次把软件栈的定位讲得很直白:易于使用、易于优化、易于开发。

举两个可验证的例子:模型 PD 分离部署的环境准备与服务部署,整体用时从 1 小时缩到 10 分钟,人工操作从数十步减到 1 步;某个大模型调优任务的工作周期从 7 天压到 2 小时以内。这类收益不像跑分那样吸睛,但对一线团队来说更实在。

四、端侧也在同步下沉

同场还展示了面向具身智能和现场部署的端侧终端彤央 TY1200,标称 300 TOPS 稠密算力(不是行业惯用的稀疏峰值)。官方实测中,它在 Qwen3.8-27B、Qwen3.6-35B-A3B 等模型上的性能达到英伟达 Thor T5000 的 1.2 倍,Cosmos-R2 系列上分别为 158% 和 180%。下一代产品 TY2000 标称 600T。

写在最后

国产 GPU 这一年最实质的变化,是开始进入训练侧的核心场景,而不只是推理侧的替代选项。但"达到 H200 水平"这句话,一定要跟着"在什么模型、什么部署条件下"一起读。

给准备采购的团队三条建议:第一,用自己的主力模型和真实并发复测,不要只看厂商给的基准;第二,把软件栈迁移成本算进总账,包括算子缺失、框架适配和调优人力;第三,优先在推理和微调这类可回退的场景试点,再考虑把预训练押上去。