ARTICLE DETAIL

深度阅读与观点解析

从赛事情境到内容延展,从信息速览到逻辑拆解,这里呈现更完整的文章阅读体验与更清晰的内容层级。

正在阅读

国产GPU迈出一大步!天数智芯天垓300实测反超NVIDIA H200

快科技10月29日消息,据报道,在天数智芯10月28日举办的从模型到世界2026媒体开放日活动,旗下新一代AI芯片天垓300首次面向媒体开放实机演示。 活动现场开放天垓300实机演示,接受与H200在GLM-5.3等大语言模型、文生图、文生视频场景的对比测试,天垓300整体表现均优于H200。 训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。 天垓300于今年7月世界人工智能大会上正式发布,采用天数天枢架构,集成新一代Tensor Core,配备144GB显存,原生支持标量、矢量、张量三类计算模式,覆盖FP4、FP8、FP16、BF16等多种数据精度,并支持高速片间互联。 上海仪电今年7月完成的第三方实测显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。 天数智芯性能实验室的实测进一步覆盖典型业务场景: 在64K长上下文下,天垓300的Attention性能为H200的1.05倍; GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍; 8K至128K长上下文场景下Agent首字延迟较H200降低约10%至30%; 多模态生成推理吞吐较H200提升约2%至5%; 在搜广推等在线业务中,推荐推理吞吐提升21%,轻量计算时延降低26%。 规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案,天垓300 IXL144超节点在单个标准机柜内集成144颗GPU,约10.1TB显存,每百万有效Token成本较国际主流方案可降低约40%。 特别

about image
觉得有用?分享给朋友

让更多人看到这篇内容

推荐阅读