当前位置:首页 > Deepseek最新资讯 > 正文内容

Deepseek R1 推理实测:4 块英伟达 GB300 能干 16 块 H1

2个月前 (08-27)Deepseek最新资讯199

  IT之家援引博文介绍,CoreWeave 使用 Deepseek R1 推理模型,对比评估英伟达 Blackwell 架构 GB300 NVL72 和上一代 H100 GPU 的差别。归功于英伟达升级架构,增强内存和带宽,测试结果显示,GB300 在仅使用 4 块 GPU 的情况下,即可完成原本需要 16 块 H100 才能运行的任务。

  GB300 NVL72 平台支持高达 37TB 的内存容量(最高可达 40TB),并配备每秒 130TB 的内存带宽。该平台为减少 GPU 间数据分割次数deepseek,采用 4 路并行设计,并通过 NVLink 和 NVSwitch 高速互连提升通信效率。

  CoreWeave 指出,这不仅是 FLOPs 算力的提升,更是系统架构在实际业务场景下的效率跃迁。对于需要运行复杂模型的企业客户,GB300 NVL72 提供了更高的扩展性和更低的延迟,帮助他们更快、更经济地部署和运行 AI 服务。原文出处:Deepseek R1 推理实测:4 块英伟达 GB300 能干 16 块 H100 的活,感谢原作者,侵权必删!

标签: deepseek

“Deepseek R1 推理实测:4 块英伟达 GB300 能干 16 块 H1” 的相关文章

佳都科技(600728.SH):公司采用“自研垂类模型+DeepSeek通用推理

佳都科技(600728.SH):公司采用“自研垂类模型+DeepSeek通用推理

  自2023年起,公司持续关注DeepSeek大模型技术进展,并将其高效训练与推理技术融入自研的“知行交通大模型”。截至目前,公司已经完成DeepSeek-V3及R1版本的适配验证,并已...

中国AI火到海外!多国大使向来华留学生推荐DeepSeek和夸克

中国AI火到海外!多国大使向来华留学生推荐DeepSeek和夸克

  随着新学期到来,大批海外留学生将陆续入学。根据教育部2024年的数据,目前在华留学生总数已突破50万人,比2023年增长12.3%,创下历史新高。中国已成为亚洲第一、全球第三的留学目的...

怎么这么多人看不起Sesko……

怎么这么多人看不起Sesko……

  首先,他确实不是世界级前锋。但他在过去三年都一直是公认的顶级中锋苗子,只不过一直没流入转会市场(红牛系升级路线太清晰,没到合适时机外人撬不动)。今年他有机会流入转会市场而已。...

DeepSeek更新,增加这项功能!

DeepSeek更新,增加这项功能!

  值得一提的是,近日有市场传言称,国产大模型公司深度求索旗下DeepSeek R2有望在8月15日至30日期间发布。   7月31日,据国际开源社区Hugging-Fa...

奥克斯空调全系产品拥抱鸿蒙系统,共启智能互联新纪元

奥克斯空调全系产品拥抱鸿蒙系统,共启智能互联新纪元

  2025年9月16日,由华为技术有限公司承办的第四届“828企业家活动——鸿启新程·算赋浙商”在浙江杭州盛大举行,奥克斯空调受邀参会。据悉,奥克斯空调早已深度融入鸿蒙智能生态,其全系产...

建华课堂重庆分课堂暨渝北民建大讲堂举办

建华课堂重庆分课堂暨渝北民建大讲堂举办

  7月16日,由民建重庆市委会财政金融委员会、企业委员会,民建渝北区委会联合主办的“建华课堂重庆分课堂暨渝北民建大讲堂”在渝北区举行。市委会专职副主委刘伟出席活动并致辞,民建渝北区委会主...