当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

5个月前 (02-26)Deepseek最新资讯320

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

还在等DeepSeek R2?刚刚,DeepSeek R1模型小版本试升级已完成!优化了这些方面

还在等DeepSeek R2?刚刚,DeepSeek R1模型小版本试升级已完成!优化了这些方面

5月28日,DeepSeek官方宣布DeepSeek R1模型已完成小版本试升级,欢迎前往官方网页、APP、小程序测试(打开深度思考),API 接口和使用方式保持不变。关于这次试升级的内容,小编询问D...

DeepSeek“引燃”金融圈!券商、基金经理发声

DeepSeek“引燃”金融圈!券商、基金经理发声

记者获悉,近日,民生证券研究院内部下发通知,宣布将全面深化人工智能平台DeepSeek在研究业务中的融合应用,加速构建智能化研究体系。此外,国联民生将于2月27日至28日举办首届资本市场论坛,论坛聚焦...

DeepSeek接入完毕,武汉硚口的这些业务可一键办理

DeepSeek接入完毕,武汉硚口的这些业务可一键办理

极目新闻通讯员 李刚近日,武汉市硚口区行政审批局“公司宝典”微信公众号接入深度求索(DeepSeek)人工智能模型,开创了湖北省省市场主体登记领域使用生成式AI服务群众的先河。公司宝典微信公众号据悉,...

与DeepSeek、月之暗面等同台竞技,蘑菇车联的AI之路向何方?

与DeepSeek、月之暗面等同台竞技,蘑菇车联的AI之路向何方?

日前,蘑菇车联公布斩获荣誉“MOGO.AI AWARDS”,公司2024年以来接连荣获多项人工智能、独角兽、自动驾驶、智慧交通类顶级榜单和奖项荣誉。这些荣誉不仅来自北京市科学技术委员会、中国信通院等国...

巨大人才缺口!DeepSeek带火AI岗,“六小龙”全球高薪招贤

巨大人才缺口!DeepSeek带火AI岗,“六小龙”全球高薪招贤

(央视财经《经济半小时》)2025年春节,中国人工智能大模型DeepSeek在全球引发轰动。DeepSeek的崛起也让相关领域的人才在这个春招季炙手可热。春招首周,人工智能工程师的求职增速位居职业榜首...

DeepSeek宣布开源DeepGEMM

DeepSeek宣布开源DeepGEMM

【DeepSeek宣布开源DeepGEMM】财联社2月26日电,Deepseek于开源周第三天宣布开源DeepGEMM。DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法(GEMM)设计的库...