当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

5个月前 (02-25)Deepseek最新资讯304

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

梅州市12345热线正式接入DeepSeek

梅州市12345热线正式接入DeepSeek

2月21日,梅州市正式将DeepSeek大模型应用于12345政务服务便民热线,以AI技术赋能民生诉求响应,此举标志着梅州政务服务向智慧化、数字化转型迈出关键一步。梅州市政务服务和数据管理局相关负责人...

无需部署,即刻体验!天翼AI云电脑轻松玩转DeepSeek

无需部署,即刻体验!天翼AI云电脑轻松玩转DeepSeek

AI正以比较罕见的速度渗透到各行各业,成为推动社会进步和经济增长的重要引擎。面对当下爆火的国产AI新星DeepSeek热潮,天翼云率先发力,将天翼AI云电脑全面接入DeepSeek,为用户提供开箱即用...

雷科防务:子公司理工雷科已完成“山海”模组与DeepSeek R1模型适配

雷科防务:子公司理工雷科已完成“山海”模组与DeepSeek R1模型适配

金融界3月3日消息,有投资者在互动平台向雷科防务提问:请问董秘 公司相关的产品 有没有接入deepseek 有没有对于deepseek相关端侧有利的产品或者服务。公司回答表示:DeepSeek为开源大...

“云上加速,智启未来”——DeepSeek赋能开启磁县智慧政务新纪元

“云上加速,智启未来”——DeepSeek赋能开启磁县智慧政务新纪元

转自:邯郸新闻网DeepSeek作为一款国产AI大模型,自发布以来便以其强大的语言处理能力和卓越的知识推理能力,在众多行业领域展现出了广泛的应用前景。近日,邯郸联通与磁县行政审批局成功合作骨干云与De...

从万元到百万元,DeepSeek一体机江湖混战

从万元到百万元,DeepSeek一体机江湖混战

DeepSeek爆火让模型平权,今年以来,市面上的DeepSeek一体机可谓五花八门,有的声称可以“跑满血”,有的称可以运行70B、32B模型;有的是量化版本,有的是全精度版本;价格也是相差甚远,从几...

OPPO Find X8 Ultra深度融合DeepSeek

OPPO Find X8 Ultra深度融合DeepSeek

新京报贝壳财经讯(记者 张晗)4月10日,OPPO发布其年度影像旗舰产品Find X8 Ultra,起售价为6499元。据OPPO介绍,Find X8 Ultra首创全链路原彩ProXDR,支持首个原...