当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

4个月前 (02-25)Deepseek最新资讯206

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

安徽移动铜陵分公司推动DeepSeek大模型本地化部署卓有成效

安徽移动铜陵分公司推动DeepSeek大模型本地化部署卓有成效

今年以来,DeepSeek大模型风靡全球,在国内外科技领域掀起了AI热潮,为响应人工智能技术快速迭代趋势,推动AI大模型在本地普及和应用落地,安徽移动铜陵分公司(以下简称:铜陵移动)积极推动DeepS...

中铁信科成功接入DeepSeek-R1

中铁信科成功接入DeepSeek-R1

  北京讯 近期,中铁信科相继完成接入DeepSeek-R1(深度求索研发大模型)、办公AI助手上线等工作,助力中国中铁(601390)智慧应用体验再升级。  今年2月,中铁信科开始DeepSeek大...

效率狂飙!DeepSeek最强16个王炸组合,打工人必看!(强烈建议收藏)

效率狂飙!DeepSeek最强16个王炸组合,打工人必看!(强烈建议收藏)

01内容创作:1分钟输出爆款(1)DeepSeek + 豆包            爆款文案生成器自媒体人痛点:选题难、灵感枯竭?输入行业关...

西藏大学、拉萨高新区等“尝鲜”DeepSeek

西藏大学、拉萨高新区等“尝鲜”DeepSeek

中新网拉萨5月27日电 (记者 江飞波)西藏大学近日推出“藏大智言”DeepSeek(深度求索)平台,人工智能教学服务将延伸至雪域高原。中新网记者获悉,除西藏大学外,目前西藏自治区昌都市政务云已完成D...

多地组织干部学用DeepSeek!专家称人员要调整观念

多地组织干部学用DeepSeek!专家称人员要调整观念

在各地政务系统密集宣布接入DeepSeek的同时,苏州、郑州、来宾、延安等地也掀起了一阵组织领导干部学用人工智能辅助决策、拥抱新技术的热潮。2月18日,清华大学新闻学院、人工智能学院双聘教授沈阳在接受...

正式接入DeepSeek!福建这群医护人员已经开始学习……

正式接入DeepSeek!福建这群医护人员已经开始学习……

2月19日下午福建医科大学附属第二医院(以下简称“福医二院”)举办了一场“科技含量满满”的培训会吸引了众多院内科研骨干、临床医护人员及学生参加会上,他们对DeepSeek在医院的创新应用有了更深入的了...