海外访问:www.kdjingpai.com
Ctrl + D 收藏本站
当前位置:首页 » AI答疑

DualPipe 是 DeepSeek-AI 团队开发的开源双向流水线并行算法

2025-08-30 1.3 K

DualPipe 的开源背景与核心价值

DualPipe 是由 DeepSeek-AI 团队 Jiashi Li、Chengqi Deng 和 Wenfeng Liang 三人共同开发的创新性并行训练算法,目前已作为开源项目发布在 GitHub 平台。该技术专门针对当前大规模 AI 模型训练中的效率瓶颈,提出双向流水线的并行范式,其核心价值在于实现了计算与通信任务的完全重叠,显著减少传统流水线并行中因等待造成的’气泡’时间。通过优化调度机制,DualPipe 能够适配 DeepSeek-V3 和 R1 等万亿参数规模的模型训练,为分布式 AI 训练提供了新的技术路径。

相关推荐

找不到AI工具?在这试试!

输入关键词,即可 无障碍访问 必应 搜索,快速找到本站所有 AI 工具。

回顶部

zh_CN简体中文