海外からのアクセス：www.kdjingpai.com

Ctrl + D このサイトをブックマークする

現在の場所図頭 " AIアンサー

如何解决大规模MoE集群中的网络拥塞问题？

2025-09-05

1.3 K

問題の背景

千卡级MoE集群常出现网络热点和PFC风暴等问题，DeepEP提供多层次拥塞控制方案。

処方

虚拟通道隔离：通过`NVSHMEM_IB_SL`分配独立的服务等级
流量整形：启用DeepEP内置的rate limiter(需HDR InfiniBand)
拓扑感知路由：配置`NVSHMEM_TOPO_FILE`指定最优转发路径

操作ガイド

生成集群拓扑描述文件
在启动脚本中添加：`export NVSHMEM_IB_SL=1,3,5`(奇数通道较少冲突)
针对fat-tree网络，设置`NVSHMEM_TREE_WIDTH=36`等参数

検証方法

使用`ibdiagnet`检查网络健康状态；通过`perfquery`监控IB端口计数器；建议部署后运行24小时压力测试(`tests/stress_test.py`)。

この答えは記事から得たものである。DeepEP：MoEモデルに特化した通信効率を最適化するオープンソースツール（DeepSeekオープンソースウィーク2日目）について

関連記事

無断転載を禁じます：AI生産性ツール " 如何解决大规模MoE集群中的网络拥塞问题？

おすすめ

日本語