DeepSeek开源周第二天，开源EP通信库DeepEP

  • 2月25日

DeepSeek开源周第二天，很高兴介绍 DeepEP – 第一个用于 MoE 模型训练和推理的开源 EP 通信库。

高效且优化的全对全通信

通过 NVLink 和 RDMA 支持节点内和节点间

用于训练和推理预填充的高吞吐量内核

用于推理解码的低延迟内核

原生 FP8 调度支持

灵活的 GPU 资源控制，用于计算通信重叠

利好 利空
0 条回复 A文章作者 M管理员
    暂无讨论，说说你的看法吧
❯
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索
客服

  • 扫码打开当前页

  • 微信客服

返回顶部