海外访问：www.kdjingpai.com

Ctrl + D 收藏本站

当前位置：首页 » AI答疑

DeepGEMM支持哪些核心功能？

2025-08-30

1.3 K

DeepGEMM 支持以下核心功能：

FP8 矩阵运算：提供高效的 FP8 通用矩阵乘法（GEMM），适用于高性能计算场景
MoE 模型优化：支持混合专家模型的分组 GEMM，仅对 M 轴分组，适配专家共享相同形状的场景
即时编译（JIT）：通过运行时编译内核，无需预编译即可适配不同硬件环境
高性能计算：在 NVIDIA Hopper GPU 上实现超过 1350 TFLOPS 的 FP8 计算吞吐量
简洁代码设计：核心代码约 300 行，易于学习和二次开发
兼容性强：支持普通 GEMM 和带掩码的分组 GEMM，适配多种推理场景
开源免费：基于 MIT 协议发布，适用于研究和商业用途

本答案来源于文章《DeepGEMM：高效支持FP8矩阵运算的开源库（DeepSeek 开源周第三天）》

相关文章

未经允许不得转载：AI生产力工具 » DeepGEMM支持哪些核心功能？

相关推荐