海外访问：www.kdjingpai.com

Ctrl + D 收藏本站

当前位置：首页 » AI答疑

什么是DeepGEMM？它的主要作用是什么？

2025-08-30

1.3 K

DeepGEMM 是一个由 DeepSeek 团队开发的开源 FP8 GEMM（通用矩阵乘法）库，专注于提供高效的矩阵运算支持。它特别针对 NVIDIA Hopper 架构的 Tensor Core 设计，主要作用包括支持普通矩阵运算和混合专家模型（MoE）的分组 GEMM 操作。

该库的主要特点和优势包括：

采用 CUDA 编写，通过轻量级的即时编译（JIT）技术实现运行时内核编译
无需安装时预编译，极大简化了部署流程
在 Hopper GPU 上可达到超过 1350 TFLOPS 的 FP8 计算能力
适用于机器学习模型的训练和推理加速
因其开源性质和易读性，成为学习 FP8 矩阵优化的优秀资源

本答案来源于文章《DeepGEMM：高效支持FP8矩阵运算的开源库（DeepSeek 开源周第三天）》

相关文章

未经允许不得转载：AI生产力工具 » 什么是DeepGEMM？它的主要作用是什么？

相关推荐