DeepGEMM 是一个由 DeepSeek 团队开发的开源 FP8 GEMM（通用矩阵乘法）库，专注于提供高效的矩阵运算支持。它特别针对 NVIDIA Hopper 架构的 Tensor Core 设计，主要作用包括支持普通矩阵运算和混合专家模型（MoE）的分组 GEMM 操作。
该库的主要特点和优势包括：
- 采用 CUDA 编写，通过轻量级的即时编译（JIT）技术实现运行时内核编译
- 无需安装时预编译，极大简化了部署流程
- 在 Hopper GPU 上可达到超过 1350 TFLOPS 的 FP8 计算能力
- 适用于机器学习模型的训练和推理加速
- 因其开源性质和易读性，成为学习 FP8 矩阵优化的优秀资源
Diese Antwort stammt aus dem ArtikelDeepGEMM: Eine Open-Source-Bibliothek mit effizienter Unterstützung für FP8-Matrixoperationen (DeepSeek Open-Source-Woche Tag 3)Die
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " 什么是DeepGEMM？它的主要作用是什么？
Deutsch 
简体中文 
English 
日本語 
Português do Brasil