DeepGEMM 支持以下核心功能：
- FP8 矩阵运算：提供高效的 FP8 通用矩阵乘法（GEMM），适用于高性能计算场景
- MoE model optimization：支持混合专家模型的分组 GEMM，仅对 M 轴分组，适配专家共享相同形状的场景
- Just-In-Time (JIT) compilation：通过运行时编译内核，无需预编译即可适配不同硬件环境
- high performance computing：在 NVIDIA Hopper GPU 上实现超过 1350 TFLOPS 的 FP8 计算吞吐量
- Simple code design：核心代码约 300 行，易于学习和二次开发
- high compatibility：支持普通 GEMM 和带掩码的分组 GEMM，适配多种推理场景
- Open source and free：基于 MIT 协议发布，适用于研究和商业用途
This answer comes from the articleDeepGEMM: An Open Source Library with Efficient Support for FP8 Matrix Operations (DeepSeek Open Source Week Day 3)The
May not be reproduced without permission:AI productivity tools " DeepGEMM支持哪些核心功能？
English 
简体中文 
日本語 
Deutsch 
Português do Brasil