DeepGEMM是由DeepSeek团队专门为NVIDIA Hopper架构开发的开源矩阵运算库，专注于提供高效的FP8（浮点8位）通用矩阵乘法支持。该库通过CUDA编写，充分利用Tensor Core的计算能力，特别适合需要高性能矩阵运算的机器学习和深度学习任务。其开源特性使得研究人员和开发者可以自由查看、修改和优化代码，促进FP8计算技术的普及和发展。
DeepGEMM的技术核心在于其高效的即时编译（JIT）机制，它消除了预编译的繁琐步骤，使得库可以在运行时自动生成优化后的计算内核。这种设计不仅简化了部署流程，还确保了库在不同硬件环境下的自适应能力。作为一个专为高性能计算设计的工具，DeepGEMM在NVIDIA Hopper GPU上能够实现高达1350 TFLOPS的FP8计算性能，为大规模机器学习模型的训练和推理提供了强大的计算支持。
This answer comes from the articleDeepGEMM: An Open Source Library with Efficient Support for FP8 Matrix Operations (DeepSeek Open Source Week Day 3)The
May not be reproduced without permission:AI productivity tools " DeepGEMM是DeepSeek团队开发的开源FP8 GEMM库
English 
简体中文 
日本語 
Deutsch 
Português do Brasil