以下是使用 DeepGEMM 进行基本 FP8 GEMM 运算的步骤：
- 导入库和函数::
import torch
from deep_gemm import gemm_fp8_fp8_bf16_nt - データ入力の準備（矩阵 A 和 B，必须是 FP8 格式）：
A = torch.randn(1024, 512, dtype=torch.float8_e4m3fn).cuda()
B = torch.randn(512, 1024, dtype=torch.float8_e4m3fn).cuda() - 调用函数进行矩阵乘法::
C = gemm_fp8_fp8_bf16_nt(A, B)
print(C)
警告だ：
- 输入矩阵需位于 GPU 上，且格式需为 FP8（E4M3 或 E5M2）
- 输出结果为 BF16 格式，适合后续计算或存储
この答えは記事から得たものである。DeepGEMM: FP8行列演算を効率的にサポートするオープンソースライブラリ (DeepSeek Open Source Week 3日目)について
無断転載を禁じます：AI生産性ツール " 如何使用DeepGEMM进行基本的FP8 GEMM运算？
日本語 
简体中文 
English 
Deutsch 
Português do Brasil