Zugang aus Übersee: www.kdjingpai.com
Ctrl + D Lesezeichen für diese Seite
Derzeitige Position:Abb. Anfang " AI-Antworten

DeepGEMM支持哪些核心功能?

2025-08-30 1.3 K

DeepGEMM 支持以下核心功能:

  • FP8 矩阵运算:提供高效的 FP8 通用矩阵乘法(GEMM),适用于高性能计算场景
  • Optimierung des MoE-Modells:支持混合专家模型的分组 GEMM,仅对 M 轴分组,适配专家共享相同形状的场景
  • Just-in-Time (JIT)-Zusammenstellung:通过运行时编译内核,无需预编译即可适配不同硬件环境
  • Hochleistungsrechnen (HPC):在 NVIDIA Hopper GPU 上实现超过 1350 TFLOPS 的 FP8 计算吞吐量
  • Einfacher Codeentwurf:核心代码约 300 行,易于学习和二次开发
  • hohe Kompatibilität:支持普通 GEMM 和带掩码的分组 GEMM,适配多种推理场景
  • Quelloffen und kostenlos:基于 MIT 协议发布,适用于研究和商业用途

Empfohlen

Sie können keine AI-Tools finden? Versuchen Sie es hier!

Geben Sie einfach das Schlüsselwort Barrierefreiheit Bing-SucheDer Bereich KI-Tools auf dieser Website bietet eine schnelle und einfache Möglichkeit, alle KI-Tools auf dieser Website zu finden.

zurück zum Anfang

de_DEDeutsch