Hardware-Voraussetzung
- 推荐配置：NVIDIA Blackwell架构GPU（如B200），至少8张GPU组成的集群（总显存约1342GB）
- 最小测试配置：1张高性能GPU（如A100/H100），但性能会有所降低
Software-Abhängigkeit
- Betriebssystem:Linux（Ubuntu 20.04+）
- 关键组件：最新NVIDIA驱动（支持CUDA 12.4+）、TensorRT-LLM框架（需源码编译）
- 编程环境：Python 3.11+，以及tensorrt_llm、torch等相关库
特别需要注意的是，TensorRT-LLM需要通过GitHub源码编译最新主分支版本，直接pip安装的版本可能不兼容。
Diese Antwort stammt aus dem ArtikelDeepSeek-R1-FP4: FP4-optimierte Version von DeepSeek-R1 Inferenz 25x schnellerDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " 部署DeepSeek-R1-FP4需要哪些硬件和软件环境？
Deutsch 
简体中文 
English 
日本語 
Português do Brasil