当前位置：首页 » AI答疑

如何在非NVIDIA显卡环境下使用HRM进行推理？

2025-08-23

环境限制说明

HRM默认依赖CUDA扩展，但可通过以下方案在AMD/Intel显卡上运行：

方案1：CPU模式
1. 安装PyTorch的CPU版本：pip install torch –cpu
2. 修改代码中所有.cuda()调用为.cpu()
3. 设置环境变量：export CUDA_VISIBLE_DEVICES=-1
注：推理速度降低约10倍
方案2：ROCm转换
1. 安装PyTorch的ROCm版本
2. 使用torch.compile()启用自动优化
3. 重写CUDA内核为HIP代码
方案3：云服务代理
- 通过ONNX Runtime部署到Azure ML
- 使用TensorRT-LLM转换模型