海外からのアクセス：www.kdjingpai.com

Ctrl + D このサイトをブックマークする

現在の場所図頭 " AIアンサー

如何在非NVIDIA显卡环境下使用HRM进行推理？

2025-08-23

59

环境限制说明

HRM默认依赖CUDA扩展，但可通过以下方案在AMD/Intel显卡上运行：

オルタナティブ

方案1：CPU模式
1. 安装PyTorch的CPU版本：pip install torch –cpu
2. 修改代码中所有.cuda()调用为.cpu()
3. 设置环境变量：export CUDA_VISIBLE_DEVICES=-1
注：推理速度降低约10倍
方案2：ROCm转换
1. 安装PyTorch的ROCm版本
2. 使用torch.compile()启用自动优化
3. 重写CUDA内核为HIP代码
方案3：云服务代理
- 通过ONNX Runtime部署到Azure ML
- 使用TensorRT-LLM转换模型

性能对比

设备	相对速度	内存占用
RTX 4090	100%	8GB
AMD MI250	85%	11GB
Intel Xeon	12%	32GB

この答えは記事から得たものである。HRM：複雑な推論のための階層的推論モデルについて

関連記事

無断転載を禁じます：AI生産性ツール " 如何在非NVIDIA显卡环境下使用HRM进行推理？

おすすめ

日本語