当前位置：首页 » AI答疑

如何在自己的电脑上安装和配置RolmOCR？

2025-08-26

1.4 K

RolmOCR详细安装指南

安装过程分为四个核心步骤：

环境准备：确认Python≥3.8环境，推荐使用Anaconda创建虚拟环境：
```
conda create -n rolmocr python=3.10
```
框架安装：通过pip安装vLLM推理引擎后，必须设置环境变量：
```
export VLLM_USE_MODELSCOPE=1
```
这是确保国产模型兼容性的关键步骤
模型获取：除Hugging Face外，可通过镜像源加速下载：
```
git clone https://www.modelscope.cn/reducto/RolmOCR.git
```
服务启动：推荐添加–token限流参数保障稳定性：
```
vllm serve --model reducto/RolmOCR --max-num-batched-tokens 4096
```

常见问题排查：若启动失败，检查CUDA版本是否≥11.7；内存不足时可添加–gpu-memory-utilization 0.8参数。