海外访问:www.kdjingpai.com
Ctrl + D 收藏本站
当前位置:首页 » AI答疑

如何安装vllm-cli,需要满足哪些系统要求?

2025-08-21 32

安装vllm-cli需要满足以下系统要求:

  • Python 3.11或更高版本
  • 支持CUDA的NVIDIA GPU
  • 已安装vLLM核心包

安装方式有两种:

  1. 从PyPI安装(推荐初学者):
    运行命令pip install vllm-cli
  2. 从源码编译安装(适合开发者):
    git clone https://github.com/Chen-zexi/vllm-cli.git
    cd vllm-cli
    pip install -r requirements.txt
    pip install -e .

建议在虚拟环境中安装以避免依赖冲突。对于需要LoRA支持的场景,还需额外配置hf-model-tool组件。

相关推荐

找不到AI工具?在这试试!

输入关键词,即可 无障碍访问 必应 搜索,快速找到本站所有 AI 工具。

回顶部

zh_CN简体中文