安装过程需要完成五个关键步骤:
- 基础环境准备:Python 3.10+和conda虚拟环境(推荐使用命令:
conda create --name simpledeepsearcher python=3.10
) - 核心依赖安装:包括vLLM(0.6.5)、flash-attn等加速库,特别注意需添加
--no-build-isolation
参数避免编译冲突 - API密钥配置:必须获取Google搜索API的订阅密钥,通过环境变量
GOOGLE_SUBSCRIPTION_KEY
设置 - 模型路径指定:需要分别配置推理模型和摘要模型的存储路径(如
export MODEL_PATH="/path/to/model"
) - 网络验证:确保服务器能稳定访问
google.serper.dev
域名
关键注意事项:避免同时安装torch和transformers的预编译版本,建议通过项目提供的requirements.txt
精确控制依赖版本。
本答案来源于文章《SimpleDeepSearcher:通过网页搜索增强大语言模型的智能检索工具》