安装过程需要完成Five key steps::
- Preparation of the basic environment:Python 3.10+和conda虚拟环境(推荐使用命令:
conda create --name simpledeepsearcher python=3.10
) - 核心依赖安装:包括vLLM(0.6.5)、flash-attn等加速库,特别注意需添加
--no-build-isolation
参数避免编译冲突 - API Key Configuration:必须获取Google搜索API的订阅密钥,通过环境变量
GOOGLE_SUBSCRIPTION_KEY
set up - 模型路径指定:需要分别配置推理模型和摘要模型的存储路径(如
export MODEL_PATH="/path/to/model"
) - 网络验证:确保服务器能稳定访问
google.serper.dev
域名
关键注意事项:避免同时安装torch和transformers的预编译版本,建议通过项目提供的requirements.txt
精确控制依赖版本。
This answer comes from the articleSimpleDeepSearcher: An Intelligent Retrieval Tool for Augmenting Large Language Models with Web SearchThe