WebThinker的部署要求主要分为硬件配置和软件环境两大部分:
硬件要求
- GPU:至少需要NVIDIA A100等高性能显卡,因为核心的QwQ-32B推理模型采用vLLM框架,显存需求超过40GB
- 内存:推荐64GB以上系统内存以支持并发推理
- 存储:模型文件需约200GB磁盘空间(含QwQ-32B和Qwen-32B-Instruct)
软件环境
- Python 3.9:必须通过Conda创建专用虚拟环境
- 关键依赖包:vLLM(模型部署框架)、Crawl4AI(网页解析)、Playwright(浏览器自动化)
- 网络配置:需要稳定访问Bing搜索API和Crawl4AI服务,国际用户建议配置代理
值得注意的是,项目提供Dockerfile可简化环境部署,但对于定制化需求,建议参考GitHub仓库的Advanced Deployment文档进行配置。
本答案来源于文章《WebThinker:支持自主网页搜索与报告撰写的智能推理工具》