Pre-deployment preparation
需确保主机满足:
• NVIDIA显卡驱动版本≥535
• Docker Engine 24.0+
• 至少16GB显存和64GB内存
标准化部署流程
- 获取官方docker-compose.yml配置文件
- fulfillment
docker-compose up --build -d
启动容器集群(含WebUI、向量数据库、模型服务) - 访问http://localhost:8843进入控制台
部署验证要点
- pass (a bill or inspection etc)
docker logs ultrarag-web
查看实时日志 - 在WebUI的System Health面板验证各组件状态
- 运行预置的冒烟测试用例(包含5个标准查询)
生产级调优建议
对于企业级部署建议:
1) 修改默认的8843端口增强安全性
2) 挂载持久化卷保存模型数据(约需50GB空间)
3) 配置Nginx反向代理实现HTTPS加密
This answer comes from the articleUltraRAG: A One-Stop RAG System Solution to Simplify Data Construction and Model Fine-TuningThe