性能优化最佳实践
针对不同硬件环境推荐以下优化方案:
- GPUアクセラレーション・プログラム::
1. Nvidia用户应安装最新Docker GPU驱动
2. 启动时使用--profile gpu-nvidia
パラメトリック
3. 在n8n的Ollama节点设置中指定num_gpu
パラメトリック - CPU环境优化::
1. 限制Ollama容器CPU资源:docker compose --profile cpu --cpus 4 up
2. 选择适合CPU的轻量级模型(如Phi-3-mini)
3. 调整n8n工作流的批处理大小,减少频繁调用 - 通用建议::
• 为Qdrant配置持久化存储避免重复索引
• 使用docker stats
监控资源占用
• 考虑将n8n和Ollama部署在不同容器中实现负载分离
チューニングのヒント:当处理大量文档时,可以先将文档向量化存入Qdrant,后续查询直接使用向量相似度搜索,大幅减少LLM调用次数。同时建议定期执行docker system prune
清理无用缓存。
この答えは記事から得たものである。n8n Self-hosted AI Starter Kit: ローカルAI環境を素早く構築するためのオープンソーステンプレートについて