通过Docker部署是推荐方案,具体分三步完成:
- 基础环境准备::
- 安装Docker Desktop和Docker Compose
- passieren (eine Rechnung oder Inspektion etc.)
git clone
获取最新代码库 - 配置.env文件中的认证密钥和数据库参数
- Ollama集成::
- 修改docker-compose.yml添加
extra_hosts
映射 - aufstellen
OLLAMA_HOST=http://host.docker.internal:11434
- 通过脚本拉取所需模型:
./scripts/ollama_docker.sh pull llama3
- 修改docker-compose.yml添加
- Neue Dienste::
- GPU加速模式:
docker compose up --profile local-gpu -d --build
- 纯CPU模式:
docker compose up --profile local-cpu -d --build
- Interviews
http://localhost:3000
Plattform
- GPU加速模式:
注意:本地LLM运行建议16GB以上内存,NVIDIA GPU可显著提升性能。日志可通过docker compose logs
实时查看。
Diese Antwort stammt aus dem ArtikelSim Studio: Open-Source-Workflow-Builder für KI-AgentenDie