通过Docker部署是推荐方案,具体分三步完成:
- Preparação do ambiente básico::
- 安装Docker Desktop和Docker Compose
- aprovar (um projeto de lei ou inspeção etc.)
git clone
获取最新代码库 - 配置.env文件中的认证密钥和数据库参数
- Ollama集成::
- 修改docker-compose.yml添加
extra_hosts
映射 - configurar
OLLAMA_HOST=http://host.docker.internal:11434
- 通过脚本拉取所需模型:
./scripts/ollama_docker.sh pull llama3
- 修改docker-compose.yml添加
- Início dos serviços::
- GPU加速模式:
docker compose up --profile local-gpu -d --build
- 纯CPU模式:
docker compose up --profile local-cpu -d --build
- entrevistas
http://localhost:3000
Plataforma
- GPU加速模式:
注意:本地LLM运行建议16GB以上内存,NVIDIA GPU可显著提升性能。日志可通过docker compose logs
实时查看。
Essa resposta foi extraída do artigoSim Studio: criador de fluxo de trabalho de código aberto para agentes de IAO