海外访问:www.kdjingpai.com
Ctrl + D 收藏本站
当前位置:首页 » AI答疑

如何在本地机器上部署Sim Studio并连接本地LLM?

2025-08-23 1.8 K

通过Docker部署是推荐方案,具体分三步完成:

  1. 基础环境准备
    • 安装Docker Desktop和Docker Compose
    • 通过git clone获取最新代码库
    • 配置.env文件中的认证密钥和数据库参数
  2. Ollama集成
    • 修改docker-compose.yml添加extra_hosts映射
    • 设置OLLAMA_HOST=http://host.docker.internal:11434
    • 通过脚本拉取所需模型:./scripts/ollama_docker.sh pull llama3
  3. 启动服务
    • GPU加速模式:docker compose up --profile local-gpu -d --build
    • 纯CPU模式:docker compose up --profile local-cpu -d --build
    • 访问http://localhost:3000使用平台

注意:本地LLM运行建议16GB以上内存,NVIDIA GPU可显著提升性能。日志可通过docker compose logs实时查看。

相关推荐

找不到AI工具?在这试试!

输入关键词,即可 无障碍访问 必应 搜索,快速找到本站所有 AI 工具。

回顶部

zh_CN简体中文