当前位置：首页 » AI答疑

如何在Sim Studio中使用本地大语言模型？

2025-08-14

在Sim Studio中使用本地大语言模型的步骤如下：

通过脚本拉取模型：运行./apps/sim/scripts/ollama_docker.sh pull <model_name>命令下载所需模型（如LLaMA）。
启动支持本地模型的环境：根据硬件配置选择GPU或CPU模式，运行相应的Docker Compose命令。
在工作流配置中选择本地模型，并指定运行模式（GPU或CPU）。
测试模型响应，确保工作流正常运行。

需要注意的是，本地模型需要较大的存储空间和计算资源，建议使用高性能GPU以获得更好的体验。