当前位置：首页 » AI答疑

AgentVerse 支持多种主流大语言模型，包括云端和本地部署方案

2025-08-19

286

AgentVerse 兼容当前主流的大语言模型服务与本地部署方案。云端方面支持 OpenAI API（如 GPT-3.5）和 Azure OpenAI 服务；本地模型则支持 LLaMA、Vicuna 等开源模型。对于本地部署，项目提供完整的支持链，包括专用依赖安装（requirements_local.txt）和本地服务器启动脚本（run_local_model_server.sh）。用户可通过修改 YAML 配置文件灵活切换模型类型，例如将 llm_type 设置为 local 即可调用本地部署的 LLaMA-2-7B 模型。此外，项目还集成 vLLM 支持，可处理大规模推理任务。

本答案来源于文章《AgentVerse：部署多智能体协作与模拟的开源框架》