Coze Studio采用开放式模型集成架构,目前官方支持以下两类模型服务:
- 云端API模型:包括火山引擎Ark系列(如doubao-seed-1.6)、OpenAI GPT系列等商业模型
- 本地化模型:支持通过自定义配置接入私有化部署的大模型服务
配置火山引擎模型的具体流程:
- 在火山引擎控制台创建应用,获取API Key和Endpoint ID(需账户实名认证)
- Copy the project's
model_template_ark_doubao-seed-1.6.yaml
模板文件 - 修改关键字段:
id
设置为全局唯一数字标识(部署后不可修改)meta.conn_config.api_key
填写火山API密钥meta.conn_config.model
填入Endpoint ID
- 将配置文件放置于
backend/conf/model/
目录生效
Caveats:
- 不同模型计费方式不同,火山引擎按调用量计费
- 生产环境建议配置QPS限流和熔断机制
- 模型响应延迟可通过日志中的
latency
字段监控
This answer comes from the articleCoze Studio (Coze Open Source Edition): an open source low-code platform for rapidly building AI intelligencesThe