工具调用的集成方案
Jan-nano的自动化集成包含三个关键步骤:
- 定义工具规范:按照OpenAPI格式编写工具描述文件(示例格式):
{"type":"weather_api","endpoint":"https://api.weather.com","parameters":{"city":"string"}}
- 配置模型参数:启动时启用工具解析
--enable-auto-tool-choice --tool-call-parser hermes
- 设计调用协议:在prompt中明确指定工具(示例):
{"prompt":"查询上海天气","tools":[工具描述]}
进阶技巧:可通过MCP服务器
实现工具注册中心,统一管理多个API端点
本答案来源于文章《Jan-nano:轻量高效的文本生成模型》