海外からのアクセス:www.kdjingpai.com
Ctrl + D このサイトをブックマークする
現在の場所図頭 " AIアンサー

MaxKB支持对接哪些类型的大语言模型?如何配置本地私有模型?

2025-09-10 1.9 K

MaxKB采用开放的模型对接架构,主要支持三类模型接入:

  • 公共云模型:包括OpenAI GPT系列、Anthropic Claude、智谱AI等国内外主流API
  • 开源本地模型:支持Llama 3、ChatGLM3、Qwen等自托管模型通过Ollama或vLLM接入
  • 企业专属模型:兼容兼容符合OpenAI API规范的任何本地化部署模型

配置本地私有模型的具体步骤:

  1. 在模型管理模块选择”自定义模型”选项
  2. 填写模型API地址(如http://localhost:11434/api/generate)
  3. 设置模型名称和上下文长度等参数
  4. 进行连通性测试后保存配置

系统还支持模型热切换和AB测试,可根据不同业务场景自动分配最合适的模型。例如客服场景可使用成本更低的7B小模型,而技术文档解析则可切换到70B参数的大模型。

おすすめ

AIツールが見つからない?こちらをお試しください!

キーワードを入力する アクセシビリティこのサイトのAIツールセクションは、このサイトにあるすべてのAIツールを素早く簡単に見つける方法です。

トップに戻る

ja日本語