Coze Studio verwendet eine offene Modellintegrationsarchitektur und unterstützt derzeit offiziell die folgenden zwei Arten von Modelldiensten:
- Cloud-API-ModelleKommerzielle Modelle wie die Vulkan-Engine der Ark-Serie (z. B. doubao-seed-1.6), die OpenAI-GPT-Serie usw.
- LokalisierungsmodellUnterstützung des Zugriffs auf privat bereitgestellte große Modelldienste durch individuelle Konfiguration
Konfigurieren Sie einen bestimmten Prozess für das Modell Volcano Engine:
- Erstellen Sie eine Anwendung in der Volcano Engine-Konsole, holen Sie sich den API-Schlüssel und die Endpunkt-ID (Authentifizierung mit dem echten Namen des Kontos erforderlich)
- Kopieren Sie das Projekt
model_template_ark_doubao-seed-1.6.yamlVorlage-Dateien - Ändern Sie die Schlüsselfelder:
idAls weltweit eindeutiger numerischer Bezeichner festgelegt (nach der Bereitstellung nicht mehr änderbar)meta.conn_config.api_keyGeben Sie den Volcano API-Schlüssel einmeta.conn_config.modelGeben Sie die Endpunkt-ID ein
- Legen Sie die Konfigurationsdatei im Verzeichnis
backend/conf/model/Gültiger Katalog
Vorbehalte:
- Verschiedene Modelle werden unterschiedlich abgerechnet, Volcano Engine wird pro Anruf abgerechnet
- Für Produktionsumgebungen wird empfohlen, QPS Flussbegrenzungs- und Sicherungsmechanismen zu konfigurieren
- Die Antwortlatenz des Modells kann durch Einloggen in die
latencyÜberwachung vor Ort
Diese Antwort stammt aus dem ArtikelCoze Studio (Coze Open Source Edition): eine quelloffene Low-Code-Plattform für die schnelle Entwicklung von KI-IntelligenzenDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Welche großen Modellintegrationen werden von Coze Studio unterstützt? Wie konfiguriere ich die Modelldienste von Volcano Engine?
