Dify
Als Open-Source-Plattform für die Entwicklung von LLM-Anwendungen mit der Möglichkeit, Anwendungen von der ersten Minute an zu entwickeln Agent
Bauen, AI workflow
Programm RAG
Die allumfassenden Möglichkeiten des Abrufs und der Modellverwaltung haben sich in der Entwicklergemeinschaft durchgesetzt. Es ist bekannt für sein elegantes Design und die reibungslose Nutzung, während das Entwicklungsteam mit erstaunlicher Geschwindigkeit die Funktionen ständig verbessert.
Da die Komplexität der Anwendungsszenarien jedoch zunimmt, ist die Dify
Eine zentrale Einschränkung bei der Workflow-Orchestrierung wird deutlich: Die Plattform unterstützt derzeit nicht mehrere Chatflow
Orchestrierung und Zwischenaufrufe zwischen ihnen. Dies bedeutet, dass die gesamte Geschäftslogik in einem einzigen System integriert werden muss. Chatflow
Leinwand. Je komplexer die Logik wird, desto größer wird dieser Canvas, was zu einer dramatischen Verschlechterung der Wartbarkeit führt.
(tun Sie es einfach) ohne zu zögern Dify
Bietet eine Möglichkeit zur Kombination Chatflow
konvertieren Workflow
und als Abhilfe für Tool-Knoten veröffentlicht, aber der Ansatz leidet unter zwei wesentlichen Mängeln:
- Streaming-Ausgabe ist nicht möglich: Wird als Werkzeugknoten aufgerufen
Workflow
nicht unterstütztChatflow
Native Streaming-Ausgabefähigkeit. Dies geht auf Kosten des Benutzererlebnisses, insbesondere bei konversationellen Anwendungen, die sofortiges Feedback erfordern. - Mehrere Ausgabeknoten werden nicht unterstützt::
Workflow
Der einzige Ausgang des Programms schränkt seine Verwendung in komplexen Datenverarbeitungs- und Verzweigungslogikszenarien ein.
Um diese Beschränkungen zu überwinden, haben die Entwickler der Gemeinschaft ein Programm mit der Bezeichnung Chatflow Invoker
Plugin. Es erlaubt, jede lokale oder entfernte Chatflow
als separater Knoten im Prozess gekapselt, was eine übergreifende Chatflow
Durch den nahtlosen Aufruf von KI-Anwendungen wird die Modularität, Flexibilität und Wartbarkeit der KI-Anwendungsentwicklung effektiv verbessert.
Chatflow Invoker
Das ist die Stärke des Plugins:
- realisieren
Chatflow
ModularitätKomplexe Geschäftslogik kann in mehrere unabhängige Teile aufgeteilt werden.Chatflow
Einheiten, wodurch die Wiederverwendbarkeit der Logik erheblich verbessert wird. - Unterstützung für Cross
Chatflow
Aufforderungen: In verschiedenenChatflow
Daten und Anweisungen können leicht zwischen ihnen übertragen werden, was flexiblere Geschäftsprozesse ermöglicht. - Beibehaltung des vollen Streaming-Ausgabeerlebnisses: Auch über
Chatflow
Die native Streaming-Ausgabefunktion kann im Anrufszenario beibehalten werden, wodurch die Interaktion mit dem Endbenutzer gewährleistet ist.
Verwendung
Chatflow Invoker
Unterstützt sowohl lokale als auch entfernte Aufrufmodi und deckt damit die unterschiedlichen Anforderungen von Einzelinstanzen und verteilten Implementierungen ab.
Lokale Chatflow-Anrufe
Ortsgespräche gelten für Anrufe, die in der gleichen Dify
Die Instanzen haben intern eine andere Chatflow
Erstellen Sie die Choreographie.
Eingabeparameter:
APP ID
(erforderlich): ZielsetzungChatflow
Diese ID kann aus der DateiDify
direkt von der URL der Anwendung.Prompt
(erforderlich): An das Ziel sendenChatflow
der Abfrage oder des Befehls.Inputs JSON
(optional): eine JSON-formatierte Zeichenkette, die an denChatflow
Eingabeparameter für den Startknoten.Conversation ID
(optional): die Sitzungs-ID, die verwendet wird, um mehrere Dialogrunden aufrechtzuerhalten; wenn Sie die Interaktion auf der Grundlage des vorherigen Dialogverlaufs fortsetzen müssen, müssen Sie dieconversation_id
.
Betriebsverfahren:
- Positionierungsziel
Chatflow
(in Form eines Nominalausdrucks)APP ID
. Zum Beispielhttps://dify/app/f011f58c-b1ce-4a9b-89b2-f39fce8466a8/workflow
In dieser URL wird dief011f58c-b1ce-4a9b-89b2-f39fce8466a8
genau wieAPP ID
. - existieren
Chatflow Invoker
Konfiguration im KnotenInputs JSON
um die zu empfangenden Variablen zu definieren.
- Stellen Sie sicher, dass Sie im Antwortknoten die Option
stream_output
um die Ergebnisse der Streaming-Ausgabe zu empfangen und weiterzuleiten.
- Führen Sie den Test aus und Sie können sehen, dass das Plugin erfolgreich eine andere
Chatflow
und gibt den gesamten Streaming-Ausgangsinhalt zurück.
Entfernte Chatflow-Anrufe
Die Fernanruf-Funktionalität wird noch erweitert durch Dify
Anwendungsgrenzen, so dass Benutzer Anwendungen erstellen können, die sich über verschiedene Dify
Instanzen von verteilten KI-Anwendungen.
Eingabeparameter:
URL
(erforderlich): RemoteDify
Die Adresse der Nachrichten-API der Instanz, z. B.http://127.0.0.1:5001/v1/chat-messages
.API Key
(erforderlich): ZielsetzungChatflow
Der API-Zugangsschlüssel für diePrompt
(Erforderlich): Die zu sendende Abfrage oder der Befehl.User
(Erforderlich): Eine Zeichenfolge, die zur Identifizierung des Endbenutzers für spätere Protokollabrufe und Nutzungsstatistiken verwendet wird.Inputs JSON
(optional): geht anChatflow
Eingabeparameter für den Startknoten.Conversation ID
(fakultativ): die Sitzungs-ID, die zur Aufrechterhaltung des Status des Mehrrunden-Dialogs verwendet wird.
Betriebsverfahren:
- In der Fernbedienung, die aufgerufen werden muss
Chatflow
im Menü "Zugriff auf API", um eineAPI Key
.
- eine Fernbedienung anschließen
Dify
und die generierte API-Adresse desAPI Key
ausfüllenChatflow Invoker
Das entsprechende Feld des Plugins.
- Einfuhr
Prompt
und ausführen, können Sie Fernaufrufe unter Beibehaltung der Streaming-Ausgabe implementieren.
Ein zusätzlicher Vorteil von Ferngesprächen gegenüber Ortsgesprächen besteht darin, dass alle Gesprächsaufzeichnungen im angerufenen Land gespeichert werden. Dify
Die Instanzen hinterlassen vollständige Protokolle zur Fehlersuche und Überwachung.
Anweisungen zur Entwicklung
Derzeit sind für Dify
Es gibt relativ wenig Referenzdokumentation für die Entwicklung von Plugins, und für KI-Modelle fehlen relevante Trainingsdaten. Allerdings.Dify
Das offizielle Code-Repository bietet eine Fülle von Plugin-Beispielen und ist eine großartige Ressource zum Lernen und Entwickeln.
existieren Chatflow Invoker
Während der Entwicklung des app-selector
Die Komponente lässt den Benutzer über die Schnittstelle auswählen Chatflow
Die Komponente war jedoch im Szenario des Werkzeugknotens fehlerhaft, so dass die Anwendung nicht ausgewählt werden konnte. Daher bestand der letzte Ansatz darin, die Komponente manuell auszufüllen. APP ID
Ansatz als Alternative.
Chatflow Invoker
Das Plugin ist jetzt in der Dify
Der offizielle Plugin-Marktplatz ist online, so dass Benutzer es direkt suchen und installieren können. Der Quellcode ist auch auf GitHub verfügbar.
Quell-URL: https://github.com/yzddmr6/chatflow_invoker