Dify
Como uma plataforma de desenvolvimento de aplicativos LLM de código aberto, com sua capacidade de desenvolver aplicativos a partir do Agent
Construção, IA workflow
programa RAG
Os recursos abrangentes de recuperação e gerenciamento de modelos ganharam força na comunidade de desenvolvedores. Ele é conhecido por seu design elegante e experiência suave, enquanto a incrível velocidade iterativa da equipe de desenvolvimento mantém seus recursos aprimorados.
No entanto, à medida que a complexidade dos cenários de aplicativos aumenta, o Dify
Uma limitação central na orquestração do fluxo de trabalho está se tornando aparente: a plataforma atualmente não oferece suporte a vários Chatflow
orquestração e interchamadas entre eles. Isso significa que toda a lógica comercial deve ser integrada em um único Chatflow
tela. À medida que a lógica se torna complexa, essa tela se expandirá rapidamente, levando a uma redução drástica na capacidade de manutenção.
(go ahead and do it) without hesitating Dify
Fornece uma maneira de combinar Chatflow
converter Workflow
e publicado como uma solução alternativa para os Tool nodes, mas a abordagem apresenta duas deficiências importantes:
- A saída de streaming não é possívelChamado como um nó de ferramenta
Workflow
sem suporteChatflow
Recurso de saída de streaming nativo. Isso prejudica a experiência do usuário, especialmente em aplicativos de conversação que exigem feedback imediato. - Não há suporte para vários nós de saída::
Workflow
limita seu uso em cenários complexos de processamento de dados e lógica de ramificação.
Para superar essas limitações, os desenvolvedores comunitários lançaram um programa chamado Chatflow Invoker
plugin. Ele permite colocar qualquer Chatflow
encapsulado como um nó separado no processo, permitindo o cruzamento de dados. Chatflow
A invocação contínua de aplicativos de IA aumenta efetivamente a modularidade, a flexibilidade e a capacidade de manutenção do desenvolvimento de aplicativos de IA.
Chatflow Invoker
O principal ponto forte do plug-in é:
- perceber
Chatflow
modularidadeLógica comercial complexa pode ser dividida em várias lógicas independentesChatflow
unidades, melhorando significativamente a capacidade de reutilização da lógica. - Suporte para cross
Chatflow
invocações: Em diferentesChatflow
Dados e instruções podem ser facilmente transferidos entre eles, permitindo processos comerciais mais flexíveis. - Manter a experiência completa de saída de streaming: Mesmo entre
Chatflow
O recurso de saída de streaming nativo ainda pode ser mantido no cenário de chamada, o que garante a experiência de interação do usuário final.
Uso
Chatflow Invoker
Oferece suporte aos modos de chamada local e remota, atendendo às diferentes necessidades de implementações distribuídas e de instância única.
Chamadas locais do Chatflow
As chamadas locais se aplicam a chamadas feitas no mesmo Dify
As instâncias têm internamente um Chatflow
Faça a coreografia.
Parâmetros de entrada:
APP ID
(Obrigatório): ObjetivoChatflow
Essa ID pode ser recuperada doDify
diretamente do URL do aplicativo.Prompt
(Obrigatório): Enviar para o destinoChatflow
da consulta ou do comando.Inputs JSON
(opcional): uma cadeia de caracteres formatada em JSON a ser passada para oChatflow
Parâmetros de entrada para o nó inicial.Conversation ID
(opcional): a ID da sessão usada para manter várias rodadas de diálogo; se você precisar continuar a interação com base no histórico de diálogo anterior, deverá fornecer oconversation_id
.
Procedimento operacional:
- alvo de posicionamento
Chatflow
(usado em uma expressão nominal)APP ID
. Por exemplohttps://dify/app/f011f58c-b1ce-4a9b-89b2-f39fce8466a8/workflow
Nessa URL, of011f58c-b1ce-4a9b-89b2-f39fce8466a8
assim comoAPP ID
. - existir
Chatflow Invoker
Configuração no nóInputs JSON
para definir as variáveis a serem recebidas.
- No nó de resposta, certifique-se de selecionar
stream_output
para receber e transmitir a jusante os resultados da saída de streaming.
- Execute o teste e você verá que o plug-in chama com êxito outro
Chatflow
e retorna o conteúdo de saída de streaming em sua totalidade.
Chamadas remotas do Chatflow
A funcionalidade de chamada remota é ampliada ainda mais com Dify
limites de aplicativos, permitindo que os usuários criem aplicativos que abrangem diferentes Dify
instâncias de aplicativos de IA distribuídos.
Parâmetros de entrada:
URL
(Obrigatório): RemotoDify
O endereço da API de mensagens da instância, por exemplo.http://127.0.0.1:5001/v1/chat-messages
.API Key
(Obrigatório): ObjetivoChatflow
A chave de acesso à API para oPrompt
(Obrigatório): a consulta ou o comando a ser enviado.User
(Obrigatório): uma cadeia de caracteres usada para identificar o usuário final para recuperação subsequente de registros e estatísticas de uso.Inputs JSON
(opcional): passa paraChatflow
Parâmetros de entrada para o nó inicial.Conversation ID
(Opcional): a ID da sessão usada para manter o status do diálogo de várias rodadas.
Procedimento operacional:
- No controle remoto que precisa ser chamado
Chatflow
no menu "Access API" para gerar umAPI Key
.
- conectar um controle remoto
Dify
Endereço da API e oAPI Key
preencherChatflow Invoker
O campo correspondente do plug-in.
- importação
Prompt
e executar, você pode implementar chamadas remotas e manter a saída de streaming.
Um benefício adicional das chamadas remotas em relação às chamadas locais é que todos os registros de chamadas são mantidos no servidor chamado. Dify
As instâncias deixam registros completos para depuração e monitoramento.
Instruções de desenvolvimento
Atualmente, para Dify
Há relativamente pouca documentação de referência para o desenvolvimento de plug-ins, e os modelos de IA carecem de dados de treinamento relevantes. No entanto.Dify
O repositório de código oficial fornece uma grande quantidade de amostras de plug-ins e é um ótimo recurso para aprendizado e desenvolvimento.
existir Chatflow Invoker
Durante o desenvolvimento do app-selector
O componente permite que o usuário selecione por meio da interface Chatflow
mas o componente apresentava falhas no cenário do nó da ferramenta, o que impedia a seleção do aplicativo. Portanto, a abordagem final foi preencher manualmente o APP ID
como uma alternativa.
Chatflow Invoker
O plug-in agora está disponível na seção Dify
O mercado oficial de plug-ins está on-line, para que os usuários possam pesquisá-lo e instalá-lo diretamente. O código-fonte também está disponível no GitHub.
URL da fonte: https://github.com/yzddmr6/chatflow_invoker