Análise do problema
Chamadas ilimitadas de API podem levar a custos incontroláveis para aplicativos de IA corporativos. O Dify-Plus permite o controle granular de custos por meio do gerenciamento de cotas e do monitoramento de despesas.
funcionalidade principal
- Limites do diálogoCrédito restante: o crédito restante é exibido em tempo real na parte superior do sistema, e o serviço é interrompido automaticamente quando ele é insuficiente.
- Mecanismo de computação assíncronaCálculo atrasado de registros de gastos de grande valor para evitar que os cálculos em tempo real afetem o desempenho
- Relatórios multidimensionaisDados de consumo por usuário/modelo/dimensão de tempo
Guia de operação
- Login de administrador no Extrato de despesas para visualizar tendências de consumo históricas
- Configuração em massa da cota do usuário (por token ou número de vezes é suportada) na tela "Personal quota modification" (Modificação da cota pessoal)
- Definição do limite de chamadas de chave única por meio do "Gerenciamento de chaves de API".
melhores práticas
Recomendado em conjunto com o design do fluxo de trabalho: adicione o módulo lógico de "verificação de crédito" antes dos principais nós do modelo (local do código-fonte)modules/credit_check/).
Essa resposta foi extraída do artigoDify-Plus: um back-end de gerenciamento no local para a DifyO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como otimizar o custo do uso de recursos para aplicativos de IA corporativos?
