O AgentGuard oferece três modos de proteção configuráveis contra estouros de orçamento: o modo 'throw' lança erros detectáveis pelo desenvolvedor; o modo 'notify' envia um alerta via webhook para uma plataforma específica (por exemplo, Slack ou Discord); e o modo 'kill' encerra diretamente o processo para garantir o controle absoluto do orçamento. O modo 'kill' envia um alerta via webhook para uma plataforma específica (por exemplo, Slack ou Discord); e o modo 'kill' encerra diretamente o processo para garantir o controle absoluto do orçamento. Para dar suporte a ambientes distribuídos, a ferramenta implementa um mecanismo de compartilhamento de orçamento de vários processos via Redis, que permite que as chamadas de API em diferentes processos acumulem e calculem o custo total. Esse projeto arquitetônico é particularmente adequado para cenários de aplicativos de nível empresarial, que podem atender às necessidades de colaboração da equipe e manter um padrão unificado de controle de custos.
Essa resposta foi extraída do artigoAgentGuard: uma ferramenta para monitorar os custos dos agentes de IA em tempo real e evitar excessos de custosO