AgentGuard 是一个开源工具,主要用于实时监控和控制 AI 代理(如大型语言模型)的使用成本。它通过简单的代码集成帮助用户设定预算上限,防止因 AI 代理运行失控导致的高额费用。其主要功能包括:
- 实时监控 API 调用成本,显示当前花费和预算占比。
- 支持设置预算上限,超出时可选择抛出错误、发送通知或终止进程。
- 提供详细的 API 调用历史日志,便于追踪和分析成本。
- 支持多进程预算共享,通过 Redis 实现跨进程的成本跟踪。
- 提供隐私保护选项,可自动屏蔽敏感数据。
- 支持动态调整预算上限和保护模式。
- 集成 webhook 功能,向 Slack 或 Discord 发送实时成本警报。
本答案来源于文章《AgentGuard:实时监控AI代理成本并防止超支的工具》