告警
告警
告警可帮助团队在 AI 用量变得昂贵、不可靠或难以解释之前作出响应。
Alephant 告警应指向相关的工作区、部门、成员、智能体、虚拟密钥、策略、请求或运行追踪,以便运营人员快速调查。
告警类型
严重程度
预算告警
预算告警可应用于:
- 工作区预算
- 部门预算
- 智能体预算
- 成员预算
- 虚拟密钥预算
- 付费端点或工作流支出限额
常见阈值包括警告、严重和硬停止。警告应通知运营人员;硬停止应根据策略阻止或暂停相关流量。
异常告警
当智能体或工作流的行为意外变化时,用量异常告警非常有用:
- 请求量急剧增加。
- 每次请求的 Token 用量增长。
- 工作流开始反复重试。
- 回退路由成为主路由。
- 付费端点开始在每次调用中损失利润率。
调查路径应从告警开始,进一步进入日志、运行追踪、分析和策略历史记录。