追踪

以 Markdown 格式查看

追踪用于还原一次请求从入口到模型、知识检索、工具调用和响应返回的关键步骤。它帮助管理员排查问题,同时避免把完整敏感内容暴露给不相关人员。

在受支持的部署中,艾维斯管理后台入口对应 /admin/tracing。页面会展示追踪能力入口、产品截图和 联系销售 操作。系统已经支持 Braintrust 和 Langfuse 两类 Tracing Provider;部分部署会向管理员开放 Provider 配置流程,托管部署或受控部署则可能需要由运维或 Alephant 联系人启用。

艾维斯追踪总览页面,展示支出、Token、成功率、延迟、团队预算和模型成本

可以查看什么

问题查看位置
本月模型调用花费是多少?在总览中查看支出、Token、成功率、延迟、团队预算和模型成本。
哪个团队、Agent、模型或实体导致用量突增?在请求日志中按时间范围、部门、实体、模型和状态筛选。
某次请求为什么失败?打开请求记录,对比状态、错误原因、Provider、Token、延迟和外部追踪结果。
预算或策略是否生效?在预算、告警、限流和模型 fallback 策略视图中,对比测试请求前后的行为。
是否能打开外部 trace?确认 Braintrust 或 Langfuse 已配置,再按时间、模型、flow 或请求元数据到外部项目中检索。

管理边界

项目建议
可见性只让运维、管理员或获授权审计人员查看追踪。
内容优先记录事实、状态和元数据,避免长期保存完整敏感上下文。
关联使用请求 ID、用户、工作区、Agent 和模型标识关联链路。
保留按企业审计和隐私要求设置保留周期。

配置前检查

  • 确认哪些人可以打开艾维斯管理后台的追踪页面,哪些人可以管理 Tracing Provider 凭据。
  • 在数据离开私有部署前,确认 prompt、回复、工具参数或检索片段是否需要脱敏、采样或缩短保留周期。
  • 准备至少一条可测试的模型调用路径,例如聊天请求、Agent 运行、机器人消息、语音调用、图像生成或视频生成。
  • 如果需要外部 trace,先准备 Braintrust 或 Langfuse 项目,并确认凭据由环境变量管理,还是由后台 Provider 配置流程管理。
  • 将追踪与用量统计、查询历史、请求日志、预算和告警关联起来。

打开追踪入口

打开艾维斯管理后台,进入追踪页面。受支持的部署对应 /admin/tracing

当前页面是能力入口,会说明可观测能力,并展示三类预期视图:用量总览、预算与策略控制、请求日志。如果你的部署只显示 联系销售,说明该环境没有开放自助 Provider 配置。此时需要联系部署负责人或 Alephant 联系人启用追踪,也可以由运维通过后端环境变量配置 Provider。

配置 Tracing Provider

艾维斯支持两类追踪 Provider:

Provider必填值可选值获取位置
BraintrustAPI KeyProject NameAPI URLBraintrust 创建或复制 API key。除非使用其他区域或自托管端点,否则保持默认 API URL。
LangfuseSecret KeyPublic KeyAPI Base URLLangfuse 创建或复制密钥。使用其他区域或自托管 Langfuse 时填写自己的 host。

如果后台页面开放了 Provider 配置,选择 Provider 后填写字段,并先点击测试再保存。后端会先校验凭据,再保存为已启用状态。

运维管理的部署可以通过环境变量配置同样的值:

Provider环境变量
BraintrustBRAINTRUST_API_KEY,可选 BRAINTRUST_PROJECT,可选 BRAINTRUST_API_URL
LangfuseLANGFUSE_SECRET_KEYLANGFUSE_PUBLIC_KEY,可选 LANGFUSE_HOST

在多租户托管部署中,艾维斯只从环境变量解析 Tracing Provider。单租户部署中,同一 Provider 的已启用数据库配置可以覆盖环境变量 fallback。

艾维斯追踪策略控制页面,展示预算、告警、限流和模型 fallback 设置

生成测试追踪

  1. 保存或启用 Provider 配置。
  2. 通过已知路径发送一次受控的艾维斯请求,例如使用测试 Agent 发起一次聊天。
  3. 记录请求时间、用户、工作区、Agent、模型和预期结果。
  4. 打开请求日志或外部 Tracing Provider,按相同时间范围和模型筛选。
  5. 确认记录中包含状态、延迟、Token 用量、成本元数据和正确的 flow 名称。

艾维斯会通过明确的 flow 名称追踪多类 LLM 调用,包括聊天回复、聊天摘要、查询扩展、文档过滤、Embedding、Rerank、图像生成、视频生成、语音转文本、文本转语音、隐私网关调用和 Agent 自动化调用。测试后没有 trace,通常说明 Provider 未生效、该请求路径尚未埋点,或请求在模型调用开始前就失败了。

艾维斯请求日志页面,展示时间、部门、实体、模型、状态、Token 和成本筛选

验证

  • 艾维斯追踪页面只能被获授权的运维、管理员或审计人员打开。
  • 一次测试请求能在请求日志中按预期时间范围、模型、状态、Token、成本和延迟找到。
  • 如果启用了 Braintrust 或 Langfuse,同一请求能在外部项目中找到。
  • 失败或拒绝请求有可定位的原因,同时不会暴露不相关的敏感内容。
  • 预算、告警、限流或 fallback 变更能反映到后续请求行为中。

常见问题排查

现象优先检查项
页面只显示 联系销售当前部署未开放自助 tracing 配置。联系运维或 Alephant 联系人启用追踪,或通过环境变量配置 Provider。
Provider 测试失败确认密钥属于所选 Provider,host 或 API URL 可被后端访问,复制时没有多余空格。
Langfuse 拒绝凭据确认 Secret KeyPublic Key 来自同一个 Langfuse 项目。
Braintrust trace 写入了错误项目检查 Project NameBRAINTRUST_PROJECT;只有目标项目就是默认项目时才留空。
测试请求后没有 trace确认 Provider 已启用、后端 worker 已读取最新配置,并且测试的 flow 已埋点。
请求日志为空放宽时间范围,移除部门、实体、模型、状态筛选,并确认请求已到达艾维斯,而不是在上游机器人或网关失败。
Token 或成本为空确认模型 Provider 返回 usage metadata,并且请求执行到 usage processor 可记录的阶段。
用户能看到过多 trace将追踪权限限制给管理员、运维或审计角色,不要让普通工作区用户查看原始 trace。

安全与维护建议

  • Provider API key 只应保存到受保护配置或后台凭据存储中。
  • 不要把 API key、原始 prompt、私密回复、访问令牌、工具密钥或完整敏感上下文写入文档、工单、截图或 Agent 指令。
  • 管理员变更或密钥疑似泄露时,轮换 Braintrust 和 Langfuse 凭据。
  • 定期复核追踪页面访问权限,因为 trace 可能包含模型名称、用户 ID、工作区 ID、文档引用、错误和成本模式。
  • 隐私要求严格时,原始内容保留周期应短于审计元数据保留周期。

相关页面