资讯动态

LangWatch 自定义仪表盘实战指南:五分钟搭出你的第一块 AI 应用监控报表

发布时间:2026/10/17 2:36:55 来源:尧图企业网站定制
LangWatch 自定义仪表盘实战指南五分钟搭出你的第一块 AI 应用监控报表【免费下载链接】langwatchOpen-Source Agent Observability Evals for AI Platform teams. Trace, test, route and govern every agent coding assistant in the company.项目地址: https://gitcode.com/GitHub_Trending/la/langwatchLangWatch 的数据可视化能力让你把 Trace 数据变成自定义仪表盘选指标、定聚合、挑图表、设粒度几步就能生成可保存、可告警、可分享的 AI 应用监控报表。这篇指南带你走完从空白图表到团队共用看板的全过程所有字段名都来自仓库真实代码。从一个具体场景说起昨晚上线了一个新的 AI 客服今早你第一个问题不是今天有多少请求而是它答得还行吗贵不贵有没有人骂它。如果你只有原始 Trace 列表这三个问题都要手工翻数据。LangWatch 把 Trace 数据预先暴露成一组可图表化的指标——仓库里注册了 25 个图表指标、13 个分组维度、11 种图表类型见 analytics.chart-series.ts你只需要回答三个问题看什么、怎么算、画成什么。仪表盘就是这三个答案的持久化结果。五分钟搭出第一块仪表盘流程只有四步图表构建器chart builder会实时预览第一步选指标。指标是带命名空间的字符串比如metadata.user_id独立用户数、performance.completion_time完成时间。第二步定聚合aggregation即多个数据点怎么压成一个数字。系统内置 10 种sum、avg、min、max、median、p90、p95、p99以及cardinality去重计数和terms按取值分桶。注意配对规则是写死在代码里的ID 类指标只允许cardinality成本/耗时类指标支持全部数值聚合——配错组合会被合约直接拒绝。第三步挑图表。类型清单在 custom-graph.ts 里共 11 种line、area、stacked_area、bar、stacked_bar、horizontal_bar、scatter、pie、donnut、summary、monitor_graph。第四步设粒度与分组。timeScale以秒为单位决定时间桶大小也支持full表示整段聚合groupBy选 13 个维度之一比如按metadata.model拆线。保存后图表配置就是一段可版本管理的 JSON之后既能在页面上改也能走 API 改。哪种图表回答哪类问题别按图表类型记功能按你要问的问题选你想回答的问题图表一个典型用法随时间怎么变line / area全天请求量走势面积图强调总量各部分占比多少pie / donnut / stacked_*各模型的 token 消耗占比谁最多、谁最少bar / horizontal_bar横向柱状图适合模型名这类长标签排名两个量有没有关系scatter上下文长度对完成时间的影响现在健康吗summary / monitor_graphKPI 卡片与阈值变色监控经验值趋势用 line占比用 donnut排名用 horizontal_bar状态用 monitor_graph。同一张图里可以放多条 series数据系列每条独立选指标和颜色集12 套色板如blueTones、redTones所以成本 延迟双指标一张图完全没问题。看哪些指标才真正有用25 个指标不必都看。按先保命、再算账、后提质排优先级第一层可用性与时延。performance.completion_time完成时间、performance.first_token首 token 时间流式场景尤其关键、performance.tokens_per_second生成速度。这三个配p95/p99聚合比看平均值更能暴露长尾问题。流量盘子用metadata.trace_idcardinality打底。第二层成本与用量。performance.total_cost、performance.prompt_tokens/completion_tokens还有缓存类指标cache_read_tokens、cache_write_tokens——缓存命中率上没上去成本曲线会骗你。第三层质量与满意度。evaluations.evaluation_pass_rate评估通过率、evaluations.evaluation_score、sentiment.thumbs_up_down用户点赞点踩。这层指标通常需要配合key锁定某个评估器否则口径会混。让仪表盘有人看告警与共享仪表盘建出来没人看等于没建。三个抓手阈值告警。monitor_graph 是给监控用的图表配一条告警规则包含阈值threshold、比较运算符、时间窗口和触发动作邮件或 Slack。数据越过阈值后卡片按绿/黄/红三档变色值班的人扫一眼就知道红没红。monitorGraph.isGuardrail为 true 时它会被当作防护栏类监控对待。API 保存与脚本化。图表的增删改查都有 REST 端点文档在 docs/api-reference/graphs/。把常用看板写成脚本随 CI 更新避免每个人手搓一份还不一样。权限与共享。仪表盘走项目的成员角色体系查看者只读编辑者能改配置管理员完全控制图表支持生成共享链接同事点开看到的就是你存的那版配置不会被对方浏览器里的过滤器带偏。两份可以直接抄的配方配方一AI 客服质量监控。场景盯回复质量有没有变差。配置要点主 series 用evaluations.evaluation_pass_rate取avg按天分桶第二 series 叠sentiment.thumbs_up_down看点赞率groupBy选evaluations.evaluation_label区分不同质检项给通过率那条 series 配阈值告警。看什么结果通过率曲线和点赞率背离的那天通常就是模型或提示词改动出了问题。配方二多模型性能对比看板。场景回答换到便宜模型到底值不值。配置要点如下{ graphType: bar, groupBy: metadata.model, series: [ { name: p95 完成时间, metric: performance.completion_time, aggregation: p95, colorSet: greenTones }, { name: 总成本, metric: performance.total_cost, aggregation: sum, colorSet: blueTones } ] }看什么结果两根柱并排——延迟没恶化多少、成本掉一半换模型就有依据反过来 p95 翻倍省钱就不成立。它是怎么做到的选读Trace 数据经 OTLP 协议入库落到 ClickHouse 时序表架构决策见 analytics ADR。Analytics 服务负责时序读取图表查询是按请求聚合 预聚合 rollup 表加速的组合常规时间桶直接查 rollup保证刷新快明细级下钻才回大表。指标与聚合的合法组合由 Zod 合约在服务端二次校验前端渲染走 Vega-Lite 声明式图表同一份 JSON 配置在任意屏幕尺寸下自适应。延伸自定义仪表盘的价值在于监控口径从每个人脑子里变成一段可保存、可告警、可分享的配置。想继续深入Graphs API 文档图表的 REST 接口图表构建器合约11 种图表类型与完整字段定义指标与分组枚举25 个指标、13 个分组维度的出处【免费下载链接】langwatchOpen-Source Agent Observability Evals for AI Platform teams. Trace, test, route and govern every agent coding assistant in the company.项目地址: https://gitcode.com/GitHub_Trending/la/langwatch创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑