Apigee新增AI与工具性能看板：模型耗时和MCP调用可分开看，图表数据需要先接入
2026年9月30日，Google Cloud在Apigee发布记录中宣布，API hub的API insights新增AI performance与Tool performance两类看板。前者观察经过网关的大语言模型用量与延迟，后者观察MCP工具的流量、吞吐、载荷大小和耗时。这让团队能够把模型调用与工具调用放到各自合适的指标下分析。
一次任务变慢，可能发生在不同环节
以下为本文分析。一个助手先读取资料，再调用模型生成结论，用户看到的是总等待时间。模型响应变快，却不意味着整项任务一定更快；如果资料工具多次重试，或返回了过大的结果，总等待仍可能增加。将两类调用分开观察，有助于找到值得继续调查的环节。
工具看板支持按网关、MCP服务器、部署和工具名称筛选。它可以回答哪项工具最繁忙、请求或响应尺寸是否变化等问题。模型看板则可按模型与提供商筛选，帮助读者比较同一范围内的用量和延迟。
AI模型生成的概念示意图，表现模型与工具指标分别观察，并非Apigee真实看板或测量结果。
看板出现了，采集链路也要完整
官方文档说明，AI看板依赖面向模型的API代理挂接三项策略：VerifyAPIKey用于识别调用应用，PromptTokenLimit记录输入token，LLMTokenQuota记录模型名称与输出token等信息。没有VerifyAPIKey时，总token仍可能显示，但按应用分组会为空。空白区域因此不能直接解释成“没有流量”。
部署团队可以先用一笔已知调用检查这条链：应用是否被识别、输入输出用量是否出现、模型名称是否落在正确筛选项中。确认最小样本后，再用更大的时间窗口观察趋势，避免一开始就根据不完整采集做比较。
比较时保持同一组条件
模型延迟的百分位默认合并多个模型的数据；查看某一个模型时，需要应用模型筛选。若今天的任务主要用一个轻量模型，昨天主要用另一个模型，直接比较总延迟会把任务构成变化与模型表现混在一起。
同样，token数量是用量指标，不能直接代表业务价值。某次任务用量增加，可能因为输入更长，也可能因为反复补充上下文。读者可以把看板信息与任务完成情况结合，继续核对有效结果数量和人工处理时间。
本文未进行性能实测，也不将网关指标视为答案正确性的证明。上述场景与采集核对方法为原创分析，具体访问还需要相应IAM权限。
来源与核验
Apigee官方发布记录日期为2026年9月30日；看板说明列出指标、采集策略与筛选方式。资料于北京时间2026年10月2日核验。
