异步生成链路的进度体验和可观测性怎样调优？

题型：调优 · 同时优化用户感知延迟、定位质量和事件资源消耗。

建议回答

我会先把“用户觉得卡住”拆成任务排队、节点执行、状态提交、事件分发和浏览器渲染五段，统一用 jobId、nodeId、attemptId 和 traceId 关联。用户体验优先保证快速返回 Job、及时发出 queued/running 等关键状态、长任务心跳和确定的最终事件；百分比无法准确估计时，宁可展示阶段与已完成数量，也不伪造线性进度。

事件层对高频 token、帧级或轮询式进度做时间窗合并，对状态变化、错误和完成事件可靠保留；连接层设置心跳、空闲超时、每用户连接数和缓冲上限，并在断连后降级到状态轮询。日志、指标和 Trace 分工明确：指标发现异常，Trace 定位跨组件耗时，结构化日志补充错误上下文，避免把完整 Prompt 和产物内容作为默认标签或日志字段。

关键指标

• 创建 Job 到首个进度事件时间、事件端到端延迟和状态陈旧时长。
• 各阶段排队与执行 P95、任务吞吐、成功率和错误分类分布。
• SSE 活跃连接、重连率、心跳超时、缓冲溢出和事件合并比例。
• 可关联 Trace 比例、未知状态数量、告警定位时间与观测存储成本。

关键权衡

• 更细进度提高可见性，但会增加数据库、事件总线和浏览器渲染压力。
• 高频采样利于诊断短时抖动，却可能提高成本并泄露高基数字段。
• 轮询降级更稳健，但频率过高会把故障转化为状态查询流量峰值。

易错点

• 不要用一个总耗时指标覆盖排队、模型和提交阶段，无法指导优化。
• 不要把 jobId、用户输入或 Prompt 放进指标标签，容易产生高基数和敏感信息风险。